Udnyttelse af AI: Sådan bliver data til værdi med AI Factory

Højttaler 1

Hej og velkommen til Dell Technologies Forum-podcastserien, hvor vi hurtigere forvandler transformative ideer til innovation. I denne serie samler vi Dells specialister og globale eksperter for at dykke ned i samarbejdsprojekter med kunder på tværs af centrale områder inden for teknologiudvikling. Jeg er din vært, Courtney Hughes, direktør for globale brandkampagner hos Dell Technologies, og i dag begiver vi os ud på en rejse ind i hjertet af AI-revolutionen.

00:00:34:17 - 00:01:05:15

Højttaler 1

Vi får selskab af Jeremy Williford, VP for Enterprise Enablement hos NVIDIA, som er perfekt placeret til at diskutere drivkræfterne bag AI's hurtige fremskridt og det transformative koncept med AI-fabrikker. Vi afdækker de udfordringer og muligheder, der ligger forude, og lærer, hvordan partnerskaber som Dell og NVIDIA sætter virksomheder i stand til at udnytte det fulde potentiale af AI. Så læn dig tilbage, og lad os dykke ned i fremtidens teknologi, som vi kender den.

00:01:05:17 - 00:01:09:06

Højttaler 1

Jeremy, mange tak, og velkommen til podcasten.

00:01:09:08 - 00:01:17:04

Højttaler 2

Courtney. Tak, fordi jeg må være her. Jeg er helt vild med denne podcast. Jeg har virkelig nydt de forskellige gæster, du har haft. Så tak, fordi jeg må være med.

00:01:17:06 - 00:01:40:22

Højttaler 1

Jeg har glædet mig til at have dig som gæst i dag. Du talte om podcasten, og i tidligere afsnit diskuterede vi generativ AI-revolutionen og undersøgte specifikt, hvad der har holdt nogle kunder tilbage. Det er omkostningerne, kompleksiteten og risikoen. Hvordan er Dell og NVIDIA unikt positioneret til at hjælpe?

00:01:40:24 - 00:02:15:10

Højttaler 2

Ja. Courtney, lad mig præcisere. Den aktuelle tilstand for AI-implementering i stor skala er dette. Forbes har lavet en rigtig god undersøgelse om det, og de sagde, at i øjeblikket kommer kun 10 % af AI-projekter længere end pilotprojekter til produktion i fuld skala. Og det er præcis det, du lige har beskrevet, ikke sandt? Der er kompleksitet. Der er omkostninger. Der er alle mulige ting, som er adgangsbarrierer for, hvordan vi får Ai-implementeringerne op i stor skala, og hvordan vi genkender alle de enorme mængder produktivitetsgevinster ved alt det, vi kan gøre med AI.

00:02:15:11 - 00:02:45:18

Højttaler 2

Men udfordringen for mange af vores kunder i virksomheden er, hvordan de kommer i gang. Hvor skal de hen med det? Og det, som NVIDIA og Dell er unikt positioneret til at gøre, er at bruge NVIDIAs økosystemudviklingsstrukturer. Alle vores frameworks, vores software, alt hvad vi gør med vores hardware, og så at kunne præsentere det for virksomheder og give dem mulighed for nå i mål, hvordan de skal gøre den AI-vision, de har, til virkelighed.

00:02:45:18 - 00:03:06:00

Højttaler 2

Hos NVIDIA starter vi altid med udvikleren, og hvordan dataforskeren og grupperne vil kunne opnå dette, men der er meget, der spiller ind. Hvis man tænker på hele byggeklodsprocessen, så sidder disse virksomheder på en masse datastrukturer.

00:03:06:05 - 00:03:25:05

Højttaler 2

Men desværre er de lige nu bare gemt, og de skal kunne finde ud af, hvordan de kan få disse data hentet fra deres egne strukturer, og derefter føre dem gennem en kurationsproces, så vi kan udføre forberedende træning. Så vi kan foretage modeltilpasning. Og når vi har det, skal vi lave et hentningssystem gennem inferens.

00:03:25:05 - 00:03:47:10

Højttaler 2

Denne inferens, som er de prompter, vi giver den. Hvordan laver vi inferens. Og så skal vi sætte sikkerhedsforanstaltninger op for at sikre, at vi får de rigtige oplysninger ud. Og hele den pipeline, jeg lige har beskrevet, er virkelig der, hvor NVIDIA virkelig fokuserer med Bill, for at give vores kunder den nemmeste vej til adoption, og især inden for det inferensrum.

00:03:47:12 - 00:04:22:01

Højttaler 2

Det er virkelig her, dækket møder vejen. Vi har udviklet noget hos NVIDIA kaldet NIMS, som er Nvidia Inferencing-mikrotjenester. Og disse mikrotjenester er som film til containerstakke. Og i disse fulde containerstakke har du al den software og de algoritmer, du skal bruge for at implementere dine inferensmodeller som kunde. Og det er det, der er konceptet for, hvordan vi får tekst og billeder og digital og computervision.

00:04:22:05 - 00:04:52:06

Højttaler 2

Alle disse ting er tilrettelagt til at køre AI på fuld tid. Så det er sådan, vi ser på det, og måden vi arbejder med Dell på, for når vi har al softwaren, kan Dell tage den og implementere den, ikke kun i infrastrukturen, ikke kun i verdens bedst sælgende server og verdens bedst sælgende storage, men også i Doug Schmitz' fulde implementering af 8000 konsulenttjenester for at hjælpe med at gennemføre denne rejse.

00:04:52:10 - 00:04:58:00

Højttaler 2

Derfor arbejder NVIDIA og Dell sammen. Og det er de problemer, vi forsøger at løse.

00:04:58:02 - 00:05:19:00

Højttaler 1

Som i tidligere afsnit talte vi om AI Factory. Vi har allerede dækket dette og forklaret vores lyttere, hvad det er, og hvordan de kan komme i gang. Det ville være fantastisk, hvis du kunne fortælle mig, hvordan kunderne implementerer den på tværs af flere brancher.

00:05:19:02 - 00:05:40:05

Højttaler 2

Ja, jeg synes, det er et godt spørgsmål. Lige nu har vi et væld af kunder, der er i fuld implementering, ikke sandt? Faktisk tror jeg, at det, du vil se, er, og jeg tror, vi ser det hurtigt, at vi ser mange AI-chatbots og ikke kun chatbots, men også virtuelle ægte virtuelle assistenter, som ægte virtuelle avatarer.

00:05:40:07 - 00:06:12:14

Højttaler 2

Jeg oplevede en i går, hvor avataren talte med mig om, hvad der kunne være mit netværksproblem, og hvordan vi løser det problem med netværkspakken, jeg har. Og det var en IT-professionel, der talte med en virtuel assistent. Og den virtuelle assistent brugte alle de oplysninger, der var i virksomhedens historik. Hvis du tænker på virksomheder, der har callcentre og den mængde data, der indsamles, fordi hver samtale registreres.

00:06:12:14 - 00:06:12:22

Højttaler 1

Ja.

00:06:12:24 - 00:06:38:16

Højttaler 2

Nu kunne vi tage alle disse optagelser og blive mere bevidste omkring, hvordan de virtuelle assistenter kan besvare og ikke kun besvare ét spørgsmål, men føre en samtale, har du prøvet det? Prøv dette. Hvis det ikke virker, så lad os tale om, hvad vi så kan gøre. Og det er en rigtig samtale, som du har på helt almindelig engelsk og i almindelig tekst.

00:06:38:18 - 00:07:00:00

Højttaler 2

Så det er et eksempel på, hvordan alle virksomheder kan bruge dette. Men der er også lydtransskriptioner. Når vi taler, bliver lyden og transskriptionen klart bedre og bedre, og det ser alle. Men nu bør vi kunne udføre lydtransskription, oversætte sprog og sikre, at folk har samtalesprog på forskellige sprog.

00:07:00:02 - 00:07:25:08

Højttaler 2

Det synes vi er stort. Og hvis man så kigger på cybersikkerhedssiden, og man leder efter det digitale fingeraftryk af, hvordan et angreb ser ud, efterhånden som vi lærer mere og mere om angreb og hvordan de kommer ind, kan man lave et digitalt fingeraftryk af det og placere den struktur på front-end'en af sit netværk, så virksomheder nu kan se disse oplysninger, når de kommer ind.

00:07:25:10 - 00:07:46:17

Højttaler 2

Så jeg tror, at det, du vil se, er mange sikkerhedsfunktioner. Og virksomheder bruger det i ligesom kodegenerering. Så enhver virksomhed, der har brug for at udvikle kode, faktisk er 75 % af vores teknikere hos NVIDIA kodeudviklere, er vi primært en softwarevirksomhed. Og dermed bruger vi generativ AI

00:07:46:17 - 00:08:08:00

Højttaler 2

til 100 % af vores kodeudvikling, set ud fra et synspunkt om, at hver udvikler har et AI-værktøj, der kan hjælpe dem. Og det hjælper dem med at kode hurtigere for at tjekke det ind og teste det hurtigere. Alle disse ting gøres internt hos NVIDIA. Jeg mener, at udtrykket er at drikke omkring vin.

00:08:08:00 - 00:08:28:05

Højttaler 2

Så den vin, vi laver – jeg ikke kan lide lægen, så det lyder bedre. Men den der vinting er godt. Jeg forstår. Og det andet, jeg elsker, er, at vi arbejder med en global pizzaleverandør. Og ruteoptimeringer er en af de vigtigste ting, de laver for at sikre, at de har rettidig levering.

00:08:28:12 - 00:08:53:20

Højttaler 2

vi har lavet en komplet ruteoptimering med dem. Det hele gøres gennem generativ AI for at hjælpe dem med at planlægge det rigtigt, så spændet mellem, hvordan dette kan påvirke virksomheder, og hvad virksomheder gør med dem, er så enormt. Og jeg tror, at det er en af de udfordringer, som virksomheder vil have og har lige nu. Jeg tror, at en af de tidligere gæster sagde noget om, at hver virksomhed har omkring 200 brugsscenarier.

00:08:54:24 - 00:09:16:03

Højttaler 2

Det er virkelig rart at få en virksomhed som Dell til at gå sammen med dem om priser og sige, okay, vi har gennemgået det samme. Ja. Lad os hjælpe dig med at reducere det til fem brugsscenarier, som vi virkelig kunne integrere i POC og virkelig afprøve det element med at begrænse det til et bestemt brugsscenarie, især internt.

00:09:16:05 - 00:09:30:03

Højttaler 2

Når du starter processen, er det altid godt at bruge nogle af de interne mekanismer, du har til AI til at hjælpe dine interne medarbejdere. Og på den måde kan du vænne dig til det og virkelig begynde at udvikle det i stor skala til dine slutkunder.

00:09:30:05 - 00:10:01:21

Højttaler 1

Jeg er helt enig med dig, Jeremy. Og du nævnte noget om opkald, og hvordan alle opkald optages. Du nævnte også noget tidligere om kunderne, om at de har data, der bare ligger der, og at data er en guldgrube af oplysninger, der kan hjælpe med at træne enhver AI, de ønsker at bruge internt. Hvordan har du de samtaler med kunder, der har denne guldmine af data, der er bange for at bruge dem?

00:10:02:03 - 00:10:24:19

Højttaler 2

Courtney, det er et godt spørgsmål. Hvis du ser på IT-branchen, er det en branche på 3 billioner USD lige nu. Og lige nu betragtes det som en omkostningsfaktor for alle virksomheder, ikke? Det er sådan, de skal gemme dataene. De er nødt til at opretholde den. Det er bare en omkostningsstruktur. Virksomhederne skal holde ud. Fremadrettet bør du nu kunne se på de datastrukturer, du har.

00:10:24:21 - 00:10:47:21

Højttaler 2

Og i stedet for bare at gemme dem, kan du nu se på det som, okay, vi er nødt til at hente disse oplysninger, forstå, hvad der er derinde, hvordan vi kan vokse som en virksomhed. Vi kan se på luftfartsindustrien. Luftfartsindustrien har tonsvis af utrolige, gennemtænkte data, der er blevet lagt i disse samtaler om, hvordan man omdirigerer folk, og hvor hurtigt de kan komme til forskellige ting.

00:10:47:23 - 00:11:05:06

Højttaler 2

Kan du forestille dig, hvis vi kunne bruge disse oplysninger? Og hvis jeg skulle besøge et af disse luftfartsselskaber i dag, ville jeg. Vi ville tale om, okay, lad os tale om at få virtuelle assistenter til hver af dine personlige repræsentanter. Lad os tale om at reducere din tid på et opkald med dem fra 15 minutter ned til to minutter.

00:11:05:10 - 00:11:25:12

Højttaler 2

Det er sådan, vi kan hjælpe dig. Vi kan træne de data, du allerede har. Vi kan sørge for, at vi installerer de nødvendige sikkerhedsforanstaltninger. Vi kan lægge de relevante faktorer ind for at sikre, at intet af dette er krydshenvisning til folk eller andet, men vi kan sikre os, at dine teams lærer af det, og at de har det som et værktøj til deres rådighed.

00:11:25:18 - 00:11:52:20

Højttaler 2

Så de behøver ikke at lære tingene igen 60, 70 gange. De har en virtuel assistent, der kan hjælpe dem. Og derfor er vi virkelig nødt til at arbejde med IT-chefer og derefter også forretningsenhedsledere i virksomheder og få dem til at forstå kunsten i det mulige. Det er egentlig det, det handler om. Datastrukturerne er der, værktøjerne, softwaremekanismerne, sikkerhedsforanstaltningerne, alt er der for at kunne registrere disse data med succes.

00:11:52:24 - 00:12:22:20

Højttaler 2

Sæt den i en togmodel, og brug den til et inferensflow, der vil hjælpe din virksomhed. Og for at gøre det er du nødt til at starte denne rejse. Og starten på den er en spændende tid. Derfor fokuserer Dell og NVIDIA sammen med rådgivende tjenester og praksisser fokuserer på, at Dell er førende inden for global storage og forstår storagestrukturerne indgående for at forstå, hvordan du leverer dem til kunden.

00:12:22:22 - 00:12:24:23

Højttaler 2

Du kunne ikke vælge en bedre partner end Dell og NVIDIA.

00:12:24:23 - 00:12:36:23

Højttaler 1

Og du har helt ret. Tak, Jeremy. Til slut, når du kigger fremad, kan du fortælle os om, hvad du ser som de vigtigste udviklinger inden for AI i virksomheder?

00:12:37:00 - 00:13:00:24

Højttaler 2

Det er en virkelig spændende tid, Courtney. Og jeg tror, at når vi kigger fremad, vil vi se en mere fuld udnyttelse af datastrukturer. Vi har talt meget om opkaldene og alle mulige ting, der skal gemmes. Men hvis du tænker over det, ligger alt, hvad du bygger som virksomhed, alt, hvad du producerer, alle disse strukturer i data.

00:13:00:24 - 00:13:21:09

Højttaler 2

Og nu kan vi samle alle disse datastrukturer i ét sammenhængende miljø, så du kan bygge digitale tvillinger af alt, hvad du laver. Så hvis du tænker på en produktionsfacilitet, kan de samle alt det forskellige udstyr ind, de har. De kunne samle alle de ting, de laver, i deres forskellige værktøjer, der bygger alle disse ting.

00:13:21:14 - 00:13:49:24

Højttaler 2

Men alt dette ligger i ét softwarelag. Du kan samle dem alle ind i det vi kalder en universel scenebeskrivelse. Og efterhånden som du samler alle disse oplysninger, kan du lave en digital tvilling af dit miljø. Når du træner nye robotter til at arbejde i hele miljøet på en sikker måde med mennesker, kan du aflaste mange af disse ting, ligesom vi talte om måden, som disse digitale assistenter kan aflaste og hjælpe produktiviteten på.

00:13:50:01 - 00:14:19:16

Højttaler 2

Nu taler vi om at bygge digitale tvillinger og miljøer og træne disse robotter i en digital verden, så de er sikre, effektive og nyttige, når de kommer ind i den virkelige verden. Og vi taler om enorme mængder produktivitetsgevinster og produktionsgevinster med denne type miljø. Så vi arbejder meget hos NVIDIA og sammen med Dell for at udvikle disse nye digitale tvillingemiljøer for at udvikle det, produktionsbrancherne bruger til dette.

00:14:19:18 - 00:14:31:08

Højttaler 2

Jeg tror, ​det vil ændre alt for, hvordan vi dybest set bare interagerer med lys. Så jeg tror, der venter masser af muligheder forude. Og efterhånden som generativ AI bliver mere og mere udbredt.

00:14:31:10 - 00:14:43:07

Højttaler 1

Jeg ved, at jeg sagde til slut, men jeg har faktisk noget andet, som jeg gerne vil spørge dig om. Hvad er du mest begejstret for ved det sted, vi er i lige nu og tiden.

00:14:44:00 - 00:15:06:03

Højttaler 2

det er et godt spørgsmål. Jeg vågner i øvrigt hver morgen og er spændt på mulighederne og markedet, og hvad virksomheder gør med dette. Jeg føler virkelig, at overgangsstien nu er alle de virksomheder, som transformationen foregår på markedet, hvor virksomheder nu begynder at indse, at deres data er deres mål.

00:15:06:03 - 00:15:30:02

Højttaler 2

Ikke sandt? Så hele ideen om, at data er olie, og at du er nødt til at finjustere dem til at blive brændstoffet for den næste generation af din produktivitet. Jeg elsker den transformation, det skaber på markedet, fordi det, fra et softwareperspektiv, bringer et væld af fantastiske startup-virksomheder frem, som tilbyder utrolige værktøjer til at hjælpe disse kunder med at levere det.

00:15:30:02 - 00:15:56:09

Højttaler 2

Og det, jeg er mest begejstret for, er at bringe disse virksomheder sammen med Dell for at tilbyde ting til virksomheder, der virkelig transformerer deres forretning. Og jeg kunne ikke have bedt om en bedre karrierevej end at få det her til at ske og gøre det til virkelighed for kunderne, for vores partnere, der softwareudvikler for Dell og NVIDIA, og hvordan vi orkestrerer denne bevægelse.

00:15:56:11 - 00:16:08:02

Højttaler 2

Det mest spændende for mig er virkelig bare landskabsændringen på markedet, og hvordan virksomheder udnytter den, og hvad de gør for at forbedre deres egne forretninger.

00:16:08:07 - 00:16:10:21

Højttaler 1

Det her er kun begyndelsen.

00:16:10:23 - 00:16:22:09

Højttaler 2

Kun starten, kun starten. Ja, det er det. Og jeg er sikker på, at vi vil se tilbage på denne tid og tænke Åh gud, vi undervurderede, at dette var muligt.

00:16:22:11 - 00:16:28:22

Højttaler 1

Det har du helt ret i, Jeremy. Mange tak for din tid i dag. Det har været fantastisk at tale med dig.

00:16:28:24 - 00:16:34:14

Højttaler 2

Courtney. Tak, fordi jeg må være her. Det sætter jeg stor pris på. Og jeg elsker partnerskabet med Dell. Så endnu en gang mange tak.

00:16:34:16 - 00:16:59:05

Højttaler 1

Og tak til jer, vores lyttere, for jeres selskab på denne rejse ind i fremtidens teknologi. Det er vores håb, at de indsigter, vi har delt, har givet jer en klarere vej fremad i at udforme jeres egne AI-initiativer. For dig, der søger yderligere viden, kommer Dell Technologies Forum Roadshow. Hold øje med det på vores website, eller du kan også finde vores online ressourcer, der dykker dybere ned i disse emner.

00:16:59:07 - 00:17:05:13

Højttaler 1

Dell Technologies Forum-podcastserien leveres til dig i samarbejde med Intel, Microsoft og NVIDIA.