AI-beherskelse: Rid med på næste bølge med Dell Technologies

Courtney

Hej og velkommen tilbage til Dell Technologies Forum-podcastserien, hvor der sættes fart på ideer og innovation. I denne serie samler vi Dells mest intelligente hjerner og pionerer i branchen, så du kan navigere i det stadigt udviklende teknologiske landskab. Jeg hedder Courtney Hughes, din vært på denne opdagelsesrejse, og i dag ser vi anderledes på kunstig intelligens, en gamechanger, der omformer vores verden. Vi vil dykke ned i dens transformative indvirkning og undersøge, hvordan den ikke blot forstærker, men revolutionerer den måde, vi griber teknologien an på.

00:00:41:10 - 00:01:09:22

Courtney

Med Dell AI Factory har vi allerede lagt grunden til, at organisationer kan forvandle komplekse udfordringer til strømlinede løsninger. Og med mig i dag er John Siegel, Senior Vice President for Dell Portfolio Marketing, som har været med til at afmystificere AI og gøre den tilgængelig for alle. John, det er så fantastisk at have dig her for at dele din indsigt i, hvordan Dell lægger en vej for kunderne, så de trygt og tydeligt kan begive sig ud på deres egen AI-rejse.

00:01:09:23 - 00:01:11:07

Courtney

Velkommen til podcasten.

00:01:11:09 - 00:01:12:20

John

Dejligt at være her, Courtney.

00:01:12:22 - 00:01:35:11

Courtney

Jeg er glad for, at du er her. John, i tidligere afsnit definerede vi Dell AI Factory med Matt Baker og Doug Schmitt, der dækkede, hvad det er, og hvordan det fungerer. Så i dag vil jeg virkelig gerne spørge dig om dens indvirkning indtil videre. Kan du fra dit perspektiv fortælle, hvordan Dell AI Factory hjælper kunderne med at overvinde deres største udfordringer med AI?

00:01:35:13 - 00:02:02:05

John

Helt sikkert. Så først og fremmest, bare for at få en hurtig opsummering fra folk, så er Dell-fabrikken i sig selv vores tilgang til at hjælpe kunder med at accelerere deres AI-adoption. Og de største udfordringer, som vi konsekvent hører fra kunder omkring AI-muligheder, kan koges ned til tre ting: kompleksitet, risiko og omkostninger. Så lad mig tage fat på dem hver især først, og så kan jeg tale om, hvordan vi i dag hjælper kunderne gennem hver af dem.

00:02:02:07 - 00:02:21:17

John

Først kompleksiteten. Og vi har tidligere talt om, at AI-projekter kan være udfordrende, især i betragtning af den mangel på AI-færdigheder og -talent, som de fleste af vores kunder har. Og det er også en stor hindring for dem. Det er meget mere komplekst. De forventede at få adgang til data, der er relevante, det vil sige nøjagtige.

00:02:21:17 - 00:02:55:00

John

Og derefter være i stand til at fodre det i deres AI-projekter. Og som vi ofte siger, er gode data lig med god AI. Og ja. Desværre betyder dårlige data også, at det bliver dårlig AI. Det andet handler om risiko. Og vores kunder er bekymrede over risiciene. Alt fra data- og IP-lækage, privatlivsproblemer til bias-problemer, og vi ser gang på gang eksempler på dette, som rapporteret for nylig i Boston Globe. Jeg læste lige, at en lokal asiatisk universitetsstuderende bad generativ AI om at gøre sit portrætfoto mere professionelt, og desværre ændrede det hendes race.

00:02:55:02 - 00:03:05:03

John

Og se, dette er blot et eksempel. Der er mange lignende konsekvenser af, at AI er gået galt, og de er ret godt omtalte. Og som vi begge ved, er der ingen, der ønsker at skabe overskrifter.

00:03:05:06 - 00:03:05:24

Courtney

Præcis.

00:03:06:00 - 00:03:22:19

John

Og det tredje er omkostningerne. Det kan være meget dyrt at flytte data til clouden og køre AI-workloads der. Vi understøtter selv en hybrid-cloud-model, hvor vi understøtter, at AI bringes til dine data. Så for at se, når det kommer til... vil jeg gennemgå hver af dem nu. Når det kommer til at håndtere kompleksitet, er målet først og fremmest at gøre det nemmere.

00:03:22:21 - 00:03:45:10

John

Vi hjælper kunderne i dag med at komme i gang med eksperttjenester, der guider kunderne hele vejen gennem processen, fra at opbygge en strategi til at forberede deres data osv. og vi stræber også efter at levere den nemme knap til infrastruktur, hvor vi har samlet de komplette stakløsninger, der er gearet til specifikke brugsscenarier, og vi har valideret dem fuldt ud. Vi afprøver dem også på forhånd.

00:03:45:12 - 00:03:48:19

John

Et godt eksempel på det, Courtney, er AI Factory med NVIDIA.

00:03:48:22 - 00:03:49:14

Courtney

Ja, okay.

00:03:49:14 - 00:04:06:21

John

Vi har en, der hjælper kunderne med at bygge deres egne digitale assistenter. Så vi tager virkelig det hårde arbejde på os, så vores kunder ikke behøver at gøre det. Og når det kommer til at mindske risici, handler det i virkeligheden om at sikre, at vores kunders mest værdifulde data er beskyttet. Vi har en historie med at gøre dette rigtigt med vores pålidelige infrastruktur og tjenester.

00:04:06:21 - 00:04:27:00

John

Og jeg synes, at et godt eksempel på, hvad vi specifikt gør inden for AI, er vores arbejde med Meta, hvor vi for nylig hjalp kunder med at implementere den nyeste Llama 3 LLM lokalt og viste kunderne, hvordan man gør det sikkert gennem et whitepaper. Og dette bidrog i sidste ende til at reducere risikoen for databrud og hyperlækage osv. Så det er virkelig vigtigt.

00:04:27:00 - 00:04:45:17

John

Og endelig angående udfordringen med at reducere omkostningerne, så er der meget, vi kan bruge tid på der. Jeg vil sige, at i en nylig undersøgelse, du måske har set, viste, at inferens for LLM'er kan være 75 % mere omkostningseffektiv på stedet med Dell AI Factory versus den offentlige cloud. Og det var det, der blev gjort over en treårig periode.

00:04:45:17 - 00:04:53:14

John

Og det skyldes, at det simpelthen er mere omkostningseffektivt for kunderne, når de bygger deres AI-fabrikker, at bringe AI til deres data end omvendt.

00:04:53:16 - 00:05:03:03

Courtney

Godt. Hvad angår kundens egne AI-fabrikker, hvordan hjælper Dell dem så med at prioritere output som deres egne brugsscenarier?

00:05:03:05 - 00:05:09:02

John

Ja, et andet godt spørgsmål. Vi mener, det er vigtigt først at starte med outputtet eller resultatet for øje.

00:05:09:02 - 00:05:09:21

Courtney

Og okay.

00:05:09:21 - 00:05:29:07

John

Og deres brugsscenarier vil informere om det. De brugsscenarier, vi ser, eller bare på tværs af spektret, lige fra kodegenerering, hvor udviklere bruger naturligt sprog nu, til at automatisere rutineopgaver og rent faktisk skrive kode, til digitale assistenter, som jeg lige nævnte, til at transformere selvbetjeningsoplevelser til digitale tvillinger osv.

00:05:29:07 - 00:05:51:03

John

Så kunderne kommer ofte til os med masser af brugsscenarier, og vi har gjort det selv. I Dell. Ja, vi gør det også for kunderne med vores eksperttjenester. Faktisk har vi for nylig på kun seks uger hjulpet en kunde med at tage det, der i bund og grund var 200 ideer til brugsscenarier, og indsnævre dem til fem. Og det gjorde vi ved at hjælpe med at sikre, at de kunne skabe det største afkast for disse fem.

00:05:51:03 - 00:06:12:05

John

Og bare én gang, vi hjælper dem med at opnå konsensus. Så gennem vores tjenester omkring brugsscenarier med høj værdi, og vi ønskede virkelig at sikre, at disse brugsscenarier i sig selv fokuserede på dem, der havde fælles krav, og som leverede virkelig, virkelig god værdi for dem. Og ved at anvende denne tilgang kan de undgå spild. De kunne i bund og grund levere et meget bedre investeringsafkast og gøre det meget hurtigere.

00:06:12:07 - 00:06:20:18

Courtney

Okay, John. Når vi taler om brugsscenarier, annoncerede vi for nylig vores generative AI-løsninger til digitale assistenter. Kan vi tale om det brugsscenarie?

00:06:20:20 - 00:06:48:01

John

Ja. Lige nu er der meget begejstring omkring potentialet for selvbetjening, og at forbedre selvbetjeningsoplevelsen for kunderne. Vi har f.eks. kunder som byen Amarillo, der kom til os, fordi de var på udkig efter en måde, hvorpå de bedre kan give oplysninger til deres vælgere, der i bund og grund taler 60 forskellige sprog i hele byen. Og derfor ledte de efter en enkel måde at levere oplysninger på gennem en selvbetjeningsoplevelse.

00:06:48:01 - 00:07:08:23

John

Og det, vi har gjort med den nye løsning, og som vi har samarbejdet om med NVIDIA, er i bund og grund at finde en nem knap til løsningen. Vi har i bund og grund gjort alt det hårde arbejde med at levere en fælles løsning med NVIDIA, som vores kunder kan implementere og i løbet af få måneder se effekten af. Og i tilfældet med byen Amarillo, så har indvirkningen været betydelig.

00:07:08:23 - 00:07:22:05

John

De kan nu kommunikere oplysninger efter behov til deres vælgere. Vælgerne kan selv få adgang til offentlige tjenester, som de ikke kunne før. Og det er en gamechanger, som de vil bygge videre på i noget tid.

00:07:22:07 - 00:07:44:23

Courtney

Ja, jeg er enig med dig. Det er et rigtig godt eksempel på, hvordan Dell og NVIDIA hjælper kunderne med at sætte fart på deres ideer. Helt sikkert et godt eksempel. Derfor fortæller kunderne os om vigtigheden af at nå både deres mål for både AI og bæredygtighed. Godt. Hvordan kan Dell, især Dell AI Factory, hjælpe med dette?

00:07:45:00 - 00:08:02:22

John

Ja. Dell har mange års erfaring med at bruge en end-to-end-tilgang, når det kommer til bæredygtighed. Og Dell AI Factory er et rigtig godt eksempel på det. Den fokuserer på at levere AI-resultater og reducere miljøpåvirkningen. Så vi fokuserer virkelig på begge dele. Og sidstnævnte gør det på et par vigtige måder.

00:08:02:22 - 00:08:14:02

John

For det første giver det indsigt i bæredygtighed, der kan handles på. Så vores AI-afdeling og overvågningsfunktioner kan analysere energiforbruget på tværs af en kundes IT-system.

00:08:14:04 - 00:08:14:20

Courtney

Åh, wauw.

00:08:14:22 - 00:08:36:19

John

Ja, ja. Og rent faktisk komme med anbefalinger til, hvordan de kan reducere deres datacenteraftryk. Det fysiske areal og CO2-aftrykket. Så det er noget nyt, som ikke alle ved. For det andet hjælper vi med at sænke energi- og køleomkostningerne gennem vores egne teknologier. Vi har som det, vi annoncerede ved Dell Tech World for nylig, vores nye Power Edge 9680 l, som er baseret på NVIDIA's Blackwell.

00:08:36:19 - 00:08:59:11

John

Og den er designet til væskekøling, der virkelig hjælper med at maksimere databehandlingseffektiviteten, samtidig med at den termiske effektivitet opretholdes. Så vi ser konstant på de nyeste og bedste teknologier for at hjælpe kunder, og for det tredje handler det om at hjælpe dem med at overgå til AI med cirkularitet i tankerne. Det betyder, at vores kunder kan opgradere til nye og mere bæredygtige teknologier.

00:08:59:11 - 00:09:18:22

John

Vi står bestemt på tærsklen til en større teknologisk opdatering lige nu, hvor datacentre bevæger sig mod AI-fabrikker og selvfølgelig også udrulningen af AI PCs. Og tidligere har opdateringscyklusserne typisk været forbundet med miljømæssige omkostninger. Godt. Okay. Faktisk har vi denne gang erfaringen og muligheden for at bryde den cyklus.

00:09:18:22 - 00:09:30:13

John

Ja. Og vi håber at gøre det ved at bruge cirkulære fremgangsmåder som vores tjeneste til gendannelse af aktiver til bærbare pc'er. Hvor vi kan beholde produkter og materialer og bruge dem meget, meget længere og reducere spild.

00:09:30:15 - 00:09:38:00

Courtney

Til slut, John, hvordan har Dells egen erfaring med AI hjulpet med at forme denne Dell AI Factory?

00:09:38:02 - 00:09:57:17

John

Jeg vil sige meget. Hvordan det? Lad mig bare sige, at vi selv har slået knæ og albuer lidt på denne rejse. Vi er ved at videregive disse vigtige erfaringer til vores kunder, og jeg må fortælle dig, at vores kunder elsker at høre om vores egen oplevelse på dette område. Vi bryder vores egen AI-rejse ned til et par faser.

00:09:57:17 - 00:10:19:00

John

For det første er der selve vores strategi. Vi har etableret en AI-Chief Officer-stilling i virksomheden, og vi har centraliseret alle AI-initiativer under den stilling og under den afdeling. Afdelingen selv er ansvarlig for at indsnævre brugsscenarierne, hvilket de gjorde fra 800 til fire. Disse fire var tilfældigvis også ret almindelige på tværs af vores kunder.

00:10:19:02 - 00:10:39:17

John

Softwareudvikling. Kundeservice, salg, indholdsgenerering, det er de fire store ting lige nu, hvor vi har fokus. Vores anden store fase er selve implementeringen. Det betød f.eks., at gøre vores data klar til AI. Og det er ikke en nem opgave, især ikke i en stor virksomhed som vores. Så vi var nødt til at identificere, hvor dataene var.

00:10:39:17 - 00:10:53:09

John

Vi var nødt til at rense dem, forberede dem, bekymre os om adgangskontroller og sikre, at vi havde den rette sikkerhed og styring på plads. Men da vi havde gjort det, var vi klar til at komme i gang. Og det er den oplevelse.

00:10:53:11 - 00:10:53:19

Courtney

Ja.

00:10:53:22 - 00:11:11:17

John

Det har virkelig bidraget til først og fremmest at være vores råd til kunderne omkring data, fordi vi har prøvet det. Og vi ser, at uanset om dine data lever lokalt, på kanten, i clouden eller endda på din egen pc, har vi selv haft succes med at få vores data frem, og vi rådgiver kunderne om, at du også kan drage fordel af det.

00:11:11:17 - 00:11:28:14

John

Og så var den sidste ting bare omkring adoptions- og skaleringsfasen, om man vil, det var den tredje store fase, vi havde. Det handler om at anvende vores brugsscenarier i praksis og om at investere i bred træning og kompetenceudvikling på tværs af vores virksomhed. Vi fandt ud af, at dette virkelig har hjulpet en hel del, og det har været en bedste praksis, som vi har delt med vores kunder.

00:11:28:14 - 00:11:45:01

John

Så alle disse oplevelser, som vi har haft ved at behandle os selv som kunde nul, ja, alle de erfaringer, vi har lært, de har virkelig bagt i vores datafabrik. Og det er i sidste ende det, det handler om, nemlig at hjælpe vores kunder med at realisere deres eget potentiale med AI.

00:11:45:06 - 00:12:02:08

Courtney

Ja. Og jeg er også sikker på, at det også fra dit perspektiv skaber stor tillid og troværdighed hos kunderne. Når man selv har gennemgået rejsen, og man kan tale om faldgruberne og de erfaringer, man har gjort, i modsætning til en person, der ikke har gjort det, og forsøge at lære en anden, hvordan man gør det.

00:12:02:10 - 00:12:12:04

John

Det er helt korrekt. Og jeg må fortælle dig, at det nok er det mest populære emne, vi har blandt kunderne i dag, og et emne, der helt sikkert vil blive talt meget om på Dell-foraene, der snart kommer.

00:12:12:06 - 00:12:40:18

Courtney

Mange tak for en god indsigt i at navigere i kompleksiteten ved AI-implementering, hvordan innovative løsninger, der muliggøres af Dell AI Factory, håndterer almindelige udfordringer, strømliner processer og giver organisationer mulighed for at udnytte AI effektivt og økonomisk. Og tak til vores lyttere for at være med på denne rejse ind i fremtidens teknologi. Det er vores håb, at den indsigt, vi har delt, har givet jer en klarere vej fremad i jeres egne AI-initiativer.

00:12:40:20 - 00:13:01:00

Courtney

Og for dig, der søger yderligere viden, kommer Dell Technologies Forum Roadshow snart. Så hold øje med det på vores website, eller du kan også finde vores online ressourcer, der dykker dybere ned i disse emner. John, endnu en gang tak for den ekspertise, du har delt med os i dag, og som helt sikkert har beriget vores forståelse af AI's transformative potentiale .

00:13:01:02 - 00:13:03:09

John

Og mange tak, Courtney. Mange tak for at jeg måtte være med.

00:13:03:11 - 00:13:18:03

Courtney

Og for vores dedikerede publikum er jeres engagement hjertet i denne serie. Vi ser frem til at fortsætte denne udforskning sammen med jer i vores næste afsnit. Dell Technologies Forum-podcastserien leveres til dig i samarbejde med Intel, Microsoft og NVIDIA.