AI-ledarskap: Lär dig surfa på nästa AI-våg med Dell Technologies

Courtney

Hej och välkommen tillbaka till Dell Technologies Forum, poddserien där idéer möter innovation i en allt snabbare utveckling. I den här serien bjuder vi in Dells smartaste hjärnor och pionjärer så att du ska kunna hitta rätt i dagens allt mer dynamiska tekniklandskap. Jag heter Courtney Hughes och är din värd under den här upptäcktsresan. I dag ska vi titta på artificiell intelligens från ett annat håll, för att se hur detta som förändrar spelets regler har sin stora inverkan. Vi ska inte bara titta på hur det förstärker, utan även revolutionerar hur vi tar oss an teknikimplementering.

00:00:41:10–00:01:09:22

Courtney

Med Dell AI Factory har vi redan skapat grunden för att organisationer ska kunna omvandla komplexa utmaningar till effektiva lösningar. Med mig i dag har jag Jon Siegel, Senior Vice President för Dell Portfolio Marketing, vars team har bidragit till att avmystifiera AI och göra det tillgängligt för alla. Jon, det är så roligt att du är här och delar med dig av dina insikter om hur Dell gör det möjligt för kunderna att ge sig ut på sina egna AI-resor med tillförsikt och tydlighet.

00:01:09:23–00:01:11:07

Courtney

Välkommen till programmet.

00:01:11:09–00:01:12:20

Jon

Det är roligt att vara här, Courtney.

00:01:12:22–00:01:35:11

Courtney

Jag är så glad över att ha dig här. I tidigare avsnitt har vi definierat Dell AI Factory med Matt Baker och Douglas Schmitt som förklarade vad det är och hur det fungerar. I dag vill jag gärna fråga dig om dess inverkan hittills. Kan du berätta ur ditt perspektiv hur Dell AI Factory hjälper kunderna att övervinna sina största utmaningar med AI?

00:01:35:13–00:02:02:05

Jon

Absolut! Till att börja med kan jag bara snabbt sammanfatta att Dell Factory i sig är egentligen vår metod för att hjälpa kunderna att påskynda sin AI-implementering. De största utmaningarna som vi ständigt hör från kunderna när det gäller AI-alternativ handlar i stort om tre saker: komplexitet, risk och kostnad. Därför vill jag bemöta var och en av dem lite först, innan jag pratar om hur vi i dag hjälper kunderna med var och en av dem.

00:02:02:07–00:02:21:17

Jon

Först har vi komplexitet. Vi har tidigare pratat om att AI-projekt kan vara utmanande, särskilt med tanke på den lucka i AI-färdigheter och -talanger som de flesta av våra kunder har. Databeredskap är också ett stort hinder för dem. Det är mycket mer komplext än de trodde, de förväntade sig att behöva ha åtkomst till data som är relevanta och korrekta,

00:02:21:17–00:02:55:00

Jon

och sedan kunna mata in det i sina AI-projekt. Som vi ofta säger så är bra data lika med bra AI. Japp. Tyvärr är dåliga data också lika med dålig AI. Det andra handlar om risk och våra kunder är oroliga för riskerna. Det är allt från data- och IP-läckage i dag, integritetsfrågor till biasfrågor och vi ser exempel på detta gång på gång. Det rapporterades nyligen i Boston Globe om en lokal asiatisk högskolestudent som bad Gen AI att göra hennes profilbild mer professionell, och tyvärr ändrade den hennes etnicitet.

00:02:55:02–00:03:05:03

Jon

Det här är bara ett exempel. Det finns många exempel på konsekvenserna av att AI gör fel, och de är ganska välkända. Som vi båda vet vill ingen skapa rubriker.

00:03:05:06–00:03:05:24

Courtney

Precis.

00:03:06:00–00:03:22:19

Jon

Det tredje är kostnaden. Det kan vara väldigt dyrt att flytta data till molnet och köra AI-arbetsbelastningar där. Vi stöder själva en hybridmolnmodell där vi verkligen har stöd för att tillämpa AI på dina data. Så jag ska gå igenom var och en av dem nu. När det gäller att hantera komplexitet är målet att först och främst göra det enklare.

00:03:22:21–00:03:45:10

Jon

Vi hjälper i dag kunder att komma igång med experttjänster som vägleder kunderna hela vägen genom processen, från att ta fram en strategi till att förbereda deras data osv. Vi strävar också efter att tillhandahålla en enkel lösning för infrastruktur, där vi har sammanställt kompletta stacklösningar som är anpassade till specifika användningsfall, och vi har validerat dem. Vi testar dem också på förhand.

00:03:45:12–00:03:48:19

Jon

Ett bra exempel på det är AI Factory with NVIDIA.

00:03:48:22–00:03:49:14

Courtney

Ja, precis.

00:03:49:14–00:04:06:21

Jon

Där vi har en funktion som hjälper kunder att bygga sina egna digitala assistenter. Så vi har verkligen tagit hand om det hårda arbetet så att våra kunder slipper det. När det sedan gäller att minska riskerna handlar det om att se till att våra kunders mest värdefulla data skyddas. Vi har en bakgrund av att göra det här med vår betrodda infrastruktur och våra tjänster.

00:04:06:21–00:04:27:00

Jon

Jag tror att ett bra exempel på när vi gör just det inom AI är vårt arbete med Meta. Där hjälpte vi nyligen kunderna att installera den senaste Llama 3 LLM på plats och visade kunderna hur man gör det på ett säkert sätt genom ett informationsdokument. Detta bidrog i slutändan till att minska risken för dataläckor och IP-läckage osv. Så det är verkligen viktigt där.

00:04:27:00–00:04:45:17

Jon

Slutligen när det gäller utmaningen att minska kostnaderna finns det mycket vi kan lägga tid på där. Jag vet inte om du sett att en studie som genomfördes nyligen visade att inferens för stora språkmodeller kan vara 75 % mer kostnadseffektivt på plats med Dells AI Factory jämfört med det offentliga molnet. Det var under en treårsperiod.

00:04:45:17–00:04:53:14

Jon

Detta beror på att det helt enkelt är mer kostnadseffektivt för kunderna när de bygger sina AI-fabriker att ta AI till sina data i stället för tvärtom.

00:04:53:16–00:05:03:03

Courtney

Precis. När det då gäller kundens egna AI-fabriker, hur hjälper Dell dem att prioritera utdata, till exempel deras egna användningsfall?

00:05:03:05–00:05:09:02

Jon

Ännu en bra fråga. Vi anser att det är viktigt att börja med att ha utdata eller resultatet i åtanke först.

00:05:09:02–00:05:09:21

Courtney

Okej.

00:05:09:21–00:05:29:07

Jon

Deras användningsfall ligger till grund för det. De användningsfall vi ser ligger för övrigt över hela spektrumet, från kodgenerering där utvecklare använder naturligt språk nu för att automatisera rutinuppgifter och faktiskt skriva kod, till digitala assistenter som jag precis nämnde, till omvandling av självbetjäningsupplevelser, till digitala tvillingar, för att nämna några.

00:05:29:07–00:05:51:03

Jon

Kunderna kommer ofta till oss med en stor mängd användningsfall och vi har gjort det själva, inom Dell. Vi gör det även för kunder med våra experttjänster. Vi hjälpte faktiskt nyligen en kund att på bara sex veckor ta vad som i princip var idéer för 200 användningsfall och begränsa dem till fem. Det gjorde vi genom att se till att de kunde få den största avkastningen med dessa fem.

00:05:51:03–00:06:12:05

Jon

Vi hjälper dem att nå konsensus. Det gör vi genom våra tjänster kring värdefulla AI-användningsfall. Vi ville verkligen se till att dessa användningsfall la fokus på sådana som hade gemensamma krav och som levererade riktigt, riktigt bra värde för dem. Genom att använda detta tillvägagångssätt kunde de undvika slöseri. De kunde i princip få en mycket bättre avkastning på investeringen och göra det mycket snabbare.

00:06:12:07–00:06:20:18

Courtney

Okej, Jon. När vi då pratar om användningsfall tillkännagav vi ju nyligen våra Gen AI-lösningar för digitala assistenter. Kan du berätta lite om det användningsfallet?

00:06:20:20–00:06:48:01

Jon

Okej. Det är många som ser fram emot potentialen med självbetjäning och att förbättra självbetjäningsupplevelsen för kunderna. Vi har till exempel kunder som staden Amarillo som vände sig till oss för att de ville hitta ett sätt att ge bättre information till sina väljare, eftersom stadens befolkning i princip talar 60 olika språk. Därför var de ute efter ett enkelt sätt att tillhandahålla information genom en självbetjäningsupplevelse.

00:06:48:01–00:07:08:23

Jon

Det vi har gjort med den nya lösningen i samarbete med NVIDIA, är i princip att sätta ihop en lösning som är mer eller mindre användningsklar. Vi har egentligen gjort allt det hårda arbetet med att tillhandahålla en gemensam lösning med NVIDIA som våra kunder kan driftsätta och på några korta månader kan de se effekten. I fallet med Amarillo har effekten har varit avsevärd.

00:07:08:23–00:07:22:05

Jon

De kan nu förmedla information till sina väljare efter behov. Väljarna kan själva få tillgång till myndighetstjänster på ett sätt som de inte kunde tidigare. Det här är en enorm förändring och de kommer att bygga vidare på den under en tid.

00:07:22:07–00:07:44:23

Courtney

Ja, jag håller med dig. Det är ett väldigt bra exempel på hur Dell och NVIDIA hjälper kunder att föra sina idéer framåt. Verkligen ett bra exempel. Kunderna berättar för oss om vikten av att nå sina mål inom både AI och hållbarhet. Precis. Hur kan Dell, i synnerhet Dell AI Factory, hjälpa till med det?

00:07:45:00–00:08:02:22

Jon

Okej. Dell har en historia av att ha en heltäckande strategi när det gäller hållbarhet. Dells AI Factory är ett väldigt bra exempel på det. Det fokuserar på att leverera AI-resultat och minska miljöpåverkan. Vi fokuserar verkligen på båda. Och det gör det senare på ett par viktiga sätt.

00:08:02:22–00:08:14:02

Jon

Till att börja med möjliggör det användbara insikter kring hållbarhet. Våra AI OPS och övervakningsfunktioner kan analysera energianvändningen i en kunds IT-miljö.

00:08:14:04–00:08:14:20

Courtney

Jaha, wow.

00:08:14:22–00:08:36:19

Jon

Javisst. De kan faktiskt ge rekommendationer om hur man kan minska datacentrets fotavtryck, det fysiska avtrycket och koldioxidavtrycket. Det är en ny sak som inte alla känner till. Det andra är att vi bidrar till att sänka kostnaderna för strömförsörjning och kylning med hjälp av vår egen teknik. Vi har till exempel det vi tillkännagav på Dell Tech World nyligen, vår nya Power Edge 9680 L, som är baserad på NVIDIA:s Blackwell.

00:08:36:19–00:08:59:11

Jon

Den är utformad för vätskekylning, vilket verkligen hjälper till att maximera beräkningskraften samtidigt som värmeeffektiviteten bibehålls. Vi tittar ständigt på det senaste och bästa inom teknik för att hjälpa med detta. För det tredje handlar det om att hjälpa kunderna att övergå till AI med cirkularitet i åtanke. Det innebär att se till att kunderna kan uppgradera till ny och mer hållbar teknik.

00:08:59:11–00:09:18:22

Jon

Vi står verkligen på gränsen till en stor uppdatering av tekniken just nu, med datacenter som rör sig mot AI-fabriker och naturligtvis även lanseringen av AI-datorer. Tidigare har uppdateringscyklerna vanligtvis inneburit miljökostnader. Precis. Okej. Den här gången har vi faktiskt erfarenhet och möjlighet att göra annorlunda.

00:09:18:22–00:09:30:13

Jon

Okej. Vi hoppas på att kunna göra det med hjälp av cirkulära metoder som våra Asset Recovery Services för bärbara datorer, så att vi kan behålla produkter och material och använda dem betydligt längre och minska avfallet.

00:09:30:15–00:09:38:00

Courtney

Till sist, Jon, hur har Dells egen erfarenhet av AI hjälpt till att forma Dell AI Factory?

00:09:38:02–00:09:57:17

Jon

Jag skulle säga att den hjälpt till mycket. Vad tror du om det? Man kan väl säga att vi själva har fått både blåmärken och skrapsår längs vägen. Nu vill vi förmedla dessa viktiga lärdomar till våra kunder, och jag måste säga att våra kunder uppskattar verkligen att höra om vår egen erfarenhet inom det här området. Vi delar in vår egen AI-resa i ett par faser.

00:09:57:17–00:10:19:00

Jon

Först är det själva strategin. Vi har inrättat en befattning som Chief AI Officer på företaget och vi har centraliserat alla AI-initiativ under den positionen och under den avdelningen. Den avdelningen ansvarar egentligen för att begränsa användningsfallen, vilket de gjorde från åttahundra till fyra. Dessa fyra råkade dessutom vara ganska vanliga bland våra kunder.

00:10:19:02–00:10:39:17

Jon

Mjukvaruutveckling, kundservice, försäljning och innehållsgenerering är de fyra stora vi fokuserar på. Vår andra stora fas är själva implementeringen. Det innebar till exempel att göra våra data redo för AI. Det är inte en lätt uppgift, särskilt inte i ett stort företag som vårt. Så vi var tvungna att identifiera var data fanns.

00:10:39:17–00:10:53:09

Jon

Vi behövde rensa dem, förbereda dem, fundera över åtkomstkontroller och se till att vi hade rätt säkerhet och styrning på plats. Men när vi väl hade gjort det var vi redo att sätta igång. Det är den upplevelsen,

00:10:53:11–00:10:53:19

Courtney

Okej.

00:10:53:22–00:11:11:17

Jon

som verkligen har bidragit till våra råd till kunder när det gäller att ta AI till data, eftersom vi har varit där själva. Vi kan se att oavsett om data finns på plats, i kanten eller i molnet, eller till och med på din egen dator, har vi själva lyckats med att ta AI till våra data, och vi säger till kunderna att de också kan dra nytta av det.

00:11:11:17–00:11:28:14

Jon

Sedan var det sista införande- och skalningsfasen, så att säga, som var den tredje stora fasen vi gick igenom. Det handlar om att sätta våra användningsfall i arbete och även investera i bred utbildning och kompetensutveckling i hela företaget. Vi såg att detta verkligen hjälpte oss, och det har varit en bästa praxis som vi har delat med våra kunder.

00:11:28:14–00:11:45:01

Jon

Alla dessa erfarenheter som vi har fått från att behandla oss själva som kund noll, alla de lärdomar som vi har fått, de är verkligen inbyggda i Dell AI Factory. Och i slutändan är det detta allt handlar om: att hjälpa våra kunder att uppnå sin egen potential med AI.

00:11:45:06–00:12:02:08

Courtney

Okej. Jag är säker på att det även från ditt perspektiv skapar ett stort förtroende och trovärdighet hos kunderna. När du har gått igenom resan själv och kan prata om fallgroparna och de lärdomar som man har fått, jämfört med att någon som inte har gjort det försöker lära ut hur man gör det.

00:12:02:10–00:12:12:04

Jon

Det stämmer verkligen. Jag måste säga att det förmodligen är det mest populära samtalsämnet som vi har med kunder idag, och det är ett ämne som säkert kommer att diskuteras mycket på Dells forum, som det snart är dags för.

00:12:12:06–00:12:40:18

Courtney

Tack för dina fantastiska insikter om att navigera i komplexiteten med AI-implementering, hur innovativa lösningar som möjliggörs av Dells AI Factory bemöter vanliga utmaningar, effektiviserar processer och gör det möjligt för organisationer att dra nytta av AI på ett effektivt och ekonomiskt sätt. Och tack till våra lyssnare för ert sällskap på denna resa in i teknikens framtid. Vi hoppas att de insikter vi har delat med oss av har gett dig en tydligare väg framåt i ditt eget AI-arbete.

00:12:40:20–00:13:01:00

Courtney

För er som vill ha mer kunskap närmar sig Dell Technologies Forums turné, så håll utkik efter det på vår webbplats. Vi har även onlineresurser som går djupare in på dessa ämnen. Jon, tack än en gång för de expertkunskaper du delade med dig av under det här samtalet i dag, vilket definitivt har ökat vår förståelse för AI:s transformativa potential.

00:13:01:02–00:13:03:09

Jon

Tack själv, Courtney. Tack så mycket för att jag fick komma.

00:13:03:11–00:13:18:03

Courtney

Tack även till vår hängivna publik, ert engagemang är hjärtat i den här serien. Vi ser fram emot att fortsätta utforska tillsammans med er i våra kommande avsnitt. Poddserien Dell Technologies Forum presenteras i samarbete med Intel, Microsoft och NVIDIA.