AI-fundamenter: Opbygning af smartere løsninger med Dell og Intel

Courtney

Hej og velkommen til Dell Technologies Forum-podcastserien, hvor vi hurtigere forvandler transformative ideer til innovation. I denne serie samler vi Dells specialister og globale eksperter for at dykke ned i samarbejdsprojekter med kunder på tværs af centrale områder inden for teknologiudvikling. Jeg er din vært, Courtney Hughes, indholdschef for eventprogrammering hos Dell Technologies. Og i dag vil vi bygge videre på tidligere afsnit, hvor vi har dækket de almindelige udfordringer, som kunderne står over for med AI.

00:00:36:12 - 00:00:57:16

Courtney

Alt fra kompleksitet og tilgængeligheden af ​​brugbare, færdige data til intern ressourceudnyttelse med risici som databeskyttelse og IP-lækage og naturligvis omkostninger. Sammen med Bill Pearson, VP for datacenter- og AI-softwareløsninger og -økosystem fra Intel. Velkommen, Bill.

00:00:57:18 - 00:00:59:17

Bill

Tak, Courtney. Jeg er glad for at være her.

00:00:59:19 - 00:01:19:16

Courtney

Ja. Vi identificerer de vigtigste kundebehov og AI-implementering, herunder udgangspunkter, skræddersyede løsninger og sikkerhed, samt undersøger aktuelle og nye muligheder og kigger på, hvordan det tætte partnerskab mellem Intel og Dell hjælper os med at levere smartere AI-løsninger. Er du klar til at gå i dybden, Bill?

00:01:19:19 - 00:01:21:24

Bill

Helt sikkert. Lad os komme i gang.

00:01:22:01 - 00:01:30:01

Courtney

Okay. Du kan starte med at fortælle os, hvad I hos Intel ser som de vigtigste behov for kunderne i deres AI-rejse?

00:01:30:03 - 00:01:45:15

Bill

Okay, et af de første spørgsmål, vi ofte hører fra kunder, er, hvordan kommer vi i gang? Der er meget at gøre på dette område. Det udvikler sig hurtigt, og kunderne forsøger virkelig at løse en forretningsudfordring og gøre det på en effektiv måde. Og så starter de med pilotprojekter. De finder ud af, hvordan det ser ud.

00:01:45:17 - 00:02:15:16

Bill

Og ofte hører vi, at kunderne er på udkig efter valgmuligheder. De leder efter valgmuligheder på tværs af hardware- og softwarenetværk. Og en af de ting, vi er virkelig begejstrede for med hensyn til valgmuligheder, er Dell Power Edge ECS 9680. Den er baseret på Gaudi3. Og det er en fantastisk mulighed for infrastruktur, som kunderne kan overveje. Når vi ser på dette og hører fra kunder, vil vi sikre os, at vi virkelig forstår deres behov, når de arbejder på tværs af deres workloads, uanset om det er datacenter, kantklient, det er ligegyldigt.

00:02:15:18 - 00:02:46:11

Bill

Og en af måderne, vi gør det på, er ved at tilbyde disse systemreferencedesigns, som vi kalder Intel AI-systemer. Men i virkeligheden handler det om at blande beregning, lagring, tilslutningsmuligheder, software og så forstå det kundespecifikke forretningskrav og være i stand til at skræddersy disse ting for at imødekomme virksomhedens behov og det, kunderne forsøger at opnå, uanset om det ender med at være inferens eller finjustering af RAG, Retrieval, Augmented Generation eller træning.

00:02:46:13 - 00:03:18:21

Bill

Den centrale del af strategien er valgmulighed og derefter fokus på de forretningsmuligheder, de ønsker at opnå. En af de ting, vi også har set, er, at efterhånden som kunderne kommer længere ind i det, de har truffet nogle valg og forsøger at dykke ned i, hvordan disse ting implementeres. Godt. Der er ofte en udfordring, som er specifik for virksomheder, og det handler om ting som: Hvordan sikrer jeg mig, at de systemer, jeg sammensætter, virkelig er i virksomhedsklassen, og at de er skræddersyet til at fungere med min eksisterende infrastruktur?

00:03:18:21 - 00:03:39:18

Bill

De er valideret og optimeret til, at de rigtige softwarestakke er tilpasset mine unikke forretningskrav. De er sikre, de er administrerede, og præsterer godt i det arbejde, jeg ønsker. De skaleres og vokser i takt med, at min virksomhed vokser. De kan administrere alle mine virksomhedsdata fra en række kilder, som jeg har tilsluttet, og at de alle er prisgunstige?

00:03:39:18 - 00:03:42:20

Bill

At jeg kan gøre alt dette på en måde, at det ikke vil få mig til at gå fallit.

00:03:43:01 - 00:03:49:16

Courtney

Godt. Med udgangspunkt i det. Hvad er AI-mulighederne og de vigtigste brugsscenarier for virksomheder?

00:03:49:18 - 00:04:09:18

Bill

Ja, dette er et fascinerende område, jeg nævnte. Det udvikler sig hurtigt. Og når vi tænker på, udviklingen i dag, ser vi masser af AI-assistenter. Jeg vil sige, at der, hvor vi virkelig ser AI forbedre opgaver, som folk udfører, er kodegenerering, fejlregistrering, den slags ting. Og vi ser samtidig fremkomsten af AI-agenter.

00:04:09:18 - 00:04:30:13

Bill

Og det er her, du har en slags domænespecifikke workflows. Kundeservice og support er et godt eksempel på dette. Og efterhånden som vi går videre, vil vi naturligvis se mere af agenttilgangen. Men vi vil også se mere af en funktionel AI-tilgang, hvor AI bruges til at automatisere komplekse resultater for hele virksomheden omkring f.eks. økonomi eller sundhedsdiagnosticering.

00:04:30:15 - 00:05:04:14

Bill

Og for at gøre disse ting mulige, at holde toget kørende. Er der ligesom to centrale kræfter, der arbejder sammen i dette. Den ene er udviklingen af AI-kapaciteter. Altså hvordan vi træner mere sofistikerede modeller, får flere inferensdatasæt osv. Den anden handler om domænespecifikke data. Og vi sørger bare for, at vi gør det nemt for virksomheder at udvikle og implementere modeller, der er trænet på deres domæne- eller virksomhedsspecifikke data, for at samle disse data, give disse omfattende indsigter og drive den efterfølgende vækst.

00:05:04:16 - 00:05:16:11

Bill

Og for at disse to ting kan være mulige og bevæge sig videre til det næste sæt af agenter, såsom Retrieval, Augmented Generation, er RAG-teknologien, jeg nævnte tidligere, bare virkelig afgørende for alt det.

00:05:16:13 - 00:05:25:16

Courtney

Ja. Og hvilke løsninger bringer Intel på markedet for at understøtte disse områder inden for intelligens og virksomhedens kunders behov?

00:05:25:18 - 00:05:54:02

Bill

Jo, vi starter med enterprise RAG og ser på, hvordan vi samler det, vi kalder det Intel AI til enterprise RAG. Det hjælper virksomheder med at få brugerdefinerede resultater fra deres AI-modeller ved at udnytte de data, de allerede har i deres organisation. Dette er adskilt fra alle modeller, men data fra deres datakilder, deres tidligere forretningsaktiviteter for virkelig at forbedre de samlede ejeromkostninger, som de ellers kan få.

00:05:54:04 - 00:06:37:17

Bill

Når vi gør det, ønsker vi at sikre os, at vi leverer løsninger, der forenkler integrationen, udnytter Intel Gaudi-acceleratorer og Xeon-processorer og derefter sikrer, at disse løsninger rent faktisk fungerer med det virksomhedsmiljø, de har i dag, deres eksisterende infrastruktur, samtidig med at de også skaleres efter deres forretningsbehov. Og nogle af måderne at gøre dette på er at sikre, at vi kan udvikle software, der supplerer hardwaren, som er fuldt testet, valideret, let at bruge, fuld af mikrotjenester, intuitive API'er, dokumentation, ting som vi ved, at vores kunder er ude efter, og så sørge for, at den opfylder alle behovene omkring samlede ejeromkostninger, sikkerhed og åbenhed.

00:06:37:22 - 00:06:58:20

Bill

Så det fungerer sammen med alle deres foretrukne løsninger på den måde, de kender – det skal være rigtigt, robust og sikkert. En af de ting, vi gør her, er at oprette et katalog over løsninger. Vi udvikler en håndfuld RAG-løsninger til virksomheder, der er baseret på de mest almindelige input, vi får fra kunder. Dem lancerer vi i 4. kvartal.

00:06:58:20 - 00:07:08:14

Bill

Vi samler dem alle i et katalog. Så hvis en kunde køber Dell 9680, og de gerne vil hurtigt i gang med nogle løsninger, kan de gå direkte til kataloget, downloade dem og køre dem.

00:07:08:15 - 00:07:09:15

Courtney

Åh, det er fantastisk.

00:07:09:16 - 00:07:23:10

Bill

Ja. Er det ikke cool? Ja. Og løsningerne vil være ting, som vi hører virksomheder forsøge at gøre hver dag. Såsom chat, spørgsmål og svar, kodegenerering, ofte stillede spørgsmål, indholdsresuméer, den slags ting.

00:07:23:12 - 00:07:30:00

Courtney

Hvordan gør du det så nemt for dem at komme i gang med Intel AI til Enterprise RAG.

00:07:30:00 - 00:07:49:23

Bill

Se, det er et godt spørgsmål. Som vi nævnte, er brugervenligheden supervigtig. Det, vi gør der, er at bruge kataloget som et udnyttelsespunkt. Ved at samle alt indholdet på ét sted er det nemt for en kunde at sige: her er det jo. Her er mine muligheder. Derefter kan de vælge disse muligheder, finde en, der passer til dem, og eksperimentere med den.

00:07:50:00 - 00:08:10:12

Bill

Så det er ideen med at teste og downloade det gratis, afprøve brugsscenarier og så se, hvordan de vil fungere i deres miljø med deres data eller behov. Og når de så er klar til at blive implementeret, gør vi det virkelig nemt at implementere disse løsninger med partnere som Dell, selvfølgelig, så løsningerne fungerer på den hardware, de køber fra Dell.

00:08:10:16 - 00:08:15:06

Courtney

Ja. Kan du sige lidt mere om samarbejdet med Dell, med deres implementering?

00:08:15:12 - 00:08:44:19

Bill

Ja, absolut. Fordi vi har arbejdet sammen med Dell i lang tid, fortsætter vi med at fremme valgmuligheder, effektivitet og brugervenlighed. Og vi elsker at arbejde sammen med Dell, fordi de er bare førende på dette område. Og som vi har gjort i lang tid, udvikler vi disse løsninger i fællesskab. Vi arbejder tæt sammen for at sikre, at vi samler vores kundeindsigt med vores tekniske ekspertise på tværs af begge virksomheder og derefter udnytter de bedste ressourcer fra begge.

00:08:44:20 - 00:09:07:21

Bill

Et eksempel på det er PowerEdge XE-serien, som vi taler om her i 9680. Så vi har disse systemer, der er optimeret til AI, generativ AI-workloads, og de er så skræddersyet til at drive nutidens AI-brugsscenarier. Det er intelligente systemer med Open Manage og iDRAC og sikre systemer med den nyeste sikkerhed.

00:09:07:22 - 00:09:31:04

Bill

Og når vi ser på dem, er der stor værdi i disse systemer. Så ikke kun god ydeevne, men god prisydeevne og værdi der. Skalering af effektivitet, og som vi nævnte, ønsker virksomheder at have systemer, der vokser og skalerer med dem. Ud over disse systemer, som er et vigtigt fundament, har vi også arbejdet på at udvikle fælles løsninger som en del af Dell AI Factory.

00:09:31:06 - 00:09:55:23

Bill

Og her er ideen, at vi kan have højtydende systemer, der skaleres sammen med løsninger. Den software, der følger med dem. Og når vi arbejder sammen på software- og hardwareudvikling, kan vi udvikle disse løsninger sammen for at teste dem og virkelig levere en problemfri oplevelse for vores kunder. I takt med at vi udvikler løsningerne sammen og arbejder på at accelerere forretningsresultaterne for vores kunder.

00:09:56:00 - 00:10:16:20

Bill

Disse løsninger er egentlig komplette stakløsninger. Vi har talt om systemerne, den hardware, de kører på. Selvfølgelig talte vi om brugsscenarierne, men der er meget derimellem, der også skal være der. I forhold til den komplette stak bruger vi open source- og partnerkomponenter og validerer disse komponenter på tværs af hele stakken for at sikre, at de fungerer.

00:10:16:20 - 00:10:23:15

Bill

De fungerer godt. De arbejder problemfrit, og de sætter virkelig fart på kundens time-to-value for deres virksomhed.

00:10:23:17 - 00:10:36:17

Courtney

Alt det er så fantastisk. Og så interessant. Jeg kunne stille dig mange flere spørgsmål. Bill, jeg vil gerne takke dig rigtig meget for din tid. Det har virkelig været indsigtsfuldt at tale med dig.

00:10:36:19 - 00:10:38:11

Bill

Tak, Courtney. Det har været en fornøjelse.

00:10:38:13 - 00:11:07:02

Courtney

Og tak til vores lyttere for at være med på denne rejse ind i fremtidens teknologi. Vi håber, at du synes, at dagens emne og Bills indsigt var både indsigtsfuldt og værdifuldt. For dig, der søger yderligere viden, kommer Dell Technologies Forum Roadshow. Hold øje med det på vores website, eller du kan også finde vores online ressourcer, der dykker dybere ned i disse emner. Dell Technologies Forum-podcastserien leveres til dig i samarbejde med Intel, Microsoft og NVIDIA.