-
Generativ AI
Generativ AI er her:
Er du klar?Indbygget Intel®-innovation
-
-
-
Kom godt i gang
En ny tid med generativ AI
Generativ AI (GenAI) udnyttes i massiv skala af organisationer og enkeltpersoner, hvilket har markant indvirkning på samfundet. AI i forbrugerklassen, f.eks. ChatGPT og DALL-E, har sat fantasien i sving hos et hav af brugere med dens evne til at generere indhold. Men GenAI's betydning for organisationer byder på endnu mere værdi, herunder øget produktivitet, omkostningsreduktion og en omstilling til det bedre i den måde, vi arbejder på.
-
76 % af IT-ledere mener, at GenAI vil have en betydningsfuld, hvis ikke transformerende effekt på deres organisation.
76%
GenAI vil transformere organisationer
GenAI giver belønninger, men kommer også med nye udfordringer og risici. Når organisationer starter deres GenAI-rejse, kan de ikke risikere at miste kundernes tillid og den høje værdi, deres data har, i jagten på at være de første i rækken.
76 % af IT-ledere mener, at GenAI vil have en betydningsfuld, hvis ikke transformerende effekt på deres organisation.76%
-
-
-
Opnå succes med generativ AI
Det er afgørende at lande på de rigtige anvendelsessager. Virksomheds- og IT-ledere bør prioritere anvendelsesscenarier ud fra disse kriterier:
-
-
-
Dine datas vigtige rolle inden for generativ AI
Data og risiko går hånd i hånd. Data vil drive dine GenAI-projekter frem, men du er også nødt til at vurdere de potentielle risici, der er ved at hoste GenAI-modeller i offentlige clouds, herunder: tab af intellektuel ejendom, datalækage, problemer med beskyttelse af personlige oplysninger, overtrædelser af lovkrav, tab af tillid og integritet, partiskhed og IP-krænkelse.
-
-
Risikohåndtering og værdiforøgelse
Når du begynder din rejse, er det vigtigt at tilpasse investeringer i teknologi og uddannelse for at booste driftsmodenheden, reducere risici, forbedre kontrollen og maksimere værdien for din organisation. Med virksomhedsklar GenAI får du kontrol over, hvem der kan få adgang til dine data.
-
-
GenAI, der er klar til virksomheder GenAI, der ikke er klar Driftsmodenhed Risiko Graf, der viser, at risikoen (y-aksen) falder over tid, efterhånden som der opnås driftsmodenhed (x-aksen) i forhold til datahåndtering. Starten af grafens hældning indikerer GenAI, der ikke er klar, og som er forbundet med høj risiko og lav driftsmodenhed. Den nedadgående tendens på grafen indikerer, at AI, der er klar til virksomheder, reducerer risikoen og repræsenterer høj driftsmodenhed.
-
-
-
-
-
BRUG AI MED DINE DATA
Hold generativ AI-modeller tæt på dine data
-
-
Forståelse af risici og fordele ved forskellige implementeringsmuligheder er afgørende for at bestemme din organisations optimale placering af workloads til GenAI. Selvom implementeringen af private forekomster af store sprogmodeller (LLM'er) baseret på GenAI, f.eks. Llama 2 eller Falcon, byder på fordele med hensyn til hastighed og implementering, kan de også medføre højere omkostninger og andre ulemper, hvad angår brug af AI til dine data. Intern GenAI vil dog sandsynligvis levere mest værdi for den tidlige indsats uanset hvad.
Hvad angår workloadplacering, er GenAI ikke anderledes end noget andet workload. Opnå de bedste resultater ved at placere det i det miljø, der giver mest mening ud fra dine forretningsmæssige og tekniske behov.
Nedenstående diagram beskriver de koncepter og strukturer, som kommer i spil, når der skal bestemmes en placering for GenAI-workloadet.
-
-
-
5 grunde til, at du bør bruge kunstig intelligens til dine data
-
-
-
-
Datalagring Omkostninger Hurtigere time-to-value Nøjagtighed og tilpasning Generelle brugsscenarier Sikker adgang Offentlig cloud Privat cloud En illustration, der repræsenterer seks faktorer, du skal overveje, når du vælger mellem en privat cloud og offentlig cloud til placering af GenAI-workload. "Datalagring" og "sikker adgang" hælder meget mod privat cloud. "Omkostninger" hælder i moderat grad mod privat cloud, og "Nøjagtighed og tilpasning" hælder en smule mod privat cloud. "Hurtigere time-to-value" hælder en smule mod offentlig cloud. Og "generelle brugsscenarier" hælder i høj grad mod offentlig cloud.
-
-
Dataadministration til generativ AI
De fleste organisationer benytter en tostrenget tilgang til deres GenAI-strategi. De eksperimenterer med taktisk implementering for at lære samt undgå at komme bagud, samtidig med at de udvikler en langsigtet strategi, der imødekommer de mange brugsscenarier, som opstår med tiden. Denne tilgang kræver en todelt strategi for dataadministration.
DATAFORBEREDELSEDATA ENGINEERING -
-
-
Dataforberedelse
-
På kort sigt: Dataforberedelse
Dataforberedelse omfatter identificering af datasæt og definering af databehov efterfulgt af rensning, mærkning og anonymisering af data for derefter at normalisere dem på tværs af datakilder. Det kræver også opbygning af datapipelines med henblik på at integrere dataene i en model.
-
-
-
Data engineering
-
På langt sigt: Data engineering
Organisationer har brug for et velstruktureret datalager, f.eks. en Data Lake eller Data Lakehouse, for at kunne integrere deres data med GenAI-modeller. Overvej at opbygge din Data Lake iterativt for gradvist at udvide GenAI-datalagerets funktionalitet, samtidig med at teamet forbedrer deres dataadministration og GenAI-kompetencer.
-
-
-
-
-
-
"Dette samarbejde [med Dell Technologies] vil sætte virksomheder i stand til at opbygge deres egne AI-systemer og udnytte den utrolige innovation med open source-fællesskabet, samtidig med at de kan drage fordel af sikkerheden, overholdelsen og ydeevnen i Dell-systemer."
-
-
-
-
-
-
AI I DEN RIGTIGE STØRRELSE
Definer infrastrukturen, og få AI i den rigtige størrelse
-
Dells AI-løsninger til inferens af store sprogmodeller (LLM'er) lokalt kan være op til 75 % mere omkostningseffektive end den offentlige cloud.1
75%
Dine unikke data giver dig mulighed for at udnytte domæne- og virksomhedsspecifikke brugsscenarier, så du kan skabe brancheværdi gennem opgaver eller funktioner, til hvilke du har eksklusivt ejerskab over dataene. Forskellige typer af GenAI har tilsvarende adgangspunkter og investeringer, der er nødvendige for at opnå et vellykket resultat. LLM'er, der er trænet på enorme mængder tekst, er ligesom opslagsværker – de er nyttige til generel brug, men de er ikke nødvendigvis egnede til at besvare specifikke spørgsmål om dine organisationsdata.
Dells AI-løsninger til inferens af store sprogmodeller (LLM'er) lokalt kan være op til 75 % mere omkostningseffektive end den offentlige cloud.175%
-
-
-
Dine data forbedrer effektiviteten og værdien af GenAI betydeligt
-
Begrænset funktionalitet Mindst/mest omkostningseffektiv Domæneekspertise Mest nøjagtig Mindre størrelse Mere nøjagtig Flere hallucinationer Dyrt og energikrævende Alsidige brugsscenarier Generelle formål Virksomhedsspecifik Domænespecifik Store sprogmodeller Værdi Graf, der viser relative datamængder, som kræves til tre typer AI-modeller, samt deres forretningsværdi. Store sprogmodeller eller LLM'er er til generelle brugsscenarier og bruger flest data. De kan være dyre og energikrævende, og de medfører større risiko for hallucinationer. Domænespecifik AI bruger færre, men mere specifikke data. Det har begrænset funktionalitet, men er mere relevant for din virksomhed og har større værdi. Virksomhedsspecifik AI bruger stadig færre data, men er den mest specifikke og nøjagtige og tilfører størst værdi til din virksomhed.
-
-
-
AI-udrulningsmønstre
Den AI-model, du vælger, afhænger af organisationens parathed til datavidenskab, implementeringsmønstre og konsekvenserne af hver enkelt.
-
Forudtrænet model
Denne tilgang kaldes "prompt engineering" og indebærer, at der stilles et spørgsmål til en forudtrænet model for at modtage et svar.
Eksempel: ChatGPTModelforstærkning
Gør din GenAI-model bedre ved at tilføje dine data med henblik på at give ekstra kontekst til modellens svar, f.eks. inferens, der omfatter brugsscenarier som RAG (Retrieval-Augmented Generation).
Finindstilling af modeller
Dette indebærer justering af modelvægtning og import af dine data. Selvom det giver bedre resultater, kræver det også en større indsats under opsætningen.
Modeltræning
Dette omfatter opbygning af en specifik model og træning af den med et datasæt. Det kræver typisk mest arbejde og de fleste ressourcer og er ofte forbeholdt til at løse komplekse problemer.
Indsats Omkostninger Værdi og
differentieringDataintegration Infrastruktur Klient – server Klient – server GPU-optimeret Implementering af stor GPU Færdigheder Intern it-afdeling Udvikler Dataforsker(e) Dataforsker(e) Forenklet implementeringsreference Valideret design Referencedesign Valideret design Referencedesign
-
Vælg den rette infrastruktur for din model
Infrastrukturen, der understøtter din GenAI-implementering, afhænger primært af databehandlingskrav, hvilket påvirkes af modeltypen, modelstørrelsen og antallet af brugere. Yderligere overvejelser omfatter den nødvendige storagekapacitet til data, der bruges under implementeringen, træningen og modelforbedringen.
-
GENEREL DATABEHANDLING (CPU-orienteret) AI-OPTIMERET (GPU-krævende) Bærbare Dell-computere Precision-workstations PowerEdge-rack-servere PowerEdge XE-servere ObjectScale-storage PowerScale-storage PowerFlex-storage PowerSwitch-switche i Z-serien Modeltræning Finindstilling af model Modelforstærkning Forudtrænet model Millioner af parametre Milliarder af parametre Billioner af parametre Lavt antal brugere Højt antal brugere Illustration, der repræsenterer tre GenAI-krav og knytter dem til de relevante hardwareløsninger fra Dell. Hardwareløsningerne spænder fra generelle databehandlingsløsninger, som er CPU-orienterede, op til AI-optimerede løsninger, som er GPU-krævende. De specifikke løsninger begynder med bærbare Dell-pc'er til generel databehandling og fortsætter med Precision-arbejdsstationer og PowerEdge-servere. De slutter med PowerEdge XE-servere til AI-optimerede løsninger. Bemærk, at Dells storage- og netværkshardware kan bruges til hele udvalget. Tre GenAI-infrastrukturattributter knyttes til disse løsninger i en udvikling, der kræver mere og mere processorkraft. Modellens kompleksitet kan variere fra at bruge forudtrænede modeller og forstærknings- eller finindstillingsmodeller til at træne nye modeller. Antallet af parametre kan variere fra millioner til milliarder, og helt op til billioner.
-
-
-
-
-
Sæt fart på din AI-rejse
Start med en tidlig fordel
Hentningsforstærket generation (RAG) er et ideelt udgangspunkt for mange organisationer, da det udvider en GenAI-model med dine egne data uden processen med at omskole den. Få mere at vide om opsætningen af RAG-brugsscenarier, der kan anvendes til at forbedre din virksomhed og dine data.
-
RAG-brugsscenarie
Anvend RAG på et brugerdefineret PDF-datasæt
-
DELL VALIDATED DESIGN TIL RAG
Implementer en digital assistent på Dell APEX Cloud Platform for Red Hat OpenShift
-
-