• Generativ AI

    Generativ AI har ankommet:
    Er du klar?

    Innebygd nyskapning for Intel®

      • Slik starter du

        En ny tidsalder med generativ AI

        Generativ AI (GenAI) blir brukt i enorm skala av organisasjoner og enkeltpersoner, og dette har en stor påvirkning på samfunnet. AI i forbrukerklassen, som ChatGPT og DALL-E, har satt fart på alles fantasi med muligheten til å generere innhold. Likevel kommer GenAI med enda større muligheter for verdi for virksomheter, inkludert økt produktivitet, kostnadsreduksjon og en forvandling i hvordan vi jobber.

      • 76%

        av IT-ledere tror GenAI vil gi betydelig påvirkning, om ikke transformativt for organisasjonen deres.

        GenAI vil transformere organisasjoner

        GenAI belønner, men det kommer også med nye utfordringer og risikoer. Når organisasjoner begynner å bruke GenAI, kan de ikke risikere kundetillit og den høye verdien av dataene sine for bare for å være først i mål.

        76%

        av IT-ledere tror GenAI vil gi betydelig påvirkning, om ikke transformativt for organisasjonen deres.

      • Oppnå suksess med generativ AI

        Landing på de riktige brukstilfellene er avgjørende. Virksomhets- og IT-ledere bør prioritere brukstilfeller basert på disse kriteriene:

      • Folk og team

        Forbered organisasjonen din på å håndtere muligheten innen GenAI, med IT som fokuserer på gjennomførbarhet, og bedriftsledere som ser på optimalisering og økt vekst.

      • Prosesser og policyer

        Definer og kommuniser hvordan organisasjonen din skal bruke KI, og gjør det til et viktig aspekt rundt prosessene i virksomheten din.

      • Teknologi

        Gi sikker tilgang til GenAI over hele organisasjonen din, og unngå Shadow AI-forekomster for å sikre dataintegritet og overholdelse.

      • Strategi

        Finn ut hvordan miljøet ditt er akkurat nå, for å avgjøre strategisk visjon og styrende prinsippene for fremtidige GenAI-prosjekter.

      • Dataenes nøkkelrolle i generativ AI

        Data og risiko går hånd i hånd. Data driver GenAI-prosjektene fremover, men du må også vurdere de potensielle risikoene som kommer med å være vert for GenAI-modeller i offentlige skyer. Disse inkluderer: tap av intellektuell eiendom, datalekkasje, personvernproblemer, overholdelsesbrudd, tillits- og integritetstap, ensidige data som fører til tvilsomme resultater, og brudd på opphavsrett.

        • Administrere risiko og forbedre verdi

          Når du begynner å bruke generativ AI, er det viktig å forene investeringene i teknologi og opplæring for å øke driftsmodenhet, redusere risiko, forbedre kontroll og maksimere verdi for organisasjonen din. Med GenAI som er klar for virksomhet, får du kontroll over hvem som har tilgang til dataene dine.

      • Virksomhetsklar generativ KI Umoden generativ KI Driftsmodenhet Risiko
        Diagram som viser at risiko (y-akse) reduseres over tid når du når operasjonell modenhet (x-akse) med datahåndteringen. Starten på grafens stigning indikerer umoden generativ KI med høy risiko og lav driftsmodenhet. Grafens nedadgående trend indikerer at virksomhetsklar KI reduserer risiko og representerer høy driftsmodenhet.

      • BRUK KI MED DATAENE DINE

        Hold generative AI-modeller nær dataene dine

        • Å forstå risikoene og fordelene ved ulike implementeringsalternativer er vesentlig for å avgjøre organisasjonens optimale workloadplassering for generativ KI. Når det gjelder å benytte KI for data, har bruk av private forekomster av store språkmodeller (LLM-er) med generativ KI, for eksempel Llama 2 eller Falcon, fordeler med hastighet og implementering, men de kan også innebære høyere kostnader og andre ulemper. Uansett vil intern GenAI sannsynligvis gi best verdi for tidlige innsats.

          Når det gjelder workload-plassering, er GenAI akkurat som andre workloader. Du får best resultat ved å sette det i miljøet som gir mest mening basert på virksomhetens krav og tekniske behov.

          Diagrammet nedenfor formidler konsepter og rammeverk som kommer i spill når plasseringen av GenAI-workload fastslås.

      • Hvor data er lagret Kostnad Raskere effektivitetsavkastning Nøyaktighet og tilpasning Generelle brukstilfeller Sikker tilgang Offentlig nettsky Private Cloud
        Et diagram som representerer seks faktorer du bør vurdere når du velger mellom privat eller offentlig nettsky for plassering av generativ KI-workloader. «Hvor data er lagret» og «Sikker tilgang» heller kraftig mot privat sky. «Kostnad» heller moderat mot privat sky, og «Nøyaktighet og tilpasning» heller svakt mot privat sky «Raskere effektivitetsavkastning» heller svakt mot offentlig nettsky. Og «Generelle brukstilfeller» heller sterkt mot offentlig nettsky.

        • Dataadministrasjon for generativ AI

          De fleste organisasjoner har en todelt tilnærming til GenAI-strategien sin. De eksperimenterer med strategiske implementeringer for å lære og unngå å komme bakpå. Samtidig utvikler de en langsiktig strategi for å imøtekomme de mange brukstilfellene som vil dukke opp over tid. Denne tilnærmingen krever en strategi for dataadministrasjon med to lag.

        DATAKLARGJØRING
        DATATEKNIKK

        • Dataklargjøring

        • Dataoppdagelse

          Identifisere datasett og definere datakrav

        • Datautforsking og -berikelse

          Designe og implementere dataforløp for å merke, rense og anonymisere data

        • Kort sikt: dataklargjøring

          Dataklargjøring omfatter identifisering av datasett og definering av datakrav etterfulgt av rensing, merking og anonymisering av data, og deretter normalisering av data mellom datakilder. Det krever også at dataforløp bygges, for å integrere dataene i en modell.

        • Datateknikk

        • Datainntak

          Integrere bedriftsdata i store språkmodeller

        • Observerbarhet og ytelse

          Kontrollere at transformerte data tilfredsstiller målene

        • Lang sikt: datateknikk

          Organisasjoner trenger et velstrukturert datarepositorium, for eksempel en datasjø eller et «data lakehouse», for å integrere dataene sine med GenAI-modeller. Du kan vurdere om du skal bygge datasjøen iterativt for gradvis å utvide egenskapene til GenAI-datarepositoriet mens teamet blir tryggere på dataadministrasjon og GenAI.

        • «Dette samarbeidet [med Dell Technologies] vil gi virksomheter muligheten til å bygge sine egne AI-systemer med den utrolige innovasjonen fra åpen kilde-fellesskapet, samtidig som de drar nytte av sikkerheten, overholdelsen og ytelsen til Dell-systemer.»

          Jeff Boudier, Produkt- og vekstsjef, Hugging Face

      • AI I RIKTIG STØRRELSE

        Definere infrastruktur og AI i riktig størrelse

      • 75%

        Dell KI-løsninger for å trekke slutninger om store språkmodeller (Large Language Models – LLM) på stedet kan være opptil 75 % mer kostnadseffektive enn den offentlige nettskyen.1

        Dine unike data gjør at du kan bruke domene- og virksomhetsspesifikke brukstilfeller. Det skaper bransjeverdi gjennom oppgaver eller funksjoner som du har eksklusivt eierskap over dataene for. Ulike typer GenAI har tilsvarende inngangspunkter og investeringer som er nødvendige for å lykkes. LLM-er som er opplært på store mengder tekst, er som leksikon: nyttige for generell bruk, men kanskje ikke til å svare på spesifikke spørsmål om organisasjonsdataene dine.

        75%

        Dell KI-løsninger for å trekke slutninger om store språkmodeller (Large Language Models – LLM) på stedet kan være opptil 75 % mer kostnadseffektive enn den offentlige nettskyen.1

      •  

         

      • Dataene dine gjør GenAI betydelig mer effektivt og verdifullt

      • Begrenset funksjonalitet Minste / mest kostnadseffektive Domeneekspertise Mest nøyaktig Mindre størrelse Mer nøyaktig Flere hallusinasjoner Kostbart og energikrevende Omfanget av brukstilfeller Generelt formål Virksomhetsspesifikk Domenespesifikk Store språkmodeller Verdi
        Grafikk som viser relative datamengder som kreves for tre typer KI-modeller, samt deres forretningsverdi. Store språkmodeller, eller LLM-er, er for generelle brukstilfeller og bruker mest data. De kan være kostbare og energikrevende, og de er mer utsatt for hallusinasjoner. Domenespesifikk KI bruker mindre, men mer spesifikke data. Den har begrenset funksjonalitet, men er mer relevant for virksomheten din og har større verdi. Virksomhetsspesifikk KI bruker enda mindre data, men er den mest spesifikke og nøyaktige og gir størst verdi for virksomheten din.

      • Implementeringsmønstre for KI

        Modellen for kunstig intelligens du velger, avhenger av organisasjonens beredskapsnivå for datavitenskap, implementeringsmønstre og implikasjonene av hver av dem.

      • Forhåndsopplært modell

        Denne tilnærmingen kalles «prompt engineering» («ledetekstteknikk») og innebærer å stille et spørsmål til en forhåndsopplært modell og få et resultat.
        Eksempel: ChatGPT

        Modellforsterkning

        Forbedre GenAI-modellen ved å legge til dataene dine, så får du svar som tar hensyn til den konkrete sammenhengen. Et eksempel er inferensing, som inkluderer brukstilfeller som henteforsterket generering (RAG – Retrieval-agumented generation).

        Finjusteringsmodeller

        Dette innebærer å justere modellvekting og innlemme dataene dine. Selv om det fører til bedre resultater, krever det også mer innsats under konfigureringen.

        Modellopplæring

        Det inkluderer å bygge en bestemt modell og lære den opp med et datasett. Dette krever vanligvis mest arbeid og ressurser og brukes som regel bare for å løse komplekse problemer.
        Innsats Lav innsats Middels innsats Høy innsats Veldig høy innsats
        Kostnad Lav kostnad Middels kostnad Høy kostnad Veldig høy kostnad
        Verdi og
        differensiering        		 Minimal verdi og differensiering Middels verdi og differensiering Høy verdi og differensiering Veldig høy verdi og differensiering
        Dataintegrering Ingen dataintegrering Høy dataintegrering Høy dataintegrering Veldig høy dataintegrering
        Infrastruktur Klient – server Klient – server GPU-optimert Stor GPU-implementering
        Ferdigheter IT-operasjoner Utvikler Dataforsker(e) Dataforsker(e)
        Referanse for enkel implementering Validert design Henvis til design Validert design Henvis til design

      • Velg riktig infrastruktur for modellen din

        Infrastrukturen som støtter GenAI-implementeringen, avhenger i stor grad av databehandlingskrav og blir påvirket av modelltype, modellstørrelse og antall brukere. Man må også ta hensyn til nødvendig lagringskapasitet for data som brukes under implementering, opplæring og modellforbedring.

      • GENERELL DATABEHANDLING (CPU-innrettet) KI-OPTIMALISERT (GPU-intensiv) Dells bærbare PC-er Precision-arbeidsstasjoner PowerEdge-rackservere PowerEdge XE-servere ObjectScale-lagring PowerScale-lagring PowerFlex-lagring PowerSwitch-svitsjer i Z-serien Modellopplæring Finjusteringsmodell Modellforsterkning Forhåndsopplært modell Millioner av parametere Milliarder av parametere Billioner av parametere Lavt antall brukere Høyt antall brukere
        Diagram som representerer tre krav til generativ KI og tilordner dem til passende maskinvareløsninger fra Dell. Maskinvareløsningene varierer i kraft fra generelle databehandlingsalternativer, som er CPU-innrettede, opp til KI-optimaliserte alternativer, som er GPU-intensive. De spesifikke alternativene starter med bærbare Dell-PC-er på den generelle databehandlingssiden, og går videre gjennom Precision-arbeidsstasjoner og PowerEdge-servere, og slutter med PowerEdge XE-servere på den KI-optimaliserte løsningssiden. Vær oppmerksom på at Dell-maskinvare for lagring og nettverk kan brukes i hele sortimentet. Tre infrastrukturattributter for generativ KI er tilordnet til disse løsningene i en progresjon som krever stadig mer behandlingskraft. Modellens kompleksitet kan variere fra å bruke forhåndstrente modeller og forsterkning eller finjustering av modeller, til opplæring av nye modeller. Antall parametere kan variere fra millioner til milliarder, helt opp til billioner.

      • Legg ut på veien til AI

        Start med en tidlig seier

        Retrieval-augmented generation (RAG) er et ideelt utgangspunkt for mange organisasjoner, da det forsterker en GenAI-modell med dine egne data uten prosessen med å omskolere den. Utforsk konfigureringen av RAG-brukstilfeller som kan brukes til å forbedre virksomheten og dataene dine.

      • Brukstilfelle for RAG

        Bruk RAG på et egendefinert PDF-datasett

      • DELL-VALIDERT DESIGN FOR RAG

        Implementere en digital assistent på Dell APEX Cloud Platform for Red Hat OpenShift

    • 1 Basert på en undersøkelse utført av Enterprise Strategy Group på oppdrag av Dell, «Maximizing AI ROI: Inferencing On-premises With Dell Technologies Can Be 75% More Cost-effective Than Public Cloud» som sammenligner Dells infrastruktur lokalt kontra opprinnelig offentlig nettskyinfrastruktur som en tjeneste og tokenbaserte API-er, april 2024. Forventede kostnader ble modellert ved hjelp av RAG for små (5000 brukere), mellomstore (10 000 brukere) og store (50 000 brukere) og to LLM (7B- og 70B-parametere) over 3 år. Faktiske resultater kan variere. Økonomisk oppsummering