KI-Expertise: Navigation durch die nächste Welle mit Dell Technologies

Courtney

Hallo und herzlich willkommen zur Dell Technologies Forum-Podcastserie, in der Ideen und Innovationen mit Dynamik gekoppelt werden. In dieser Serie bringen wir die klügsten Köpfe von Dell und VorreiterInnen der Branche zusammen, um Sie bei der Bewältigung der sich ständig weiterentwickelnden Technologielandschaft zu unterstützen. Ich bin Courtney Hughes, Ihre Gastgeberin auf dieser Erkundungsreise. Heute werfen wir einen anderen Blick auf künstliche Intelligenz, eine bahnbrechende Technologie, die unsere Welt verändert. Wir werden uns mit ihren transformativen Auswirkungen befassen und untersuchen, wie sie nicht nur unsere Herangehensweise an die Einführung neuer Technologien verbessert, sondern revolutioniert.

00:00:41:10 - 00:01:09:22

Courtney

Mit der Dell AI Factory haben wir für Unternehmen bereits die Grundlagen geschaffen, um komplexe Herausforderungen in optimierte Lösungen zu verwandeln. Heute ist John Siegel, Senior Vice President von Dell Portfolio Marketing, bei mir, dessen Team maßgeblich daran beteiligt war, KI zu entmystifizieren und für alle zugänglich zu machen. John, es ist sehr schön, dass Sie hier sind, um Ihre Erkenntnisse mit uns zu teilen, wie Dell Kunden einen Weg ebnet, um ihre eigene KI-Reise mit Zuversicht und Klarheit zu beginnen.

00:01:09:23 - 00:01:11:07

Courtney

Herzlich willkommen.

00:01:11:09 - 00:01:12:20

Jon

Schön, hier zu sein, Courtney.

00:01:12:22 - 00:01:35:11

Courtney

Ich freue mich, dass Sie bei uns sind. Genau wie John haben wir bereits in früheren Episoden gemeinsam mit Matt Baker und Doug Schmitt die Dell AI Factory vorgestellt und erklärt, was sie ist und wie sie funktioniert. Heute möchte ich Sie gerne zu den bisherigen Auswirkungen befragen. Können Sie aus Ihrer Sicht erläutern, wie die Dell AI Factory Kunden dabei unterstützt, ihre größten Herausforderungen im Bereich KI zu bewältigen?

00:01:35:13 - 00:02:02:05

Jon

Auf jeden Fall. Zunächst einmal möchte ich kurz zusammenfassen: Die Dell Factory selbst ist unser Ansatz, um Kunden dabei zu helfen, die Einführung von KI zu beschleunigen. Und die größten Herausforderungen, von denen wir immer wieder von Kunden im Bereich KI-Optionen hören, lassen sich im Grunde auf drei Dinge reduzieren: Komplexität, Risiken und Kosten. Lassen Sie mich zunächst auf jeden einzelnen Punkt eingehen und dann erläutern, wie wir unsere Kunden heute in jedem dieser Bereiche unterstützen.

00:02:02:07 - 00:02:21:17

Jon

Zunächst ist die Komplexität ein wichtiger Faktor. In der Vergangenheit haben wir darüber gesprochen, dass KI-Projekte eine Herausforderung darstellen können, insbesondere angesichts der Lücke bei KI-Kompetenzen und -Talenten, die es bei den meisten unserer Kunden gibt. Und auch die Datenbereitschaft ist eine große Hürde für sie. Aber es ist alles noch viel komplexer. Sie haben erwartet, dass sie auf relevante und genaue Daten zugreifen können.

00:02:21:17 - 00:02:55:00

Jon

Und dann die Möglichkeit zu haben, diese Daten in ihre KI-Projekte einfließen zu lassen. Und wie wir oft sagen, richtig gute Daten sind gleichbedeutend mit guter KI. Und ja, leider bedeuten schlechte Daten auch, dass die KI, die darauf trainiert wird, schlecht ist. Bei dem zweiten Punkt geht es um Risiken. Und unsere Kunden sind besorgt über die Risiken. Alles von Daten- und IP-Lecks bis hin zu Datenschutzproblemen und Vorurteilen – wir sehen immer wieder Beispiele dafür, wie kürzlich im Boston Globe berichtet wurde. Ich habe gerade gelesen, dass eine asiatische Studentin aus der Region Gen AI gebeten hat, ihr Porträtfoto professioneller zu gestalten. Leider hat wurde dabei ihre ethnische Zugehörigkeit verändert.

00:02:55:02 - 00:03:05:03

Jon

Und das ist nur ein Beispiel. Es gibt viele Beispiele für die Folgen, die sich ergeben, wenn die KI Fehler macht, und sie sind ziemlich gut bekannt. Und wie wir beide wissen, möchte niemand in die Schlagzeilen geraten.

00:03:05:06 - 00:03:05:24

Courtney

Genau.

00:03:06:00 - 00:03:22:19

Jon

Drittens sind da die Kosten. Es kann sehr kostspielig sein, Daten in die Cloud zu verschieben und dort KI-Workloads auszuführen. Wir selbst unterstützen ein Hybrid-Cloud-Modell, bei dem wir den Nutzen von KI für Ihre Daten wirklich unterstützen. Ich werde nun also auf jeden dieser Punkte eingehen. Und wenn es um die Bewältigung der Komplexität geht, besteht das Ziel darin, die Dinge zunächst einfacher zu gestalten.

00:03:22:21 - 00:03:45:10

Jon

Wir unterstützen unsere Kunden heute mit Expertenservices, die sie durch den gesamten Prozess begleiten, von der Entwicklung einer Strategie bis zur Vorbereitung ihrer Daten usw.. Wir möchten ihnen auch eine einfache Lösung für die Infrastruktur bieten. Daher haben wir Full-Stack-Lösungen für bestimmte Anwendungsfälle zusammengestellt und diese vollständig validiert. Diese testen wir auch vorab.

00:03:45:12 - 00:03:48:19

Jon

Ein großartiges Beispiel dafür, Courtney, ist die AI Factory with NVIDIA.

00:03:48:22 - 00:03:49:14

Courtney

Ja, richtig.

00:03:49:14 - 00:04:06:21

Jon

Ja, wir haben jemand, der Kunden dabei hilft, ihre eigenen digitalen Assistenten zu entwickeln. Wir legen uns wirklich ins Zeug, damit unsere Kunden nicht die harte Arbeit leisten müssen. Bei der Minimierung von Risiken geht es darum, sicherzustellen, dass die wertvollsten Daten unserer Kunden geschützt sind. Wir haben eine lange Tradition darin, dies mit unserer bewährten Infrastruktur und unseren Services richtig zu machen.

00:04:06:21 - 00:04:27:00

Jon

Ein hervorragendes Beispiel für KI ist unsere Zusammenarbeit mit Meta. In diesem Zusammenhang haben wir unsere Kunden kürzlich bei der On-Premise-Bereitstellung des neuesten Llama 3 LLM unterstützt und ihnen in einem Whitepaper gezeigt, wie sie dies sicher durchführen können. Dies trug letztendlich dazu bei, das Risiko von Datenschutzverletzungen und Hyperlecks usw. zu reduzieren. Das ist wirklich wichtig.

00:04:27:00 - 00:04:45:17

Jon

Und schließlich zur Herausforderung, die Kosten zu senken: Da gibt es viele Aspekte, mit denen wir uns näher befassen könnten. Ich möchte eine aktuelle Studie erwähnen, die Ihnen vielleicht bekannt ist: Diese Studie hat ergeben, dass die Inferenz für LLMs mit der Dell AI Factory vor Ort um 75 % kostengünstiger sein kann als in der Public Cloud. Und das wurde über einen Zeitraum von drei Jahren durchgeführt.

00:04:45:17 - 00:04:53:14

Jon

Und das liegt daran, dass es für Kunden beim Aufbau ihrer AI Factorys einfach kosteneffizienter ist, KI zu ihren Daten zu bringen und nicht umgekehrt.

00:04:53:16 - 00:05:03:03

Courtney

Das ist richtig. Was die eigenen AI Factorys von Kunden betrifft – wie hilft Dell ihnen dabei, die Ergebnisse, also ihre eigenen Anwendungsbereiche, zu priorisieren?

00:05:03:05 - 00:05:09:02

Jon

Ja, das ist auch eine gute Frage! Wir glauben, dass es wichtig ist, zuerst den Output oder das Ergebnis im Blick zu haben.

00:05:09:02 - 00:05:09:21

Courtney

Okay.

00:05:09:21 - 00:05:29:07

Jon

Und ihre Anwendungsbereiche werden das auch noch verdeutlichen. Die Anwendungsbereiche, die wir beobachten, umfassen ein breites Spektrum, von der Codegenerierung, bei der EntwicklerInnen natürliche Sprache verwenden, um Routineaufgaben zu automatisieren und Code zu schreiben, bis hin zu digitalen Assistenten, die – wie ich bereits erwähnt habe – die Transformation von Selfserviceerfahrungen in digitale Zwillinge ermöglichen.

00:05:29:07 - 00:05:51:03

Jon

Die Kunden kommen oft mit vielen Anwendungsbeispielen zu uns und wir haben es auch selbst durchgeführt. Bei Dell. Ja, wir tun dies auch für Kunden mit unseren Expertenservices. Tatsächlich haben wir kürzlich einem Kunden dabei geholfen, in nur sechs Wochen im Wesentlichen 200 Anwendungsfallideen auf fünf einzugrenzen. Und wir haben dafür gesorgt, dass sie für diese fünf den größtmöglichen Gewinn erzielen konnten.

00:05:51:03 - 00:06:12:05

Jon

Und wir helfen ihnen einmalig dabei, einen Konsens zu erzielen. Durch unsere Services rund um wichtige Anwendungsbereiche wollten wir sicherstellen, dass man sich bei diesen Anwendungsbereichen auf solche konzentriert, die tatsächlich gemeinsame Anforderungen haben und ihnen einen wirklich hohen Mehrwert bieten. Und durch diesen Ansatz konnten sie Verschwendung vermeiden. Sie konnten im Wesentlichen einen viel besseren Return on Investment erzielen und dies viel schneller erledigen.

00:06:12:07 - 00:06:20:18

Courtney

Okay, John. Apropos Anwendungsfälle: Wir haben kürzlich unsere GenAI-Lösungen für digitale Assistenten angekündigt. Können Sie mit mir über diesen Anwendungsbereich sprechen?

00:06:20:20 - 00:06:48:01

Jon

Ja. Es gibt eine Menge Begeisterung über das Potenzial von Selfservice, also die Verbesserung der Selfserviceerfahrungen für Kunden. Wir haben beispielsweise Kunden wie die Stadt Amarillo, die zu uns kamen, um nach einer Möglichkeit zu suchen, ihren WählerInnen, die in der ganzen Stadt rund 60 verschiedene Sprachen sprechen, besser Informationen zu liefern. Daher suchten sie nach einer einfachen Möglichkeit, Informationen über eine Selfserviceerfahrung bereitzustellen.

00:06:48:01 - 00:07:08:23

Jon

Mit der neuen Lösung und der Zusammenarbeit mit NVIDIA haben wir grundsätzlich einen einfachen Einstieg für die Lösung geschaffen. Wir haben im Grunde all die harte Arbeit geleistet, um eine gemeinsame Lösung mit NVIDIA zu liefern, die unsere Kunden implementieren und deren Auswirkungen sie innerhalb weniger Monate erkennen können. Im Fall der Stadt Amarillo waren die Auswirkungen beträchtlich.

00:07:08:23 - 00:07:22:05

Jon

Sie können nun Informationen nach Bedarf an ihre WählerInnen weitergeben. Die WählerInnen selbst haben nun Zugang zu Behördenservices, die ihnen zuvor nicht zur Verfügung standen. Das ist ein echter Gamechanger, auf dem sie noch eine ganze Weile aufbauen werden.

00:07:22:07 - 00:07:44:23

Courtney

Ja, ich bin ganz Ihrer Meinung. Das ist ein wirklich gutes Beispiel dafür, wie Dell und NVIDIA Kunden helfen, die Umsetzung ihrer Ideen zu beschleunigen. Definitiv ein gutes Beispiel. Kunden erzählen uns, dass es für sie von entscheidender Bedeutung ist, sowohl ihre Ziele im Bereich der KI als auch ihre Nachhaltigkeitsziele zu erreichen. Das ist richtig. Wie kann Dell, insbesondere die Dell AI Factory, dabei helfen?

00:07:45:00 - 00:08:02:22

Jon

Ja. Sehen Sie, Dell verfolgt einen End-to-End-Ansatz, wenn es um Nachhaltigkeit geht. Die Dell AI Factory ist ein wirklich gutes Beispiel dafür. Sie konzentriert sich auf die Bereitstellung von KI-Ergebnissen und die Reduzierung der Auswirkungen auf die Umwelt. Wir haben also wirklich beides im Blick. Dabei setzt sie letzteres auf verschiedene Arten um.

00:08:02:22 - 00:08:14:02

Jon

Erstens ermöglicht sie umsetzbare Erkenntnisse rund um Nachhaltigkeit. Mit unserer AIOps und Überwachungsfunktionen können wir den Energieverbrauch in der gesamten IT-Infrastruktur eines Kunden analysieren.

00:08:14:04 - 00:08:14:20

Courtney

und auch

00:08:14:22 - 00:08:36:19

Jon

Stimmt. Und Empfehlungen dazu geben, wie sie ihre Stellfläche im Rechenzentrum reduzieren können, wenn Sie möchten, und wie sie ihren CO2-Fußabdruck verkleinern können. Das ist etwas Neues, das nicht jeder weiß. Zweitens tragen wir dazu bei, die Energie- und Kühlungskosten durch unsere eigenen Technologien zu senken. Wir haben beispielsweise etwas, das was wir kürzlich auf der Dell Tech World angekündigt haben: unseren neuen PowerEdge 9680 L, der auf Blackwell von NVIDIA basiert.

00:08:36:19 - 00:08:59:11

Jon

Er ist auf Flüssigkeitskühlung ausgelegt, um die Compute-Leistung zu maximieren und gleichzeitig die thermische Effizienz aufrechtzuerhalten. Wir informieren uns ständig über die neuesten und besten Technologien, um ihre Kunden zu unterstützen. Drittens möchten wir Kunden bei Ihrer Umstellung auf die KI unterstützen, wobei sie die Kreislaufwirtschaft im Blick behalten. Das bedeutet, dass unsere Kunden ein Upgrade auf neue und nachhaltigere Technologien durchführen können.

00:08:59:11 - 00:09:18:22

Jon

Wir stehen im Technologiebereich sicherlich kurz vor einer großen Veränderung, da sich Rechenzentren hin zu KI-Fabriken entwickeln und natürlich auch KI-PCs auf den Markt kommen. In der Vergangenheit waren die Aktualisierungszyklen in der Regel mit Umweltkosten verbunden. Das ist richtig. Okay. Tatsächlich haben wir jetzt die Erfahrung und die Möglichkeit, diesen Zyklus zu durchbrechen.

00:09:18:22 - 00:09:30:13

Jon

Ja. Und wir hoffen, dies mithilfe von auf Kreislaufwirtschaft ausgelegten Verfahren wie unseren Asset Recovery Services für Laptops zu erreichen. So können wir Produkte und Materialien viel länger nutzen und Abfall reduzieren.

00:09:30:15 - 00:09:38:00

Courtney

Und schließlich, John, wie hat die eigene Erfahrung von Dell mit KI dazu beigetragen, die Dell AI Factory zu gestalten?

00:09:38:02 - 00:09:57:17

Jon

Ich würde sagen, eine Menge. Wie kommt das? Aber sagen wir einfach, wir haben uns auf diesem Weg ein wenig die Knie und die Ellenbogen gestoßen. Wir geben diese wichtigen Erkenntnisse an unsere Kunden weiter und ich muss Ihnen sagen, dass unsere Kunden gerne von unseren eigenen Erfahrungen in diesem Bereich hören. Wir teilen unseren eigenen Weg in die KI in einige Phasen auf.

00:09:57:17 - 00:10:19:00

Jon

Zunächst geht es um unsere eigene Strategie. Wir haben eine Stelle als Chief AI Officer im Unternehmen eingerichtet und alle KI-Initiativen unter dieser Position und in diesem Büro zentralisiert. Dieses Büro selbst ist dafür verantwortlich, die Anwendungsfälle einzugrenzen. Dies ist von 800 auf vier geschehen. Diese vier Anwendungsfälle sind auch bei unseren Kunden sehr häufig vorgekommen.

00:10:19:02 - 00:10:39:17

Jon

Softwareentwicklung, Kundenbetreuung, Verkauf, Inhaltserstellung, das sind die vier großen Schwerpunkte, auf die wir uns derzeit konzentrieren. Die zweite große Phase ist die eigentliche Umsetzung. Das bedeutete beispielsweise, unsere Daten für KI vorzubereiten. Und das ist keine einfache Aufgabe, insbesondere bei einem derart großen Unternehmen wie unserem. Wir mussten also herausfinden, wo sich die Daten befinden.

00:10:39:17 - 00:10:53:09

Jon

Wir mussten sie bereinigen, vorbereiten, uns um Zugriffskontrollen kümmern und sicherstellen, dass wir die richtigen Sicherheitseinstellungen und Governance haben. Danach waren wir aber sofort startklar. Und es ist genau diese Erfahrung.

00:10:53:11 - 00:10:53:19

Courtney

Ja.

00:10:53:22 - 00:11:11:17

Jon

Das hat vor allem dazu beigetragen, dass wir Kunden in Bezug auf Daten beraten, weil wir diese Erfahrung schon gemacht haben. Und wir sehen ganz gleich ob sich Ihre Daten On-Premise, am Edge, in der Cloud oder auf Ihrem eigenen PC befinden, wir unsere Daten herausholen konnten und raten unseren Kunden: auch Sie können davon profitieren.

00:11:11:17 - 00:11:28:14

Jon

Und dann gab es noch die letzte Phase, bei der es um die Einführung und Skalierung ging. Wenn Sie so wollen, war dies die dritte große Phase. Dabei geht es darum, unsere Anwendungsfälle in die Praxis umzusetzen und auch in umfassende Schulungen und Qualifizierungen in unserem gesamten Unternehmen zu investieren. Wir haben festgestellt, dass dies wirklich geholfen hat. Dies war eine Best Practice, die wir mit unseren Kunden geteilt haben.

00:11:28:14 - 00:11:45:01

Jon

All diese Erfahrungen, die wir gemacht haben, indem wir uns wirklich als Kunde Null behandelt haben, ja, all diese gewonnenen Erkenntnisse sind wirklich in unsere Data Factory eingeflossen. Und genau darum geht es letztendlich, nämlich darum, unseren Kunden bei der Realisierung ihres eigenen Potenzials mit Hilfe von KI zu helfen.

00:11:45:06 - 00:12:02:08

Courtney

Ja. Und ich bin mir sicher, dass auch aus Ihrer Sicht eine solche Vorgehensweise viel Vertrauen und Glaubwürdigkeit bei den Kunden aufbaut. Wenn Sie den Weg selbst gegangen sind, können Sie über die Fallstricke und die Erkenntnisse sprechen, die wir gewonnen haben, im Vergleich zu jemandem, der es nicht getan hat, und versucht, anderen beizubringen, wie es geht.

00:12:02:10 - 00:12:12:04

Jon

Das ist richtig. Das ist wahrscheinlich heutzutage das beliebteste Thema bei unseren Kunden und wird sicherlich in den Dell Foren, die bald starten werden, umfassend erörtert werden.

00:12:12:06 - 00:12:40:18

Courtney

Vielen Dank für die großartigen Einblicke in die Komplexität der KI-Einführung, wie innovative Lösungen, die von der Dell AI Factory unterstützt werden, häufige Herausforderungen bewältigen, Prozesse rationalisieren und Unternehmen in die Lage versetzen, KI effektiv und wirtschaftlich zu nutzen. Und vielen Dank an unsere ZuhörerInnen, die Ihr Unternehmen auf diesem Weg in die Zukunft der Technologie begleiten. Wir hoffen, dass die von uns geteilten Erkenntnisse Ihnen einen klareren Weg in Ihre eigenen KI-Initiativen aufgezeigt haben.

00:12:40:20 - 00:13:01:00

Courtney

Für alle, die weitere Informationen benötigen, steht die Roadshow des Dell Technologies Forums zur Verfügung. Achten Sie also auf unserer Website darauf. Alternativ können Sie auch unsere Onlineressourcen nutzen, die sich ausführlicher mit diesen Themen befassen. John, vielen Dank noch einmal für das Fachwissen, das Sie heute in diesem Gespräch mit uns. Dies hat unser Verständnis des transformativen Potenzials von KI definitiv bereichert.

00:13:01:02 - 00:13:03:09

Jon

Vielen Dank, Courtney. Vielen Dank für die Einladung.

00:13:03:11 - 00:13:18:03

Courtney

Und an unsere treuen ZuhörerInnen: Ihr Engagement ist das Herzstück dieser Serie. Wir freuen uns darauf, diese Erkundung in den nächsten Episoden mit Ihnen fortzusetzen. Die Dell Technologies Forum-Podcastserie wird Ihnen in Zusammenarbeit mit Intel, Microsoft und NVIDIA präsentiert.