AI 완전 정복: Dell Technologies와 함께 차세대 혁신으로 나아가기

Courtney

안녕하세요, Dell Technologies Forum에 다시 오신 것을 환영합니다. 팟캐스트 시리즈에서는 아이디어와 혁신이 가속화되는 과정을 살펴봅니다. 이 시리즈에서는 끊임없이 진화하는 기술 환경을 살펴볼 수 있도록 Dell Technologies의 가장 뛰어난 인재와 업계의 선구자들을 한 자리에 모읍니다. 저는 이 발견의 여정을 안내하는 Courtney Hughes입니다. 오늘은 세상을 변화시키는 새로운 혁신인 인공 지능에 관한 다른 관점을 살펴보겠습니다. 혁신적인 영향에 대해 자세히 알아보고 기술 도입에 접근하는 방식에 어떤 혁신을 도입하고 있는지 살펴보겠습니다.

00:00:41:10 - 00:01:09:22

Courtney

Dell AI Factory를 통해 조직은 이미 복잡한 과제를 간소화된 솔루션으로 전환할 수 있는 토대를 마련했습니다. 오늘은 Dell에서 AI를 제대로 알아보고 모두가 액세스할 수 있도록 하는 데 중요한 역할을 하는 포트폴리오 마케팅 수석 부사장인 Jon Siegel 씨가 함께합니다. Jon 씨, 고객들이 자신감과 명확성을 가지고 AI 여정을 시작할 수 있도록 Dell이 어떤 길을 닦고 있는지에 관한 통찰력을 전해 주시기 위해 나와 주셔서 정말 감사합니다.

00:01:09:23 - 00:01:11:07

Courtney

환영합니다.

00:01:11:09 - 00:01:12:20

Jon

반갑습니다, Courtney 씨.

00:01:12:22 - 00:01:35:11

Courtney

여기 모시게 되어 정말 기쁩니다. Jon 씨, 이전 에피소드에서는 Matt Baker 씨와 Doug Schmitt 씨와 함께 Dell AI Factory와 그 원리를 정의했습니다. 오늘은 지금까지 미친 영향에 대해 묻고 싶습니다. Dell AI Factory가 고객이 AI와 관련된 가장 큰 당면 과제를 극복하는 데 어떤 도움이 되는지 설명해 주시겠어요?

00:01:35:13 - 00:02:02:05

Jon

그렇습니다. 먼저 간단히 요약하자면, Dell Factory 자체는 고객이 AI 도입을 가속화할 수 있도록 지원하는 방식입니다. 그리고 AI 옵션과 관련하여 고객으로부터 지속적으로 듣는 가장 큰 당면 과제를 복잡성, 위험 및 비용이라는 세 가지 요소로 요약해 보겠습니다. 각 문제에 대해 살펴보고, 각 문제에 대해 고객을 어떻게 지원하고 있는지 이야기해 보겠습니다.

00:02:02:07 - 00:02:21:17

Jon

첫 번째는 복잡성입니다. 앞서 말씀드린 것처럼 AI 프로젝트는 어려울 수 있습니다. 특히 대부분의 고객이 보유한 AI 기술과 인재의 격차를 감안하면 더욱 그렇습니다. 데이터 준비 상태도 큰 장애물입니다. 관련성과 정확도를 갖춘 데이터에 액세스하기를 원하는 고객의 입장에서는 훨씬 더 복잡합니다.

00:02:21:17 - 00:02:55:00

Jon

그래야 이를 AI 프로젝트에 제공할 수 있습니다. 그리고 흔히 말하는 것처럼, 좋은 데이터는 좋은 AI와 같습니다. 하지만 불행하게도 나쁜 데이터는 AI에 악영향을 미칩니다. 두 번째는 위험입니다. 고객들은 위험에 대해 우려합니다. 데이터와 IP 유출, 개인 정보 보호 문제부터 편향성 문제까지 모든 것이 문제입니다. 최근 The Boston Globe의 기사에서 저는 어떤 아시아 대학생이 GenAI에 얼굴 사진을 좀 더 전문적으로 만들어 달라고 요청했더니 인종이 변해버렸다는 것을 읽었습니다.

00:02:55:02 - 00:03:05:03

Jon

이는 한 가지 예시에 불과합니다. AI가 잘못되면 이런 결과가 많이 나오고, 그 결과는 꽤 잘 알려지고 있습니다. 저희 모두 아는 것처럼 누구도 이 문제가 심각해지기를 원치 않습니다.

00:03:05:06 - 00:03:05:24

Courtney

맞습니다.

00:03:06:00 - 00:03:22:19

Jon

세 번째는 비용입니다. 데이터를 클라우드로 이동하고 AI 워크로드를 실행하려면 비용이 많이 들 수 있습니다. Dell Technologies는 데이터에 AI를 도입하는 하이브리드 클라우드 모델을 지원합니다. 그렇다면 이제 각각을 자세히 살펴보겠습니다. 복잡성을 해결할 때의 목표는 무엇보다도 더욱 쉽게 만드는 것입니다.

00:03:22:21 - 00:03:45:10

Jon

저희는 오늘날 전략 수립부터 데이터 준비 등에 이르기까지 프로세스 전반에 걸쳐 고객을 안내하는 전문 서비스를 시작할 수 있도록 돕고 있습니다. 또한 인프라스트럭처를 편리하게 활용할 수 있도록 하는 것을 목표로 합니다. 특정 활용 사례에 맞는 전체 스택 솔루션을 통합하여 완벽하게 검증했습니다. 또한 인프라스트럭처를 사전에 테스트합니다.

00:03:45:12 - 00:03:48:19

Jon

좋은 예시로 AI Factory with NVIDIA를 들 수 있습니다.

00:03:48:22 - 00:03:49:14

Courtney

그렇죠.

00:03:49:14 - 00:04:06:21

Jon

고객이 자체 디지털 어시스턴트를 구축하는 데 도움이 되는 솔루션이 있습니다. 그래서 고객이 직접 구축할 필요가 없도록 합니다. 그리고 위험 완화와 관련하여 저희는 고객의 가장 중요한 데이터를 보호해야 합니다. Dell Technologies는 신뢰할 수 있는 인프라스트럭처와 서비스를 통해 이러한 목표를 달성해 왔습니다.

00:04:06:21 - 00:04:27:00

Jon

특히 AI 분야에서의 좋은 예시가 Meta와의 협력입니다. 최근 고객이 최신 Llama 3 LLM을 온프레미스에 배포하도록 지원하고 백서를 통해 고객에게 안전하게 배포하는 방법을 보여주었습니다. 이는 최종적으로 데이터 침해와 유출 등의 위험을 줄이는 데 도움이 되었습니다. 아주 중요하죠.

00:04:27:00 - 00:04:45:17

Jon

마지막으로 비용 절감이라는 과제에 대해 알아보겠습니다. 이 부분에서 많은 시간이 필요할 것 같습니다. 최근 연구에 따르면 LLM 추론에 있어 퍼블릭 클라우드에 비해 온프레미스에서 Dell AI Factory를 사용하면 비용 효율성이 75% 증가할 수 있습니다. 이는 3년 동안의 결과였습니다.

00:04:45:17 - 00:04:53:14

Jon

그리고 고객이 AI Factory를 구축하여 데이터에 AI를 적용하는 것이 그 반대의 경우보다 비용 효율적이기 때문입니다.

00:04:53:16 - 00:05:03:03

Courtney

맞아요. 고객의 자체 AI Factory 주제와 관련하여 Dell은 고객이 자체 활용 사례와 같이 결과물의 우선순위를 지정하는 데 어떤 도움을 줄 수 있을까요?

00:05:03:05 - 00:05:09:02

Jon

네, 좋은 질문입니다. 결과를 먼저 염두에 두고 시작하는 것이 중요하다고 생각합니다.

00:05:09:02 - 00:05:09:21

Courtney

그렇습니다.

00:05:09:21 - 00:05:29:07

Jon

활용 사례를 통해 알려드리겠습니다. 개발자가 자연어를 사용하는 코드 생성부터 일상적인 작업의 자동화, 실제로 코드를 작성하는 디지털 어시스턴트, 앞서 언급했듯이 셀프 서비스 경험을 디지털 트윈으로 변환하는 등 다양한 활용 사례가 있습니다.

00:05:29:07 - 00:05:51:03

Jon

그래서 고객은 많은 활용 사례를 가지고 찾아오는 경우가 많고, 저희는 이를 직접 실현했습니다. Dell 내부에서 말이죠. 저희는 고객에게 전문 서비스를 제공합니다. 실제로 최근 6주 만에 고객이 본질적으로 200개의 활용 사례 아이디어를 5개로 좁힐 수 있도록 도왔습니다. 그리고 이 5가지의 성과를 극대화할 수 있도록 지원했습니다.

00:05:51:03 - 00:06:12:05

Jon

합의를 도출할 수 있도록 돕기만 하면 됩니다. 가치가 높은 활용 사례에 대한 서비스를 통해 이러한 활용 사례 자체가 공통의 요구 사항을 가지고 있고 고객에게 정말 좋은 가치를 제공하는 활용 사례에 초점을 맞추도록 하고 싶었습니다. 이러한 접근 방식으로 낭비를 방지할 수 있습니다. 고객은 투자 수익을 높일 수 있고, 빠르게 수익을 낼 수 있었습니다.

00:06:12:07 - 00:06:20:18

Courtney

좋습니다, Jon 씨. 활용 사례에 대해 말씀드리자면, 최근에 디지털 어시스턴트를 위한 GenAI 솔루션을 발표했습니다. 그 활용 사례에 대해 말씀해 주시겠어요?

00:06:20:20 - 00:06:48:01

Jon

네. 셀프 서비스의 잠재력에 대해 많은 기대가 있습니다. 고객의 셀프 서비스 경험을 개선하는 것이죠. 예를 들어, 애머릴로시와 같은 고객의 경우 주민들에게 정보를 더 효과적으로 제공할 방법을 찾고 있습니다. 기본적으로 도시 전역에서 주민들이 60개의 서로 다른 언어를 구사하죠. 그래서 셀프 서비스 경험을 통해 정보를 제공할 수 있는 간단한 방법을 찾고 있었습니다.

00:06:48:01 - 00:07:08:23

Jon

그래서 Nvidia와의 협업을 통한 새로운 솔루션은 간단하게 버튼을 하나로 모으는 것입니다. Dell Technologies는 기본적으로 Nvidia의 공동 솔루션을 제공하기 위해 모든 노력을 기울였으며, 고객은 몇 달 안에 배포할 수 있고 그 영향을 확인할 수 있었습니다. 그리고 애머릴로시의 경우 그 영향은 상당했습니다.

00:07:08:23 - 00:07:22:05

Jon

이제 필요에 따라 주민들에게 정보를 전달할 수 있습니다. 주민들의 경우 이전에는 이용할 수 없었던 정부 서비스를 이용할 수 있습니다. 아주 획기적인 변화입니다.

00:07:22:07 - 00:07:44:23

Courtney

동의합니다. 이는 Dell과 Nvidia가 고객의 아이디어를 가속화하는 데 어떤 도움을 주는지 보여주는 좋은 예시입니다. 분명 좋은 예시죠. 고객들은 AI와 환경 보호 및 지속 가능한 발전이라는 목표를 모두 달성하는 것이 얼마나 중요한지 이야기하고 있습니다. 맞아요. Dell, 특히 Dell AI Factory가 여기에 어떤 도움이 될 수 있을까요?

00:07:45:00 - 00:08:02:22

Jon

네. Dell은 환경 보호 및 지속 가능한 발전과 관련하여 포괄적인 접근 방식을 취해 왔습니다. Dell AI Factory가 좋은 예시입니다. AI와 관련된 결과를 달성하고 환경에 미치는 영향을 줄이는 데 중점을 둡니다. 저희는 두 가지 모두에 집중하고 있습니다. 그리고 몇 가지 방식으로 후자를 위해 노력합니다.

00:08:02:22 - 00:08:14:02

Jon

첫째로 지속 가능성에 대해 실행 가능한 통찰력을 제공합니다. AI 운영, 모니터링 기능을 통해 고객의 IT 자산 전반에서 에너지 사용량을 분석할 수 있습니다.

00:08:14:04 - 00:08:14:20

Courtney

와 이런,

00:08:14:22 - 00:08:36:19

Jon

예, 맞습니다. 실제로 데이터 센터 상면을 줄일 수 있는 방법에 대한 권장 사항을 제시합니다. 물리적 배출량과 탄소 배출량도 마찬가지입니다. 이는 모두가 파악하는 지표가 아닙니다. 둘째, Dell Technologies는 자체 기술을 통해 에너지 및 냉각 비용을 절감하도록 지원합니다. 최근 Dell Tech World에서의 발표에 따르면 새로운 PowerEdge 9680 L은 NVIDIA의 Blackwell을 기반으로 합니다.

00:08:36:19 - 00:08:59:11

Jon

액체 냉각 방식으로 설계되어 열 효율성을 유지하면서 컴퓨팅 성능을 극대화할 수 있습니다. 그래서 고객에게 도움이 될 수 있는 가장 뛰어난 최신 기술을 끊임없이 찾고 있으며, 세 번째는 고객이 순환성을 염두에 두고 AI로 전환할 수 있도록 돕는 것입니다. 고객이 새롭고 지속 가능한 기술로 업그레이드할 수 있도록 보장하는 것입니다.

00:08:59:11 - 00:09:18:22

Jon

아시다시피 현재 기술 분야는 대대적인 교체 직전에 있습니다. 데이터 센터가 AI Factory로 이동하고 AI PC도 출시되고 있습니다. 과거에는 교체 주기가 되면 환경 관련 비용이 발생하기 마련이었습니다. 맞아요. 네. 실제로 이번에는 이 주기를 깨뜨릴 수 있을 것입니다.

00:09:18:22 - 00:09:30:13

Jon

네. 그리고 노트북을 대상으로 하는 Asset Recovery Services와 같은 순환형 관행을 통해 이를 실현하고자 합니다. 제품과 자재를 보존하면서 훨씬 더 오래 사용할 수 있고 낭비를 줄일 수 있습니다.

00:09:30:15 - 00:09:38:00

Courtney

마지막으로 Dell Technologies의 AI 경험은 Dell AI Factory를 형성하는 데 어떤 도움이 되었나요?

00:09:38:02 - 00:09:57:17

Jon

많은 도움이 되었습니다. 하지만 이 여정은 이제 막 시작되었다고 할 수 있습니다. 그리고 이렇게 학습한 내용을 고객에게 전달하는 것이 중요합니다. 고객들은 이 분야에서 Dell Technologies의 경험에 대해 듣기를 원합니다. 저희는 AI 여정을 몇 개의 단계로 나눕니다.

00:09:57:17 - 00:10:19:00

Jon

첫 번째는 전략 자체입니다. Dell Technologies는 CAO(Chief AI Officer) 직책을 마련했으며, 모든 AI 이니셔티브를 해당 직책과 해당 부서로 모았습니다. 이 부서에서 활용 사례를 800개에서 4개로 줄이는 역할을 합니다. 이 네 가지는 고객들 사이에서도 꽤 흔한 것들이었습니다.

00:10:19:02 - 00:10:39:17

Jon

소프트웨어 개발. 고객 서비스, 영업, 콘텐츠 제작으로, 이 네 가지가 현재 저희가 집중하고 있는 주요 분야입니다. 두 번째 단계는 구현 그 자체입니다. 예를 들어 AI에 활용할 데이터를 준비하는 것을 의미합니다. 이는 특히 저희와 같은 대규모 기업에 있어서는 쉽지 않은 작업입니다. 데이터가 어디에 있는지 파악해야 했습니다.

00:10:39:17 - 00:10:53:09

Jon

그리고 이를 정리하고 준비해야 했습니다. 액세스 제어에 대비하면서 적절한 보안과 거버넌스를 갖추어야 했습니다. 이게 끝나면 시작할 준비가 되었습니다. 이러한 과정을 거치게 됩니다.

00:10:53:11 - 00:10:53:19

Courtney

네.

00:10:53:22 - 00:11:11:17

Jon

직접 경험했기에 고객에게 조언을 제공하는 데 큰 도움이 되었습니다. 데이터가 온프레미스에 있든, 엣지에 있든, 클라우드에 있든, 자체 PC에 있든, Dell Technologies는 데이터를 성공적으로 가져오고 고객에게 조언을 제공합니다.

00:11:11:17 - 00:11:28:14

Jon

마지막으로 도입과 확장 단계입니다. 세 번째로 큰 단계였죠. 활용 사례를 활용하고 회사 전반에 걸쳐 광범위한 교육과 기술 역량에 투자하는 것입니다. 이 방법이 큰 도움이 되었다는 것을 알게 되었으며, 고객과 공유하는 모범 사례가 되었습니다.

00:11:28:14 - 00:11:45:01

Jon

스스로를 고객으로서 대하면서 경험한 모든 것들이 데이터 팩토리에 반영됩니다. 그리고 최종적으로 고객이 AI를 통해 잠재력을 실현할 수 있도록 돕습니다.

00:11:45:06 - 00:12:02:08

Courtney

네. 또한 고객과의 신뢰를 쌓을 수 있을 것입니다. 직접 여정을 거치면 아직 시도하지 않은 것에 비해 학습한 내용에 대해 이야기하면서 그 교훈을 전달할 수 있습니다.

00:12:02:10 - 00:12:12:04

Jon

그렇습니다. 이 주제가 현재 고객이 가장 많이 궁금해 할 주제일 것이며, Dell Forum에서 많은 주제가 곧 공개될 예정입니다.

00:12:12:06 - 00:12:40:18

Courtney

Dell AI Factory가 지원하는 혁신적인 솔루션이 일반적인 당면 과제를 해결하고 프로세스를 간소화하면서 조직이 AI를 효과적이고 경제적으로 활용할 수 있도록 지원하는 방법에 대한 몇 가지 유용한 통찰력을 제공해 주셔서 감사합니다. 기술의 미래를 향한 여정에 함께해 주신 청취자분들께 감사드립니다. 저희가 공유한 통찰력을 통해 자체 AI 이니셔티브를 더욱 명확하게 추진할 수 있기를 바랍니다.

00:12:40:20 - 00:13:01:00

Courtney

그리고 더 많은 지식을 원하는 분들을 위해 Dell Technologies Forum 로드쇼가 예정되어 있으니 웹사이트에서 확인하거나 이러한 주제에 대해 자세히 알아볼 수 있는 온라인 리소스도 찾아보세요. Jon 씨, 오늘 이 대화에서 공유해 주신 지식에 다시 한 번 감사드립니다. AI의 혁신적인 잠재력에 대한 이해를 확실히 높여주셨습니다.

00:13:01:02 - 00:13:03:09

Jon

감사합니다, Courtney 씨. 불러 주셔서 감사합니다.

00:13:03:11 - 00:13:18:03

Courtney

청취자 여러분, 여러분의 참여가 이 시리즈의 핵심입니다. 다음 에피소드에서도 계속해서 탐구를 이어갈 수 있기를 기대합니다. Dell Technologies Forum 팟캐스트 시리즈는 인텔, Microsoft 및 Nvidia와 공동으로 제작되었습니다.