00:00:02:13 - 00:00:41:18
스피커 1
안녕하세요, Dell Technologies Forum에 다시 오신 것을 환영합니다. 팟캐스트 시리즈에서는 아이디어와 혁신이 가속화되는 과정을 살펴봅니다. 이 시리즈에서는 끊임없이 진화하는 기술 환경을 살펴볼 수 있도록 Dell Technologies의 가장 뛰어난 인재와 업계의 선구자들을 한 자리에 모읍니다. 저는 진행자인 Courtney Hughes입니다. 오늘은
NVIDIA의 전략적 영업 부사장인 Jeremy Williford 씨를 모셨습니다. 이 대화는 특히 기대가 됩니다. 오늘은 이론을 넘어 고객이 실제 활용 사례에서 실질적인 비즈니스 성과에 이르기까지 AI로 실제로 무엇을 하고 있는지에 초점을 맞출 것이기 때문입니다.
00:00:41:20 - 00:00:50:15
스피커 1
AI가 어떻게 산업 전반에서 혁신을 주도하는지 살펴보겠습니다. Jeremy 씨, 다시 만나서 반갑습니다. 자리해 주셔서 정말 감사합니다.
00:00:50:15 - 00:00:52:01
스피커 2
안녕하세요 Courtney 씨, 초대해 주셔서 감사합니다.
00:00:52:03 - 00:00:53:24
스피커 1
다시 뵙게 되어 정말 기쁩니다.
00:00:54:00 - 00:00:59:06
스피커 2
지난 대화도 즐거웠고, 이번 대화도 벌써 기대가 됩니다.
00:00:59:08 - 00:01:07:15
스피커 1
마찬가지입니다. Jeremy 씨, AI가 현재 전 세계에서 어느 위치에 있는지에 대한 Jeremy 씨의 관점이 궁금합니다.
00:01:07:17 - 00:01:33:01
스피커 2
우리가 지난번에 이야기한 이후에도 상황은 빠르게 변했는데요, 지금 AI는 기업들이 실제로 도입하여 활용하기 시작하고, 그로부터 가시적인 성과를 얻기 시작한 전환점에 서 있습니다. 그 과정에서 우리는 크게 두 가지 유형의 기업을 보게 되죠. Netflix처럼 이 새로운 기술을 적극 받아들이는 기업이 있는가 하면, Blockbuster처럼 뒤처진 위치에 있는 기업도 있습니다.
00:01:33:03 - 00:01:58:17
스피커 2
지금 이 시점에 AI 여정을 시작하지 않은 기업은 이미 뒤처졌다고 말씀드릴 수 있습니다. 기업들이 이미 생산성을 높이기 위해 AI를 사용하고 있기 때문입니다. 또 고객 서비스 개선이나 운영 개선에도 사용하고 있습니다. 시장에서의 이러한 추세는 매우 빠르게 가속화되고 있습니다. 그렇기 때문에 지금이야말로 기업으로서 전략을 수립할 중요한 시기인 것입니다.
00:01:58:19 - 00:02:03:12
스피커 1
네. 실제로 성과를 내고 있는 AI 활용 사례에는 어떤 것들이 있나요?
00:02:03:14 - 00:02:26:21
스피커 2
음, 가장 먼저 눈에 띄는 것은 챗봇입니다. 하지만 오늘날의 챗봇은 하룻밤 사이에 변하고 있습니다. 단순 응답을 넘어 지능적인 대화 흐름으로, 기업이 원하는 결과를 내기 위한 실제 데이터 기반으로 진화하고 있죠. 탁월한 안전 장치와 효율성을 갖추면서 말입니다.
00:02:26:21 - 00:02:51:07
스피커 2
이는 고객 서비스를 개선하고, 더 많은 고객을 상대할 수 있는 능력을 향상시킵니다. 이러한 작업을 수행하기 위해 더 이상 많은 인력을 고용할 필요가 없습니다. 정형 데이터, 비정형 데이터를 활용해 고객이 효과적인 소통과 투명한 대화라고 평가하는 실질적인 결과를 얻을 수 있습니다. 이 분야 외에 R&D 부문 또한 주목할 만합니다.
00:02:51:09 - 00:03:13:15
스피커 2
코딩 작업을 하는 대부분의 기업을 생각해 보세요. NVIDIA의 경우 엔지니어의 70%가 코딩 엔지니어인데, 이들 모두가 코딩 지원 툴을 사용하고 있습니다. Dell도 마찬가지입니다. 수많은 개발자들이 코드 생성 보조 툴을 사용하며 엄청난 생산성 향상을 경험하고
00:03:13:17 - 00:03:41:23
스피커 2
모든 것을 더욱 빠르게 전환하고 있습니다. 이 두 가지가 대표적인 활용 사례입니다. 한편, 영상 검색 및 요약 부분도 있습니다. 공장을 짓거나 구조를 설계할 때는 문제가 되는 부분이 있는지 찾아야 합니다. AI를 활용한 덕분에 품질 관리가 향상되고 도시 환경 내 흐름 제어 기회가 훨씬 향상되었습니다. 이것들은 현재 진행 중인 수많은 변화의 일부에 불과하지만, 정말로 모든 사람이 활용할 수 있는 것들입니다.
00:03:42:00 - 00:03:55:20
스피커 1
네. 많은 헤드라인을 장식하는 대형 거래들을 보면, 우리 고객들 사이에서도 다양한 견해가 있을 텐데요, 맞아요. 일반 기업도 AI를 의미 있게 도입할 수 있을까요?
00:03:55:22 - 00:04:20:22
스피커 2
Courtney 씨, 정말 좋은 질문입니다. 왜냐하면, 모든 헤드라인을 보다 보면 사람들은 '10억 달러를 투자할 여력이 없다'라고 생각할 수 있지만 좋은 소식은 그럴 필요가 전혀 없다는 점입니다. 토큰 생성 방식과 코드 구축 방식을 고려해 보면 8대의 서버로 4,000명의 개발자를 지원할 수 있습니다.
00:04:20:24 - 00:04:45:06
스피커 2
거대한 수랭식 데이터 센터에 투자해야 하는 것이 아닙니다. Dell과 NVIDIA의 제품으로 구성된 공랭식 구조는 표준 데이터 센터 랙에 장착되어 랙당 17kW를 사용합니다. 8개의 서버를 쉽게 배치해 다양한 기회에 대응할 수 있죠. 서버 한 대로도 시작할 수 있습니다.
00:04:45:08 - 00:05:09:05
스피커 2
4~8개의 GPU가 탑재된 서버 한 대로도 회사의 전체 챗봇 구조를 지원할 수 있습니다. 따라서 토큰 생성 방식과 이 모든 것들을 실시간으로 처리하는 능력 덕분에 비즈니스를 적절하게 확장하고 작은 규모로 시작할 수 있습니다. 사실 어떤 기업이든 몇 가지 내부 AI 활용 사례로 시작할 것을 적극 권장합니다.
00:05:09:07 - 00:05:30:10
스피커 2
외부 고객을 상대로 할 필요 없이 양질의 데이터 세트와 적정량의 컴퓨팅 리소스로 시작하라는 것이죠. 현재 우리 두 회사가 함께 하고 있는 일 중 하나는 Dell Pro Max, GB10이라는 제품을 시장에 내놓는 것입니다. 이 제품은 책상에 놓일 일반 Xbox 크기만한 박스인데,
00:05:30:12 - 00:05:52:03
스피커 2
4년 전 8방향 서버가 처리하던 작업을 동일하게 수행합니다. AI 개발자가 사용할 수 있는 놀라운 장비죠. 그러니 모든 기업에는 출발점이 있고, 그 출발점이 어디인지를 이해하기만 하면 됩니다. 하지만 기업은 AI를 서비스하기 위해 어떤 소프트웨어 스택을 구축할 것인지
00:05:52:05 - 00:06:13:01
스피커 2
그 스택을 어디에 배치할지, 데이터를 어떻게 처리할지, 비용 구조를 어떻게 제어할 것인지, 또 확장 계획은 어떻게 제어할 것인지에 대한 광범위한 접근법을 마련하는 것이 매우 중요합니다. 최종 목표가 무엇인지, 모든 것을 클라우드에 구축할 것인지, 아니면 그러한 클라우드를 구축하는 비용을 지불할 것인지
00:06:13:03 - 00:06:16:08
스피커 2
전략 수립 초기 단계에서 깊이 고민해야 합니다. 네.
00:06:16:08 - 00:06:24:24
스피커 1
그러니까 Dell AI Factory with NVIDIA를 구축하는 데 어마어마한 예산이나 인프라스트럭처가 필요한 것은 아니며,
00:06:25:01 - 00:06:45:14
스피커 2
맞습니다. 다양한 수준에서 시작할 수 있다는 말씀이시군요. 기술을 더 잘 이해하고, 개발자들이 온프레미스에서 리소스를 활용할 수 있도록 돕고, 그런 다음 이 여정을 시작하고 코드 구조를 소유하기 시작할 수 있는 수준부터 시작하세요.
00:06:45:16 - 00:07:15:14
스피커 2
맞아요. 이렇게 하면 특정 CSP 즉, 클라우드 서비스 공급업체에 의존하여 전체 스택을 제공할 필요가 없습니다. 처음 시작은 쉽지만, 한번 특정 스택에 묶이면 그 스택에 종속될 수 있습니다. 따라서 소프트웨어 스택과 관련해 기업의 운명을 스스로 개척하는 방법을 이해하는 것이 매우 중요합니다. 그래서 모든 기업이 AI에 대한 장기적 목표를 깊이 생각해보고 어디서 시작할지를 신중하게 결정할 것을 권장하는 것입니다.
00:07:15:16 - 00:07:23:08
스피커 1
네. 소규모로 시작해서 장기적인 목표를 생각해야 한다고 말씀하셨는데요, 이때 기업이 첫 번째 단계로 반드시 해야 할 일은 무엇인가요?
00:07:23:10 - 00:07:53:12
스피커 2
맞아요. 많은 기업들이 바로 이 첫 단계에 있습니다. 현재 시장의 전략 중 하나는 AI 개발자나 데이터 개발자들이 각자 다른 프로젝트를 진행하도록 내버려 두는 것입니다. 그 결과 프로젝트 과부하 상태에 직면하게 되죠. Dell 내부에서도 약 3년 전, 직원들이 진행 중인 다양한 사항을 보여주기 위한 800개가 넘는 프로젝트가 있었다고 들었습니다.
00:07:53:14 - 00:08:23:05
스피커 2
이는 기업에 큰 부담으로 작용합니다. 800개의 무질서한 AI 프로젝트로는 아무것도 이루지 못할 것입니다. 따라서 CXO, IT 리더, LOB 리더로서 해야 할 일은 회사가 이 기술로 무엇을 이루고자 하는지 명확히 설정하는 것입니다. 다시 말해, 회사가 이미 매우 능숙하고 잘하는 일을 골라, 그것을 어떻게 더욱 향상시킬지에 초점을 맞춘 전략을 수립하라는 것이죠.
00:08:23:07 - 00:08:54:12
스피커 2
회사가 발전시키고자 하는 3~5가지 중점 과제를 선택하세요. 이는 회사의 강점에 기반한 것이어야 합니다. 이미 잘 하고 있는 부분을 바탕으로 해야 합니다. 만약 다른 회사가 AI를 사용한다면, 그들이 현재 여러분의 회사보다 그 일을 더 잘할 수 있을까요? 만약 그것이 여러분 회사의 강점이자, 주력해야 할 분야라면, 여러분의 회사는 그 분야에서 항상 선두를 유지해야 합니다. 즉, 회사의 강점과 관련된 AI 프로젝트에 집중하면 그러한 강점이 더욱 더 탄탄해질 것입니다.
00:08:54:16 - 00:09:17:08
스피커 2
이렇게 하면 AI를 사용하는 다른 어떤 회사도 따라잡을 수 없는 더 나은 기업으로 성장할 수 있습니다. 하지만 그러한 전략과 집중이야말로 모든 회사가 시작해야 할 지점입니다. 그렇게 해야 리소스를 투입하고, 역점을 두고, 더 오래 지속되는 무언가를 구축할 수 있습니다. 그리고 보조 프로젝트나 다른 것을 설정할 수는 있겠지만, 주된 초점은 그러한 부분에 두어야 합니다. 이것이 기업으로서 가장 먼저 해야 할 일입니다.
00:09:17:10 - 00:09:39:08
스피커 2
그리고 Courtney 씨, 두 번째로 중요한 것은 일단 회사의 전략이 무엇인지 이해하고 나면, 그 전략을 중심으로 데이터를 체계화해야 한다는 것입니다. 데이터에 어떻게 접근할 수 있는지, 또 컴퓨팅 관점에서도 이해하기 쉽도록 해야 합니다. 그렇기 때문에 AI 데이터 플랫폼이 그토록 중요한 것입니다.
00:09:39:10 - 00:10:03:21
스피커 2
그리고 우리가 시장에서 진행하고 있는 AI DP 작업은 기업들이 비정형 데이터, 정형 데이터를 가져다 벡터화된 데이터베이스로 만들어, 챗봇이나 코드 구조를 구축하기 위한 저장소로 쉽게 활용할 수 있도록 돕습니다. 이러한 모든 것들, 즉 데이터 준비 상태에 많은 중점을 두어야 합니다. 왜냐하면 그것이 회사를 성공으로 이끌 것이기 때문입니다.
00:10:03:23 - 00:10:21:03
스피커 2
양질의 데이터가 들어오고 속도와 효율성이 향상되며 이를 앞으로 나아가게 할 수 있습니다. 그래서 이 두 가지를 갖추면 비로서 출발선을 넘는 것입니다. 전략과 양질의 정형 데이터 말이죠. 그러면 시장에서 정말 빠르게 기하급수적으로 움직일 준비가 됩니다.
00:10:21:09 - 00:10:29:14
스피커 1
저희의 파트너십은 이 모든 것의 최전선이자 중심에 있습니다. Jeremy 씨의 의견을 듣고 싶은데요. Dell이 왜 NVIDIA의 올바른 협력사인가요?
00:10:29:16 - 00:10:48:08
스피커 2
현장에서 Dell Technologies보다 더 나은 파트너를 찾기는 어려울 것입니다. 스토리지 분야 1위, 서버 분야 1위, 종단 간 모든 구조의 기반이 되는 패브릭 분야 1위를 기록하는 등 하드웨어 체인 전반에서 Dell Technologies는 훌륭한 역할을 하고 있습니다.
00:10:48:10 - 00:11:15:23
스피커 2
하지만 서비스 또한 이 전체 AI 팩토리 구조에서 매우 중요합니다. 서비스, 소프트웨어 지원, 배포 구조, 초기 설정 이후 지속적인 2일 차 설정, 관리형 서비스 환경까지, Dell Technologies는 이 모든 것을 원스톱으로 제공합니다. 무엇을 구축할지 뿐만 아니라 어떻게 구축할지에 대한 주제별 전문가를 모든 단계에 보유하고 있습니다.
00:11:16:00 - 00:11:40:10
스피커 2
매우 중요한 부분이죠. Dell Technologies가 뛰어난 또 다른 점은 시장 내 다양한 소프트웨어 공급업체의 위치를 잘 알고 있다는 것입니다. 오늘날의 AI 구조는 여전히 진화하고 있습니다. 그리고 이러한 소프트웨어 파트너들은 저희가 제공하는 서비스에 매우 중요합니다. 따라서 Dell Technologies는 IT 부서가 사용하려는 소프트웨어 구조,
00:11:40:12 - 00:12:07:15
스피커 2
플랫폼을 빠르게 발전시킬 소프트웨어 구조를 쉽게 도입하고 제공할 수 있도록 해줍니다. 결국 이는 단순한 하드웨어가 아닙니다. 바로 서비스, 하드웨어, 소프트웨어 등 모든 요소를 아우르는 것이죠. Dell Technologies는 이 같은 스펙트럼의 모든 요소를 제공하고, 여러분이 어디에 있든, 어떤 일을 하든, 이를 구축하도록 도울 수 있는 글로벌 지원 구조를 갖추고 있기에 환상적인 파트너입니다.
00:12:07:17 - 00:12:09:17
스피커 2
이처럼 새로운 AI 산업 혁명 속에서 말입니다.
00:12:09:19 - 00:12:17:24
스피커 1
그래요, 정말 흥미진진합니다. 우리는 흥미로운 시대에 살고 있어요. 그럼 Jeremy 씨, AI의 다음 단계에 대해 어떤 기대를 갖고 계신지 알고 싶습니다.
00:12:18:01 - 00:12:42:07
스피커 2
AI의 다음 단계를 생각해 볼 때 제게 놀라운 것은 우리가 물리적 AI 영역에서 처한 위치입니다. 저희는 시장에서 모든 파트너와 함께 추론 에이전틱 AI를 출시하는 정말 놀라운 일을 해냈습니다. 그리고 이제 여러분은 이러한 에이전트들이 솔루션 스펙트럼의 여러 끝에서 작동하며 함께 협력하여 우리가 하는 일을 개발할 수 있는 것을 볼 수 있습니다.
00:12:42:09 - 00:13:15:21
스피커 2
이 여정의 다음 단계는 피지컬 AI입니다. 그리고 피지컬 AI를 보면, 아마 우리가 생각하는 피지컬 AI에 도달하는 데 앞으로 5년 정도 걸릴 것입니다. 하지만 여러분은 피지컬 AI의 기반을 이미 목격하고 있죠. 자율 주행 자동차와 로봇 공학을 생각해 보세요. 자체 가상 환경 구조를 갖춘 시설과 주변 환경을 인식하고 이와 함께 작업하는 시설 내의 로봇들을 생각해 보세요.
00:13:15:23 - 00:13:39:19
스피커 2
이것은 놀라운 분야입니다. 왜냐하면 이것이 이 물리적 세계를 에이전틱 AI로 이루어진 AI 세계로 데려갈 것이기 때문입니다. 정말 흥미롭죠. 여전히 새로운 시장이자 여전히 무수한 성장 기회가 존재합니다. 하지만 우리는 NVIDIA에서 우리의 가장 큰 소프트웨어 구조 중 일부가 시장을 선도하며, 바로 그 피지컬 AI에서 구조를 구축하는 것처럼 보이는 것을 보고 있습니다.
00:13:39:19 - 00:13:53:13
스피커 2
그것은 데이터 구조를 사용하여 자체 물리적 환경을 만들 수 있는 데이터 처리 엔진입니다. 정말 흥미롭습니다. 이것이 현재 상황보다 훨씬 더 커질 것이라고 생각합니다.
00:13:53:15 - 00:13:56:13
스피커 1
네. Jeremy 씨, 오늘 함께해 주셔서 정말 감사합니다.
00:13:56:16 - 00:14:08:14
스피커 2
Courtney 씨. 초대해 주셔서 감사합니다. 좋은 이야기도 감사드립니다. 그리고 사람들이 이 새로운 기술, 이 추세 변화가 어디로 향하고 있는지 이해할 수 있도록 시장에 선보이고 있는 모든 부분에 대해서도 감사드립니다. 네. 정말 멋진 일을 하고 계십니다.
00:14:08:16 - 00:14:34:06
스피커 1
감사합니다. 그리고 들어주신 모든 청취자 분들께 감사드립니다. 우리가 일하고 혁신하는 방식을 형성하는 기술에 대해 자세히 알아볼 수 있도록 팟캐스트를 팔로우하고 공유하는 것 잊지 마시고요. 오늘 에피소드가 흥미로우셨다면 가까운 Dell Technologies Forum에 꼭 참여해 보시기 바랍니다. 동료들과 교류하고, 이러한 혁신을 직접 경험하며, 더욱 깊은 대화를 나눌 수 있는 좋은 기회입니다.
00:14:34:08 - 00:14:55:13
스피커 1
그리고 다음 단계로 나아갈 준비가 되셨다면 Dell과 NVIDIA 리소스를 활용하여 간단한 AI 활용 사례를 시범 운영하는 방법을 알아보세요. 막 시작하는 단계이든 확장하는 단계이든, 아이디어를 현실로 바꾸는 데 도움이 될 도구, 청사진, 전문가 지원이 마련되어 있습니다. 웹사이트에서 가장 가까운 포럼과 더 많은 리소스를 찾아보세요. 들어 주셔서 감사합니다.
00:14:55:14 - 00:14:59:10
스피커 1
저희는 변혁과 영향력에 대한 더 많은 이야기로 곧 돌아오겠습니다.
