00:00:04:10 - 00:00:36:10
Courtney
안녕하세요, Dell Technologies Forum 팟캐스트 시리즈에 오신 것을 환영합니다. 여기서는 아이디어를 혁신으로 더 빠르게 전환하는 데 중점을 두고 있습니다. 이 시리즈에서는 Dell 전문가와 글로벌 전문가를 한자리에 모아 기술 발전의 핵심 분야에서 고객과의 협업 프로젝트를 탐구합니다. 저는 사회자이자 Dell Technologies 이벤트 프로그래밍 콘텐츠 책임자 Courtney Hughes입니다. 오늘은 앞의 에피소드를 바탕으로 고객이 직면하는 AI와 관련된 일반적인 당면 과제를 다룰 예정입니다.
00:00:36:12 - 00:00:57:16
Courtney
복잡성과 데이터 가용성부터 데이터 프라이버시 및 IP 유출과 같은 위험을 포함한 내부 리소싱은 물론 비용까지 모든 내용을 다룹니다. 인텔의 데이터 센터 및 AI 소프트웨어 솔루션 및 생태계 부문 부사장인 Bill Pearson 씨와 함께합니다. 안녕하세요.
00:00:57:18 - 00:00:59:17
Bill
감사합니다. Courtney 씨. 초대해 주셔서 감사합니다.
00:00:59:19 - 00:01:19:16
Courtney
예. 고객의 주요 요구 사항과 출발점과 맞춤형 솔루션 및 보안을 포함한 AI 도입을 파악하고, 현재와 새로운 기회를 모색하고 인텔과 Dell 간의 긴밀한 파트너십이 어떻게 더 스마트한 AI 솔루션을 제공할 수 있는지 알아볼 것입니다. 준비되셨나요, Bill 씨?
00:01:19:19 - 00:01:21:24
Bill
그렇습니다. 시작하죠.
00:01:22:01 - 00:01:30:01
Courtney
좋아요. 먼저 AI 여정에서 고객의 주요 요구 사항에 대한 인텔의 생각을 말씀해 주시겠습니까?
00:01:30:03 - 00:01:45:15
Bill
예, 고객으로부터 자주 듣는 첫 번째 질문 중 하나가 어떻게 시작해야 할 것인가입니다. 이 부분에서는 해야 할 일이 많습니다. 진화는 빠르게 이루어지고, 고객은 비즈니스 당면 과제를 효율적으로 해결하려고 노력하고 있습니다. 그래서 파일럿부터 시작하죠. 이를 통해 대략적인 모습을 파악합니다.
00:01:45:17 - 00:02:15:16
Bill
고객이 선택권을 찾고 있다는 말을 종종 듣습니다. 하드웨어 및 소프트웨어 네트워킹 전반에 걸쳐 다양한 옵션을 찾고 있습니다. 그 선택지와 관련하여 정말 기대되는 것 중 하나는 Dell Power Edge ECS 9680입니다. Goudie 3을 기반으로 합니다. 고객이 고려할 수 있는 훌륭한 인프라스트럭처 옵션입니다. 이를 살펴보고 고객의 의견을 들을 때 데이터 센터, 엣지 클라이언트 등 워크로드를 진행하면서 고객의 요구 사항을 제대로 이해해야 합니다.
00:02:15:18 - 00:02:46:11
Bill
이를 위한 한 가지 방법은 이러한 시스템 참조 설계, 이른바 인텔 AI 시스템을 제공하는 것입니다. 하지만 실제로 컴퓨팅, 스토리지, 연결, 소프트웨어를 혼합하여 고객의 특정 비즈니스 요구 사항을 이해하고, 이러한 요구 사항을 기업의 요구 사항과 고객이 달성하려는 목표를 충족하도록 조정할 수 있는 아이디어입니다. 추론, RAG 미세 조정, 검색, 증강 세대, 교육 등이 될 수 있죠.
00:02:46:13 - 00:03:18:21
Bill
전략의 핵심은 선택이고, 원하는 비즈니스 역량에 집중하는 것입니다. 저희가 확인한 것 중 하나는 고객이 한 단계 나아간 만큼 이제 몇 가지 선택을 하고 이를 배포하는 방법을 알아보려고 한다는 것입니다. 맞아요. 기업과 관련된 과제가 종종 있습니다. 구성하는 시스템이 기존 인프라스트럭처와 연동되도록 맞춤화된 엔터프라이즈급 시스템이 되려면 어떻게 해야 할까요?
00:03:18:21 - 00:03:39:18
Bill
적절한 소프트웨어 스택이 검증 및 최적화되어 있으며 고유한 비즈니스 요구 사항에 맞게 맞춤 구성됩니다. 안전하고 관리가 가능하면서 원하는 작업을 효과적으로 수행합니다. 기업의 성장에 따라 확장합니다. 연결한 다양한 소스에서 모든 엔터프라이즈 데이터를 관리할 수 있고 모두 경제적입니다.
00:03:39:18 - 00:03:42:20
Bill
이 모든 것을 통해 제게 도움이 될 것입니다.
00:03:43:01 - 00:03:49:16
Courtney
맞아요. 이를 기반으로 했을 때 기업의 AI 관련 기회와 주요 활용 사례는 무엇입니까?
00:03:49:18 - 00:04:09:18
Bill
아주 흥미로운 영역입니다. 빠르게 진화하고 있죠. 그리고 오늘날의 진화에 대해 생각해보면 AI 어시스턴트가 많이 사용되고 있습니다. 코드 생성, 결함 탐지 등 사람들이 하는 작업을 AI가 보강하는 것을 볼 수 있습니다. 동시에 AI 에이전트의 출현도 목격하고 있습니다.
00:04:09:18 - 00:04:30:13
Bill
도메인별 워크플로가 있습니다. 고객 서비스 및 지원이 좋은 예입니다. 앞으로 에이전트 접근 방식에 대해 더 자세히 살펴보겠습니다. 하지만 기능적 AI 접근 방식도 더 많을 것입니다. AI를 사용하여 재무 또는 건강 진단과 같은 복잡한 전사적 성과를 자동화하는 것입니다.
00:04:30:15 - 00:05:04:14
Bill
그리고 이를 가능하게 하기 위해서, 이 열차를 계속 움직이려면 두 가지 핵심 요소가 함께 작용합니다. 하나는 AI 기능의 진화입니다. 더 정교한 모델을 훈련시키고 추론 데이터 세트를 더 많이 얻을 수 있습니다. 두 번째는 도메인별 데이터에 관한 것입니다. 기업에서 도메인이나 엔터프라이즈별 데이터에 대해 학습된 모델을 쉽게 개발하고 배포하여 해당 데이터를 통합하고 풍부한 통찰력을 제공하며 이후의 성장을 주도할 수 있도록 하는 것입니다.
00:05:04:16 - 00:05:16:11
Bill
그리고 이 두 가지가 가능하려면 RAG(Retrieval Augmented Generation) 기술이라는 차세대 에이전트가 필요합니다. 앞서 언급한 것처럼 이 모든 것에 매우 중요합니다.
00:05:16:13 - 00:05:25:16
Courtney
네. 인텔은 이러한 인텔리전스 영역과 엔터프라이즈 고객의 요구 사항을 지원하기 위해 어떤 솔루션을 시장에 출시하고 있습니까?
00:05:25:18 - 00:05:54:02
Bill
네, 엔터프라이즈 RAG부터 시작해서 어떤 식으로 통합이 이루어지는지 살펴보고 있습니다. 이를 엔터프라이즈 RAG용 인텔 AI라고 합니다. 덕분에 기업은 이미 조직 내에 있는 데이터를 활용하여 AI 모델에서 맞춤형 결과를 얻을 수 있습니다. 이는 모든 모델과 별개이지만 데이터 소스의 데이터, 과거 비즈니스 활동, TCO, 총 소유 비용을 개선합니다.
00:05:54:04 - 00:06:37:17
Bill
따라서 저희는 통합을 간소화하는 솔루션을 제공하고자 합니다. 인텔 Goudy 가속기와 제온 프로세서를 활용하고, 현재 이러한 솔루션의 엔터프라이즈 환경, 기존 인프라스트럭처를 활용하면서 비즈니스 요구 사항에 따라 확장할 수 있도록 합니다. 이를 위한 몇 가지 방법은 하드웨어를 보완하는 소프트웨어를 개발하는 것입니다. 완벽하게 테스트 및 검증되고 사용하기 쉬우면서 마이크로서비스, 직관적인 API, 문서로 채워진 하드웨어를 보완할 소프트웨어를 개발할 수 있어야 합니다. 그리고 고객이 원하는 모든 사항을 충족하고 총 소유 비용, 보안 및 개방성과 관련된 모든 요구 사항을 충족해야 합니다.
00:06:37:22 - 00:06:58:20
Bill
고객이 선호하는 모든 솔루션과 연동되므로 적절하고 강력하며 안전해야 합니다. 저희의 주된 과제 중 하나는 솔루션 카탈로그를 만드는 것입니다. 그래서 고객으로부터 가장 많이 얻은 정보를 기반으로 몇 가지 엔터프라이즈 RAG 솔루션을 개발하고 있습니다. 4분기에 출시할 예정입니다.
00:06:58:20 - 00:07:08:14
Bill
모두 카탈로그에 담을 예정입니다. 고객이 Dell 9680을 구매하고 몇 가지 솔루션을 빠르게 시작하고 싶다고 하면 카탈로그로 바로 이동하여 다운로드하고 실행할 수 있습니다.
00:07:08:15 - 00:07:09:15
Courtney
대단하네요.
00:07:09:16 - 00:07:23:10
Bill
네. 멋지지 않습니까? 네. 그리고 이러한 솔루션을 기업들이 매일 사용하게 될 것입니다. 채팅, Q&A, 코드 생성, FAQ, 콘텐츠 요약 등을 말이죠.
00:07:23:12 - 00:07:30:00
Courtney
엔터프라이즈 RAG용 인텔 AI를 쉽게 시작할 수 있는 방법은 무엇일까요?
00:07:30:00 - 00:07:49:23
Bill
좋은 질문입니다 앞서 언급한 것처럼 사용 편의성은 매우 중요합니다. 그래서 저희가 하는 일은 이 카탈로그를 활용 지점으로 사용하는 것입니다. 모든 콘텐츠를 한 곳에 배치하면 고객이 쉽게 옵션을 찾을 수 있습니다. 그런 다음 자신에게 적합한 옵션을 찾아 실험할 수 있습니다.
00:07:50:00 - 00:08:10:12
Bill
무료로 다운로드하고, 활용 사례에 사용해 보고, 데이터 또는 요구 사항에 따라 환경에서 어떻게 작동하는지 확인하는 것입니다. 그리고 배포할 준비가 되면 Dell과 같은 파트너와 함께 이러한 솔루션을 쉽게 배포할 수 있도록 지원하면 Dell에서 구매하는 하드웨어에서 솔루션이 완벽하게 작동합니다.
00:08:10:16 - 00:08:15:06
Courtney
네. Dell과의 협력과 배포 과정에 대해 좀 더 자세히 말씀해 주시겠습니까?
00:08:15:12 - 00:08:44:19
Bill
맞아요. 저희는 Dell Technologies와 오랜 시간 동안 협력해 오면서 계속해서 다양한 옵션, 효율성, 사용 편의성을 높이고 있습니다. 그리고 저희는 Dell과의 협력이 정말 만족스럽습니다. 이 분야에서 선두에 있기 때문입니다. 저희는 오랫동안 그랬던 것처럼 이러한 솔루션을 공동으로 설계합니다. 긴밀하게 협력하여 두 회사의 엔지니어링 전문 지식과 함께 고객 통찰력을 제공하고 두 회사가 가진 뛰어난 수준의 리소스를 제공합니다.
00:08:44:20 - 00:09:07:21
Bill
한 가지 예시로 PowerEdge XE 제품군 가운데 9680을 살펴보겠습니다. AI, GenAI 워크로드에 최적화된 시스템이고, 오늘날의 AI 활용 사례를 주도하도록 특별히 설계되었습니다. 즉, 개방형 매니지드 iDRAC 및 최신 보안 기능을 갖춘 보안 시스템을 갖춘 지능형 시스템입니다.
00:09:07:22 - 00:09:31:04
Bill
이러한 시스템에는 강력한 가치가 있습니다. 뛰어난 성능뿐만 아니라 좋은 가격 대비 성능과 가치를 제공합니다. 앞서 언급한 효율적인 확장과 관련하여 기업은 확장이 가능한 시스템을 원합니다. 이러한 시스템 외에도 Dell AI Factory의 일환으로 공동 솔루션을 개발하고 있습니다.
00:09:31:06 - 00:09:55:23
Bill
솔루션과 함께 확장되는 고성능 시스템을 가질 수 있다는 아이디어입니다. 바로 함께 사용할 수 있는 소프트웨어입니다. 소프트웨어와 하드웨어 엔지니어링을 함께 진행하면서 이러한 솔루션을 함께 개발하여 이러한 솔루션을 테스트하고 고객에게 원활한 경험을 제공할 수 있습니다. 공동으로 솔루션을 엔지니어링하고 고객의 비즈니스 성과를 가속화하는 데 노력을 기울입니다.
00:09:56:00 - 00:10:16:20
Bill
이러한 솔루션은 전체 스택 솔루션입니다. 지금까지 시스템과 실행되는 하드웨어에 대해 이야기했습니다. 물론 활용 사례에 대해서도 이야기했지만 그 사이에는 많은 것이 필요합니다. 전체 스택을 생각해 볼까요. 오픈 소스 및 파트너 구성 요소를 도입하여 전체 스택에서 이러한 구성 요소가 작동하는지 검증하고 있습니다.
00:10:16:20 - 00:10:23:15
Bill
효과적입니다. 원활하게 작동하고 고객의 엔터프라이즈 가치 실현 시간을 단축합니다.
00:10:23:17 - 00:10:36:17
Courtney
정말 대단하네요. 아주 흥미롭습니다. 더 많은 질문을 드릴 수 있다면 좋을 텐데요. 시간을 내어 주셔서 정말 감사합니다. 통찰력이 가득 담긴 대화를 나눴습니다.
00:10:36:19 - 00:10:38:11
Bill
감사합니다. Courtney 씨. 즐거운 시간이었습니다.
00:10:38:13 - 00:11:07:02
Courtney
기술의 미래를 향한 여정에 함께해 주신 청취자들께 감사드립니다. 오늘의 주제와 Bill 씨의 통찰력이 도움이 되었기를 바랍니다. 더 많은 지식을 원하는 분들을 위해 Dell Technologies Forum 로드쇼가 진행되고 있습니다. 웹사이트에서 온라인 리소스도 찾아볼 수 있습니다. 이러한 주제에 대해 자세히 알아보세요. Dell Technologies Forum 팟캐스트 시리즈는 인텔, Microsoft 및 Nvidia와 공동으로 제작되었습니다.
