更智慧地採用企業 AI 的五大見解

人工智慧不再是個只存在於未來的概念，也不是由最先進公司獨佔的工具。對於全球企業而言，AI 正在成為業務轉型的核心，可推動更明智的決策、提高效率和增強競爭優勢。但是，企業如何採用 AI？在有效擴展 AI 時面臨了哪些挑戰？ 

為回答這些問題，我們進行了 Dell Technologies 企業 AI 採用調查，涵蓋五個國家/地區的 3,800 名 IT 決策者 (ITDM) 和 AI 從業人員。調查結果讓我們深入瞭解了全球的 AI 使用現狀，以及幫助企業加速實現 AI 業務目標和獲得價值的要素。繼續閱讀，瞭解我們從研究中得出的五個關鍵見解。 

1.資料是保持 AI 井然有序的關鍵 

AI 的好壞取決於其賴以執行的資料，企業往往難以有效管理和利用自家資料。企業表示，資料品質、可用性、管理和安全性是 AI 實施的幾大技術難題。 

如果沒有乾淨、組織良好且方便存取的資料，即使是先進的 AI 模型也無法發揮成效。這些挑戰指出組織應注重於制定策略，優先考慮順暢的資料整合、增強的安全防護措施和大型資料集的可擴充解決方案。 

2.彈性是 AI 工作負載配置的必要考量 

我們的研究結果顯示，對於想要執行 AI 工作負載的企業來說，多雲方法是個相當有吸引力的選擇： 

• 生產環境中 79% 的 AI 使用案例是在公有雲之外執行 
• 98% 的組織已計算出公有雲 AI 使用案例的總體擁有成本 (TCO) 

影響最大的 AI 工作負載通常與仍然位於貴組織實際據點內的資料相關。  公有雲便於實驗，但伴隨著高昂代價：2024 年的 ESG 分析發現，到場推論的成本效益可比公有雲高出多達 75%。大多數組織在計算 TCO 後發現，對於可擴充的長期 AI 投資，到場解決方案通常可實現更高的投資報酬率。但這並不只是與錢有關：到場部署還可提供更好的安全性和治理，這對於法規遵循需求嚴格的產業 (如財務和醫療保健) 特別實用。這突顯企業需要針對不同使用案例仔細考量 TCO，並在 AI 工作負載的效能、安全性和可擴充性之間取得適當平衡。 

3.充分利用可用電力，提高資料中心效率

儘管有越來越多人開始討論電源和冷卻是 AI 採用的瓶頸，但我們的調查結果指出，企業可能忽略了當今的閒置電力和可用的解決方案： 

• 39% 的資料中心電力未得到充分運用 

• 67% 的 GPU 伺服器在未來三年內將使用直接晶片液體冷卻 

資料中心營運人員擔心擴充 AI 的能源需求，卻留下大量未使用的電力。企業應先將現有資料中心的電容量最大化，然後再投資昂貴的改造工程或新建設。此外，將現有基礎結構從 14G 升級至 16/17G 機架式伺服器，也可以確實運用額外的閒置電力。 

未來會有越來越多企業採用直接晶片液體冷卻等創新技術，成為解決 GPU 功耗和性能限制的關鍵因素，同時降低資料中心冷卻成本並提高企業 AI 部署的可擴充性。 

4. 偏好採用開放原始碼，以及需要部署到場 AI 工作負載的支援服務 

各組織正朝著提高 AI 生態系統透明度和彈性的方向邁進，供應商也提供一站式服務： 

• 63% 的 AI 使用案例預計將在未來 12 個月內使用開放原始碼模型 
• 77% 的組織希望基礎結構供應商能在 AI 採用的過程中，於所有層面提供相關功能 
• 83% 的組織希望其 AI PC 供應商能夠在 AI 採用過程中，提供涵蓋所有層面的功能 

這種轉向開放原始碼框架構的情況，突顯了對可自訂、公開透明且划算的解決方案的需求。開放式生態系統可給予任何單一廠商都無法提供的廣泛功能。為了滿足自己的特定需求，IT 決策者正在尋找提供端對端 AI 解決方案的廠商，協助他們在整個 IT 資產中完全整合 AI。 

5.在裝置上執行的小型模型可為 AI 使用案例提供超群的彈性

於 AI 存取普及化，特別是利用小型語言模型 (SLM)，AI PC 是個相當誘人的選擇： 

• 35% 的組織計劃於未來 12 個月內，在 AI PC 上測試 SLM (小型語言模型) 

與較大型的同類模型不同，SLM 更能省下成本與能源，需要的運算能力較少，但足以達到許多應用的需求，例如編碼助理。 

這對企業有何意義？SLM 支援即時的裝置上 AI 處理，不僅可以減少延遲，還可以提高生產效率並盡可能減少對環境的影響。企業採用 AI PC 可以進一步增強各種規模的團隊存取 AI 解決方案的能力，為員工提供強大的協作和自動化工具。 

讓您的 AI 旅程充滿信心 

這對當今的企業有何意義？根據我們的調查結果發現，加快採用 AI 的關鍵因素如下： 

• 評估 TCO，以根據使用案例最佳化雲端、到場及邊緣部署組合 
• 改善資料品質、存取和管理 
• 更妥善利用現有資料中心的電容量來處理 AI 工作負載 
• 採用開放原始碼模型和架構，促進協作與創新 
• 在 AI PC 上執行 SLM，提高效率和可存取性 

在現今的商業環境中，AI 對於提升競爭優勢和卓越營運已變得不可或缺，而非可有可無。雖然這項技術具有推動廣泛效率和突破性創新的潛力，但組織的成功將取決於其現在所做的選擇。 

想要採取下一步行動嗎？Dell Technologies 會竭誠協助制定適合貴企業的 AI 策略。歡迎與我們聯絡，深入瞭解我們的 AI 解決方案對，以及這些解決方案如何幫助您的團隊達成更多目標。