Як розпочати роботу з Dell Pro AI Studio за допомогою зразків коду

Summary: Дізнайтеся про основні зразки коду, які можуть допомогти розробникам і IT-фахівцям розпочати використання можливостей Dell Pro AI Studio.

This article applies to This article does not apply to This article is not tied to any specific product. Not all product versions are identified in this article.
Check out other resources

Instructions

Dell Pro AI Studio — це комплексний набір інструментів, призначений для спрощення та прискорення розробки, розгортання та керування програмами штучного інтелекту на ПК Dell AI.

Продукти, на які вплинули:

  • Студія Dell Pro AI

Моя програма зараз використовує API OpenAI і налаштована на використання хмарних сервісів. Як я можу перейти на використання локальних моделей і обчислень Dell Pro AI Studio?

Dell Pro AI Studio була розроблена для зняття та перенесення певних робочих навантажень на локальні обчислення. Якщо ваша поточна програма штучного інтелекту використовує конфігурацію OpenAI API, у вас, ймовірно, є якийсь код, який виглядає як код нижче:

Приклад коду на Python:

client = OpenAI(
base_url="https://your-custom-endpoint",
api_key="your-api-key",
)
Примітка:
  • your-custom-endpoint = URL-адреса вашої користувацької кінцевої точки
  • your-api-key = Ключ API вашого штучного інтелекту

Після того, як ви встановили Dell Pro AI Studio, ви можете змінити конфігурацію програми з наведеної вище на нижче.

Приклад коду на Python:

client = OpenAI(
    base_url="http://localhost:8553/v1/openai",
    api_key="dpais"
)

Для роботи моєї програми потрібна функція потокового передавання, чи підтримує Dell Pro AI Studio Framework потокову передачу?

Абсолютно! Зазвичай, ваш код потребує додавання аргументу ключового слова Stream під час виклику функції.

Приклад http-коду з використанням Phi 3.5:

{
        "model": "phi3.5",
        "messages": [
            {"role": "system", "content": "You are a helpful assistant."},
            {"role": "user",   "content": "Hello"},
        ],
        "stream": "true"
    }

Приклад коду на Python:

messages=[{"role": "system", "content": "You are concise."},
                {"role": "user",   "content": "Say hi"}]
resp = client.chat.completions.create(
            model=Phi3.5,
            messages=messages,
            stream=True,
        )

Affected Products

Dell Pro AI Studio
Article Properties
Article Number: 000322409
Article Type: How To
Last Modified: 24 Oct 2025
Version:  2
Find answers to your questions from other Dell users
Support Services
Check if your device is covered by Support Services.