Skip to main content

​
Руководство

Если вы хотите использовать поставщика языковых моделей, который Yahont напрямую не поддерживает, можно настроить пользовательского поставщика вывода.
Ваш пользовательский поставщик должен предоставлять конечные точки API, совместимые с OpenAI.
1

Настройте пользовательского поставщика вывода

Определите базовый URL API вашего поставщика. Он должен выглядеть примерно как https://yourprovider.com/v1 или http://localhost:12345/v1.
2

Откройте «Языковые модели»

Откройте панель администратора по значку профиля пользователя, затем перейдите в Языковые модели.
3

Настройте пользовательского поставщика вывода

Выберите Добавить пользовательского поставщика LLM среди доступных поставщиков.Задайте поставщику отображаемое имя.Введите название поставщика вашей модели.
Название поставщика должно соответствовать списку поддерживаемых поставщиков LiteLLM.
В этом примере название поставщика — vertex_ai.Название пользовательского поставщика вывода
4

Настройте необязательные поля и модели

Введите базовый URL поставщика.Заполните остальные необязательные поля, если они применимы.В разделе Конфигурации моделей введите каждую модель, которую хотите сделать доступной через этого поставщика.
5

Настройте доступ к поставщику

Наконец, можно выбрать, будет ли поставщик публичным для всех пользователей Yahont.Если выбран приватный режим, модели поставщика будут доступны администраторам и группам пользователей, которым вы явно назначите поставщика.