Skip to main content
Используйте эту страницу, чтобы настроить языковые модели, доступные для чата, агентов и других текстовых рабочих процессов в Yahont.
Генерация изображений и голос настраиваются отдельно: Генерация изображений и Голосовой режим.

​
Языковые модели

Откройте Панель администратора → Языковые модели, чтобы выбрать, какие поставщики доступны вашему рабочему пространству, какие модели видны и какие модели должны быть основными или быстрыми в Yahont. Обзор страницы «Языковые модели»

​
Типы поставщиков

Эти поставщики дают прямой доступ к размещённому API производителя моделей.Распространённые варианты — OpenAI и Anthropic. Обычно это самая простая настройка, когда нужен быстрый доступ к новейшим флагманским моделям поставщика.
Эти поставщики предоставляют языковые модели через более широкий облачный слой или слой маршрутизации.Распространённые варианты — Azure OpenAI, Amazon Bedrock, Google Vertex AI, OpenRouter, LiteLLM Proxy и Bifrost. Российские шлюзы — RouterAI и Polza.ai. Они полезны, когда нужны корпоративные средства управления, привязка к облаку, варианты регионального размещения или доступ к нескольким семействам моделей из одной точки интеграции.
Эти варианты позволяют запускать модели с открытыми весами на вашей инфраструктуре или локальном оборудовании.В Yahont есть встроенные интеграции с Ollama и LM Studio. Это хороший выбор, когда вашей команде нужны локальные процессы разработки, более строгие требования к размещению данных или меньшая стоимость за токен.
Если вашего поставщика нет в списке, его всё равно можно подключить через API, совместимый с OpenAI.Это относится к пользовательским шлюзам, размещённым конечным точкам вывода и внутренним платформам моделей с интерфейсом /chat/completions или /models в стиле OpenAI.

​
Как выбрать удачную стартовую конфигурацию

Если облачные модели одобрены для вашей организации, они обычно — лучший выбор по умолчанию: их проще эксплуатировать, и они, как правило, дают лучшее соотношение возможностей и стоимости.
  • Начните с одного основного поставщика для большинства пользователей.
  • Используйте недавнюю модель семейства GPT, Claude или Gemini в качестве модели по умолчанию, если нужен наилучший опыт «из коробки».
  • Используйте Bedrock, Vertex AI, Azure OpenAI, OpenRouter, LiteLLM Proxy или Bifrost, когда закупки, маршрутизация или привязка к облаку важнее прямой интеграции с производителем.
  • Используйте семейства моделей с открытыми весами, такие как Llama, Qwen, DeepSeek или gpt-oss, если вы размещаете модели самостоятельно.
  • Держите список видимых моделей коротким, чтобы пользователи выбирали из нескольких продуманных вариантов, а не из всех возможных версий.
Самостоятельное размещение лучше всего подходит для опытных команд, которые уже знают, какие модели хотят запускать и как будут их эксплуатировать.

​
Настройка поставщиков

OpenAI

Azure OpenAI

Anthropic

AWS Bedrock

Google Vertex AI

OpenRouter

Bifrost

LiteLLM Proxy

Ollama

LM Studio

Поставщики, совместимые с OpenAI

​
Рекомендации

  • Изучите условия, политику конфиденциальности и условия обработки данных каждого включаемого поставщика.
  • Ограничьте список видимых моделей теми, из которых действительно должны выбирать пользователи.
  • Используйте приватных поставщиков и управление доступом для дорогих, экспериментальных или командных моделей.
  • Определите модель по умолчанию на уровне организации, прежде чем широко развёртывать эту страницу.
  • Убедитесь, что во внутренних рекомендациях чётко указано, какие данные пользователи могут отправлять каждому поставщику.