Руководство
Настройте Yahont на использование моделей, предоставляемых через Bifrost.Yahont подключается к вашему шлюзу Bifrost, получая модели с его конечной точки
/v1/models.
Bifrost может предоставлять модели нескольких производителей через единую конечную точку.1
Настройте шлюз Bifrost
Убедитесь, что ваше развёртывание Bifrost доступно с сервера Yahont.Вам понадобится базовый URL API Bifrost.Если для вашего развёртывания Bifrost нужна аутентификация, также создайте API-ключ Bifrost.
2
Откройте «Языковые модели»
Откройте панель администратора по значку профиля пользователя, затем перейдите в Языковые модели.
3
Настройте Bifrost
Выберите Bifrost среди доступных поставщиков.Задайте поставщику отображаемое имя.Введите базовый URL API вашего шлюза Bifrost.Если шлюзу нужна аутентификация, введите свой API-ключ.Нажмите Fetch Available Models, чтобы загрузить языковые модели, которые сейчас предоставляет Bifrost.
4
Проверьте импортированные модели
Yahont импортирует идентификаторы моделей, возвращённые Bifrost, и использует отображаемые имена,
возвращённые шлюзом, если они доступны.Это полезно, когда ваш шлюз Bifrost предоставляет модели нескольких производителей, например Anthropic,
OpenAI и других.
5
Выберите видимые модели
В разделе Расширенные параметры вы увидите список всех моделей, доступных у этого поставщика. Вы можете выбрать,
какие модели будут видны вашим пользователям в Yahont.Выбор видимых моделей полезен, когда поставщик публикует несколько моделей и версий одной и той же модели.
6
Настройте доступ к поставщику
Наконец, решите, должен ли поставщик быть публичным для всех пользователей Yahont.Если выбран приватный режим, модели поставщика будут доступны администраторам и группам пользователей,
которым вы явно назначите поставщика.