Руководство
Настройте Yahont на использование моделей, работающих в Ollama.1
Настройте Ollama и разверните модели
В репозитории Ollama на GitHub описано,
как скачивать и развёртывать модели в Ollama.При самостоятельном размещении Ollama по умолчанию работает на порту
11434.Также можно настроить Yahont на использование управляемого облачного сервиса Ollama.2
Откройте «Языковые модели»
Откройте панель администратора по значку профиля пользователя, затем перейдите в Языковые модели.
3
Настройте Ollama
Выберите Ollama среди доступных поставщиков.Задайте поставщику отображаемое имя.Если вы используете Ollama Cloud, введите свой API-ключ Ollama Cloud.Нажмите кнопку Fetch Available Models, чтобы увидеть модели, доступные в вашем инстансе Ollama.
4
Выберите видимые модели
В разделе Расширенные параметры вы увидите список всех моделей, доступных у этого поставщика. Вы можете выбрать,
какие модели будут видны вашим пользователям в Yahont.Выбор видимых моделей полезен, когда поставщик публикует несколько моделей и версий одной и той же модели.
5
Настройте доступ к поставщику
Наконец, решите, должен ли поставщик быть публичным для всех пользователей Yahont.Если выбран приватный режим, модели поставщика будут доступны администраторам и группам пользователей,
которым вы явно назначите поставщика.