Обзор
На странице Настройки индекса можно настроить модель эмбеддинга, переранжирование и множество расширенных параметров поиска и индексации.
Модель эмбеддинга
Модель эмбеддинга преобразует ваши документы в векторы, которые хранятся в OpenSearch. Эти векторы используются для поиска релевантных документов, когда пользователь обращается к Yahont. Мощная модель эмбеддинга может заметно повысить точность результатов поиска, но требует дополнительной памяти и дискового пространства.
Облачные модели
Облачные модели
Лучшие модели эмбеддинга обычно доступны у облачных поставщиков, таких как Cohere или Google.Чтобы использовать облачного поставщика, выберите нужную модель,
укажите учётные данные для поставщика и нажмите Продолжить.
Модели с самостоятельным размещением
Модели с самостоятельным размещением
Модели с самостоятельным размещением работают на вашей инфраструктуре и гарантируют,
что ваши данные не покинут ваш периметр.На вкладке Самостоятельное размещение можно выбрать предлагаемую модель или следовать инструкциям,
чтобы подключить свою.
Создание эмбеддингов в масштабе, в котором работает Yahont, требует значительных вычислительных ресурсов.
Если вы хотите использовать модель с самостоятельным размещением,
настоятельно рекомендуем предоставить GPU контейнеру сервера модели индексации Yahont.
Смена эмбеддинга
Если выбрать новую модель эмбеддинга, Yahont придётся заново проиндексировать все ваши данные. Пока идёт этот процесс, старая модель эмбеддинга остаётся доступной для поиска. Пока идёт смена, на странице настроек поиска будет отображаться подробный ход индексации.
Переранжирование
Переранжирование — необязательный шаг, который повышает точность результатов поиска. Модель переранжирования оценивает и пересортировывает результаты поиска по релевантности документов запросу. Этот процесс немного увеличивает задержку результатов поиска. Как правило, переранжирование полезно, только если у вас очень много документов.
Расширенные настройки
На последней странице настраивается множество расширенных параметров поиска.Многоязычное расширение
Многоязычное расширение
Многоязычное расширение переформулирует ваши запросы на указанные другие языки.
Это может быть полезно для результатов на разных языках.
Многопроходная индексация
Многопроходная индексация
Многопроходная индексация создаёт фрагменты разного размера и сохраняет их в индексе.
Это может помочь алгоритму гибридного поиска лучше определять релевантные источники.
Контекстный RAG
Контекстный RAG
Контекстный RAG добавляет в каждый фрагмент индекса дополнительную информацию на уровне документа.
Это может помочь алгоритму гибридного поиска лучше определять релевантные источники.
Точность эмбеддинга
Точность эмбеддинга
Точность эмбеддинга можно задать как
bfloat16 или float.
Значение bfloat16 может снизить потребление памяти индексом, но может немного снизить точность результатов.Уменьшенная размерность
Уменьшенная размерность
Эта настройка уменьшает число измерений в векторах эмбеддинга. Это может снизить потребление памяти индексом,
но может уменьшить точность результатов.
