Словарь

Векторная база данных — система хранения и поиска векторных представлений объектов. Она позволяет находить близкие векторы и часто поддерживает фильтрацию по сопутствующим данным: источнику, категории или правам доступа.

Векторный поиск — поиск объектов по близости их числовых представлений. Для текстов с подходящими эмбеддингами он помогает находить материалы по смысловой связи, даже если формулировки отличаются.

ИИ-агент — система, которая использует модель для выбора действий и обращается к инструментам, чтобы выполнить задачу. Она может учитывать результаты предыдущих шагов и продолжать работу до достижения цели или установленного ограничения.

Индекс базы данных — дополнительная структура, которая помогает находить нужные записи без просмотра всей таблицы. Он может ускорять поиск, соединения и некоторые операции сортировки, но требует места и обслуживания.

Инференс — применение обученной модели к новым данным для получения результата. Для языковой модели это, например, генерация ответа на запрос; для модели эмбеддингов — вычисление векторного представления текста.

Квантизация модели — способ представлять её веса или другие вычисляемые величины с меньшей точностью. Это может уменьшить потребление памяти и затраты вычислений при запуске нейросети.

Кеширование — сохранение данных или результата вычисления для повторного использования. Оно позволяет быстрее отвечать на повторные обращения и уменьшать нагрузку на источник данных.

Контекстное окно — предел объёма токенов, с которым языковая модель может работать в одном обращении. В этот бюджет входят переданные инструкции и материалы, а учёт генерируемого ответа зависит от модели и интерфейса.

Реранкер — модель или алгоритм, который повторно оценивает найденные результаты и меняет их порядок по соответствию запросу. Обычно он работает после первого этапа поиска, когда список кандидатов уже ограничен.

Системный промпт — инструкция, которая задаёт модели общие правила работы в приложении: роль, формат ответа и порядок действий. Способ передачи и приоритет таких правил зависят от модели и интерфейса.

Токен в языковой модели — единица представления текста после токенизации. Ею может быть слово, часть слова, знак или другое сочетание символов. Токены используют при расчёте объёма контекста и лимитов генерации.

Хук — предусмотренная в программе точка расширения, к которой можно подключить свой обработчик. В WordPress хуки позволяют выполнять действия и изменять данные без редактирования ядра.

Чанкинг — разбиение документа на фрагменты для обработки, индексации и поиска. В RAG он помогает передавать модели подходящие части источника вместо всего документа целиком.

Эмбеддинг — числовое представление текста, изображения или другого объекта в виде вектора. Оно позволяет сравнивать объекты и находить материалы, близкие по смыслу или другим признакам, которые выучила модель.

API — программный интерфейс: набор возможностей и правил, по которым программа обращается к другой программе или её компоненту. Через API можно получать данные и выполнять предусмотренные действия без работы с пользовательским интерфейсом.

HTTP — протокол обмена сообщениями между клиентом и сервером. Клиент отправляет запрос, а сервер возвращает ответ с кодом состояния, заголовками и, при необходимости, содержимым.

JSON — текстовый формат обмена структурированными данными. Он описывает объекты, массивы, строки, числа, логические значения и null; его широко используют в API и конфигурациях.

MCP — протокол для подключения ИИ-приложений к внешним инструментам и источникам данных. Он задаёт общий способ обмена между клиентом и сервером, который предоставляет нужные возможности.

RAG — подход, при котором система находит материалы по запросу и передаёт их языковой модели для подготовки ответа. Он помогает отвечать с опорой на документы, не переобучая модель при каждом изменении источников.

SQL — язык для работы с реляционными базами данных: описания таблиц, чтения и изменения записей. С его помощью задают, какие данные нужны и как они связаны между собой.