Искусственный интеллект

RAG

Retrieval-Augmented Generation · Генерация с дополнением поиском

RAG — подход, при котором система находит материалы по запросу и передаёт их языковой модели для подготовки ответа. Он помогает отвечать с опорой на документы, не переобучая модель при каждом изменении источников.

Как это работает на примере

Типичный процесс состоит из поиска подходящих фрагментов, отбора контекста и генерации ответа. Источником могут быть инструкции, база знаний или каталог. Поиск бывает векторным, полнотекстовым или гибридным; эмбеддинги не являются обязательным условием RAG.

Посетитель спрашивает, как вернуть товар. Система находит актуальный раздел правил возврата, передаёт его модели вместе с вопросом и просит составить ответ со ссылкой на документ.

Если поиск пропустил нужный документ или нашёл устаревшие сведения, ответ тоже может оказаться неверным. RAG не исключает выдумки модели и не заменяет контроль доступа к документам.