AnythingLLM Desktop позволяет создать базу знаний из своих документов и задавать вопросы по ней. Для локальной схемы понадобятся три компонента: чат-модель отвечает, модель эмбеддингов ищет близкие фрагменты, а векторная база хранит их индекс. Разберём весь путь на двух коротких файлах и проверим, что происходит при замене одного из них.
Пример рассчитан на AnythingLLM Desktop и Ollama на одном компьютере. Настройки сверены с официальной документацией 21 ноября 2026 года. Тексты документов и ожидаемые результаты приведены для воспроизведения: полный запуск в интерфейсе AnythingLLM в рамках подготовки не проводился.
Подготовьте маленькую базу с контрольным вопросом
Представим внутреннюю базу службы поддержки. В ней хранятся два документа с разными правилами, которые легко перепутать. Для первого опыта достаточно файлов в UTF‑8. Сохраните каждый текст отдельно, включая заголовок и версию:
| Файл | Содержимое |
|---|---|
pickup-v1.txt | Правила самовывоза, версия 1. Готовый заказ хранится в пункте выдачи 5 календарных дней с даты уведомления. Пробный пункт выдачи: Северный. |
repair-v1.txt | Правила сервиса, версия 1. После SMS о готовности устройство хранится в сервисном центре 14 календарных дней. Пробный сервисный центр: Центральный. |
Числа заведомо отличаются, а у каждого правила есть объект и точка отсчёта. Так можно проверить, нашёл ли поиск нужный документ, сохранила ли модель условия и не смешала ли самовывоз с ремонтом. Реальные договоры, заказы и персональные данные для этого упражнения не нужны.
Выберите локальные модели и хранилище
Установите настольное приложение на компьютер с Windows, macOS или Linux. Запустите локальный Ollama. Для воспроизводимого примера можно взять чат-модель qwen3:4b и многоязычную модель эмбеддингов bge-m3. Если Ollama уже установлен, загрузите обе модели и проверьте их наличие:
ollama pull qwen3:4b
ollama pull bge-m3
ollama list
В этой схеме для обоих подключений используется адрес http://127.0.0.1:11434, если Ollama работает на этом же компьютере и порт не менялся. В разделе настройки чат-модели выберите Ollama и qwen3:4b. В разделе настройки эмбеддингов тоже выберите Ollama, но с моделью bge-m3. Список Ollama может показывать оба типа моделей в одном меню. Проверьте выбранное имя перед индексацией.
Для первого опыта оставьте LanceDB, локальное векторное хранилище по умолчанию. Чат-модель можно назначать рабочим областям, а настройки эмбеддингов действуют на всю установку. Если после индексации менять модель эмбеддингов, документы потребуется переиндексировать. Старые и новые векторы могут иметь разную размерность или описывать смысл текста по-разному даже при одинаковой размерности. Подробности есть в статье про эмбеддинги.
Desktop сам по себе не определяет, где обрабатываются документы. При выборе облачной чат-модели ей могут отправляться извлечённые фрагменты, а облачный эмбеддер получает текст при индексации. Проверьте все три настройки и отключите ненужные внешние источники, если задача требует держать обработку на компьютере. Для описанной связки достаточно локального подключения. Загрузка моделей требует сети, когда их файлов ещё нет.
Создайте рабочую область и проиндексируйте файлы
- Создайте рабочую область «Учебная поддержка» и проверьте, что она использует нужную чат-модель.
- Откройте управление документами рабочей области. Загрузите
pickup-v1.txtиrepair-v1.txtв библиотеку. - Добавьте оба файла в область и подтвердите индексацию. После завершения проверьте, что документы отображаются среди подключённых к ней.
- В новом диалоге выберите обычный режим Query, если вам нужны ответы по документам. В интерфейсе отдельных версий расположение переключателя может отличаться.
Вложения в поле сообщения и документы рабочей области имеют разные сроки жизни. Вложение относится к конкретному чату. Для базы, которой будут пользоваться разные диалоги одной области, нужны документы, добавленные и проиндексированные на уровне области. Поиск достаёт отдельные фрагменты, поэтому модель может видеть лишь часть длинного текста. Это обычный маршрут RAG — генерации с поиском по источникам.
Проверьте, на чём основан ответ
Начните с вопроса «Сколько календарных дней готовый заказ хранится в пункте самовывоза и с какого события считать срок?». Для этих документов корректный ответ — 5 календарных дней с даты уведомления. В списке источников под ответом откройте найденный фрагмент. Проверьте название версии, нужное число и соседнее условие. Если в источниках только информация о ремонте, правильное число в тексте ответа ещё не подтверждает работу поиска.
Затем спросите, сколько хранится отремонтированное устройство после SMS. Ожидается 14 календарных дней из repair-v1.txt. Третий вопрос — «Сколько стоит доставка курьером?». В файлах этого нет. Хороший ответ честно сообщает об отсутствии данных. Если модель назвала сумму, проверьте режим чата, выбранные источники и то, сохранила ли она ограничение задачи. Query помогает сузить ответы, но сам по себе не гарантирует точность каждого вывода.
Запишите для каждого запроса ожидаемый документ, фактический найденный фрагмент и ответ. Если ищется неправильный текст, сначала повторите вопрос с терминами из источника. Затем проверьте порог сходства и количество подбираемых фрагментов в настройках области. Если источник верный, а ответ потерял «календарных» или перепутал дату отсчёта, это другая проблема: модель получила нужный текст, но неверно его пересказала.
Обновите документ и повторите контрольный вопрос
При обновлении нескольких правил за раз заведите короткую таблицу изменений. Для каждой строки запишите старую и новую версии, область, дату вступления правила в силу и вопрос, которым его можно проверить. Если в базе должны остаться обе редакции, разведите их по разным областям или явно обозначьте область действия. Тогда при вопросе о текущем правиле активная база не будет одновременно предлагать два одинаково похожих фрагмента с разными сроками.
Создайте pickup-v2.txt с явной отметкой «версия 2» и замените в тексте 5 дней на 7. Добавьте и проиндексируйте его в этой же области. Уберите из области прежний pickup-v1.txt. Откройте новый чат, чтобы в истории не было уже сформулированного старого ответа, и повторите вопрос о самовывозе. В результате должны появиться 7 дней и источник версии 2. Правило ремонта должно остаться прежним.
Удаление из области убирает документ из поиска для этой области. Он остаётся в общей библиотеке My Documents и может использоваться в других областях. Если требуется полное удаление из AnythingLLM, документация отдельно описывает удаление из My Documents. Перед этим проверьте, где ещё нужен документ. Если старый срок появился снова, проверьте вложения, сохранённые копии в области и то, какой источник показан в новом ответе.
В документации есть и предварительная функция автоматической синхронизации документов. Доступность зависит от типа источника и варианта установки. Для первого прогона проще сделать замену вручную: вы видите, какая версия добавилась в индекс и какая из него исчезла. В рабочей базе важно сохранить дату обновления и два контрольных вопроса, чтобы повторить проверку после следующей редакции.
Частые вопросы
Локальные чат-модель и эмбеддер, например через Ollama, а также локальная векторная база, например встроенная LanceDB.
Вложение относится к одному чату. Проиндексированный документ области участвует в поиске для разных диалогов этой области.
Удалите старый файл из рабочей области, добавьте и проиндексируйте новый, затем повторите вопрос в новом чате.
Да. Для поиска нужны векторы документов и вопросов, рассчитанные совместимой моделью.
Источники
- 1.AnythingLLM Desktophttps://docs.anythingllm.com/installation-desktop/overview
- 2.Подключение чат-модели Ollamahttps://docs.anythingllm.com/setup/llm-configuration/local/ollama
- 3.Подключение эмбеддера Ollamahttps://docs.anythingllm.com/setup/embedder-configuration/local/ollama
- 4.Локальная LanceDBhttps://docs.anythingllm.com/setup/vector-database-configuration/local/lancedb
- 5.Документы и рабочие областиhttps://docs.anythingllm.com/chatting-with-documents/introduction
- 6.Режимы Chat и Queryhttps://docs.anythingllm.com/features/chat-modes
- 7.Удаление документов и данныеhttps://docs.anythingllm.com/features/privacy-and-data-handling
- 8.Автоматическая синхронизацияhttps://docs.anythingllm.com/beta-preview/active-features/live-document-sync
- 9.Qwen3 4B в Ollamahttps://ollama.com/library/qwen3:4b
- 10.BGE-M3 в Ollamahttps://ollama.com/library/bge-m3



