Искусственный интеллект
Системный промпт
System prompt · Системная инструкция
Системный промпт — инструкция, которая задаёт модели общие правила работы в приложении: роль, формат ответа и порядок действий. Способ передачи и приоритет таких правил зависят от модели и интерфейса.
Как это работает на примере
В чат-приложениях системное сообщение обычно отделяют от вопроса пользователя. Оно помогает сохранять единое поведение: например, отвечать по предоставленным документам и указывать, когда информации недостаточно. Формат сообщений должен соответствовать модели.
В ассистенте поддержки задают правило: «Отвечай по базе знаний. Если нужного ответа нет, предложи обратиться к сотруднику». Вопрос о конкретном заказе передают отдельно как сообщение пользователя.
Инструкция не заменяет серверную проверку прав и не гарантирует защиту от промпт-инъекций. Секреты и полномочия нельзя защищать только просьбой модели их не раскрывать.
Почитать на сайте
Материалы, которые помогут разобраться и применить знания.