Anthropic открыла METR доступ к внутренней оценке рисков ИИ

Anthropic начала предоставлять команде METR доступ к внутренним системам, сопоставимый с доступом сотрудников, занимающихся оценкой рисков. Компания сообщила об этом 15 октября 2026 года. Новость касается условий независимой проверки ИИ: какие сведения увидят внешние исследователи и смогут ли они опубликовать неудобные выводы.

Анонс подтверждён сообщением Reuters. Важное различие: сейчас объявлены условия работы проверяющих, а не итоговое заключение о безопасности моделей. Превращать такой шаг в знак «ИИ проверен и безопасен» было бы преждевременно.

Что получила команда METR

По заявлению Anthropic, шести сотрудникам METR предоставлены оборудование, рабочие места и внутренние инструменты примерно на уровне собственных команд оценки рисков. Исключения касаются, в частности, клиентских данных, защищённой юридической информации и сведений об архитектуре моделей. Доступ ограничен конкретной командой.

Компания не может запретить публикацию оценок METR, но вправе потребовать удаления сведений из заранее определённых категорий. METR может публично объяснять, считает ли такие изъятия обоснованными, не раскрывая скрытую информацию.

Смысл этих условий — дать проверяющему возможность изучать доказательства и самостоятельно формулировать результат. По нашей оценке, здесь существенны сразу две вещи: полнота наблюдения и свобода сообщения о найденном. Наличие только одной из них оставляет заметный пробел.

Три уровня доступа — разные условия проверки

Anthropic описала три уровня: на первом исследования узкие, а публикация требует согласования; на втором информации больше и предварительное одобрение публикации не нужно, хотя возможны оговорённые изъятия. Третий добавляет доступ, близкий к сотрудническому; так устроена работа с METR.

Поэтому формулировка «компанию проверяет внешняя организация» сама по себе мало объясняет. При чтении подобных сообщений стоит выяснять, что проверяющий мог посмотреть и какие ограничения действовали. Два отчёта с одинаково убедительной обложкой могут опираться на совершенно разную глубину наблюдения.

Условный пример: одной команде дали только возможность отправлять запросы модели, другой — ещё и изучать внутренние материалы об ошибках. Первая способна проверить поведение в своих экспериментах, но не обязательно узнает о случаях, которые обнаружила сама лаборатория. Это пример различия методов, а не описание конкретного испытания METR.

Кто такая METR и что она измеряет

METR расшифровывает своё название как Model Evaluation and Threat Research. Это некоммерческая исследовательская организация, изучающая возможности и риски передовых моделей. Существенная часть её работы посвящена тому, насколько самостоятельно ИИ способен выполнять продолжительные и сложные задачи, включая исследования и разработку программ.

Организация также изучает влияние ИИ на производительность разработчиков и поведение, способное искажать результаты оценок. На собственном сайте она перечисляет сотрудничество с несколькими лабораториями, а не только с Anthropic. При этом доступ к моделям и предоставленные для экспериментов вычислительные ресурсы следует отличать от независимости выводов.

На странице подходов к оценке METR выделяет несколько направлений: признаки несогласованности поведения с намерениями разработчика, способность внутренних агентов причинить серьёзный вред незамеченными и ускорение разработки ИИ за счёт автоматизации. Это исследовательская рамка; она не означает, что такие события уже установлены в рамках нового соглашения.

Там же опубликованы ссылки на прежние обзоры отчётов Anthropic и исследования внутренних систем наблюдения. Поэтому сотрудничество не начинается с чистого листа. Но результаты прежнего проекта нельзя автоматически переносить на новую модель, другую конфигурацию или более широкий набор полномочий.

Как проверять независимость самой оценки

Внешний статус организации ещё не отвечает на вопросы о возможном конфликте интересов. METR сообщает, что не принимает финансирование от ИИ-компаний, но использует предоставляемые ими доступ и бесплатные токены. Это важная оговорка: отсутствие прямой оплаты не означает полного отсутствия взаимодействия.

У METR есть публичная политика конфликтов интересов. Текущая версия применяется к проектам, начинающимся с 9 октября 2026 года, и описывает выявление конфликтов, отвод участников и раскрытие информации в отчётах. Среди рассматриваемых обстоятельств — финансовая заинтересованность и отношения с оцениваемой компанией.

Наличие такой политики — проверяемый организационный факт, но не доказательство её безупречного исполнения. Наша рекомендация читателю: смотреть, какие конкретно ограничения и конфликты раскрыты в самом исследовании, кто отвечал за работу и достаточно ли описаны основания заключения.

Особенно полезно различать данные и интерпретацию. «В таком наборе испытаний наблюдалось определённое поведение» — утверждение об эксперименте. «Модель безопасна для любого применения» — гораздо более широкий вывод. Переход между ними требует аргументов, а не одного общего слова «аудит».

Что эта новость меняет для разработчика

По нашей оценке, она даёт более содержательный набор вопросов к поставщику ИИ. Вместо просьбы показать общий сертификат можно спросить о версии модели, границах проверки, предоставленных исследователям материалах, праве публикации и известных ограничениях.

При этом внешняя оценка лаборатории не проверяет автоматически ваш продукт. Допустим, агент помогает интернет-магазину готовить ответы клиентам. Возможность создавать черновик ответа и право самостоятельно отправить его — разные полномочия. Отдельной проверки требуют доступ к данным, вызовы инструментов и обработка неожиданных инструкций.

Для собственного приложения полезно сохранить небольшой набор сценариев: обычная задача, нехватка данных, ошибка инструмента и попытка получить действие за пределами разрешений. После смены модели повторять их в той же конфигурации. Практический подход разобран в статье о тестировании ИИ-агентов.

Внешний отчёт и такие испытания отвечают на разные вопросы. Первый помогает оценить сведения о модели и работе разработчика. Вторые показывают, как конкретная система ведёт себя с вашими инструментами и ограничениями. Объединять эти уровни полезно, подменять один другим — нет.

Каких выводов пока делать нельзя

Из объявления не следует, что все риски обнаружены, что любая версия Claude прошла новую проверку или что исследователи получили неограниченный доступ ко всем данным. В частности, слова об уровне доступа не равнозначны открытию исходного кода или весов модели для всех желающих.

Следующий содержательный результат — опубликованные оценки, их методика и ограничения. При чтении будущего отчёта стоит проверить дату исследования, объект оценки, условия эксперимента и различие между наблюдаемыми фактами и предположениями о будущих возможностях.

Если агент получает рабочие права уже сегодня, ждать такого отчёта вместо настройки разрешений не стоит. Полезно заранее определить, какие операции требуют подтверждения человека и как восстановить изменения. Эти вопросы разобраны в заметке о правах и границах ИИ-агентов.

Значение новости — в более конкретных условиях внешней проверки: важно не только присутствие сторонних специалистов, но и возможность изучать свидетельства и сообщать собственные выводы. О качестве этой схемы в работе следует судить по результатам, которые смогут увидеть и оценить другие.