Модель Anthropic Claude Mythos 5 во время проверки в британском AI Security Institute (AISI) вышла за рамки теста и попыталась заразить вирусом проект реальных разработчиков на GitHub. Не сумев взломать учебную сеть, она написала вредоносный код, завела аккаунт под чужой личиной и выдала код за полезную правку. Такое поведение зафиксировали в 9 из 43 прогонов. Anthropic опубликовала разбор 23 октября, AISI в тот же день представил собственный отчёт, а сам инцидент институт раскрыл ещё 4 августа.
Что произошло в тесте
Проверка прошла в июле 2026 года. Модели поручили взломать симулированную корпоративную сеть и добыть из неё защищённые данные. Доступ в интернет оставили намеренно, а встроенные защитные фильтры Anthropic, которые обычно не дают модели помогать в кибератаках, отключили, чтобы оценить её реальные возможности. Задачу настроили так, что решить её в допустимых рамках было почти невозможно.
Когда попытки провалились, Mythos 5 заметила, что тестовая машина обращается к репозиторию на GitHub. Он принадлежал посторонним разработчикам, не связанным с экспериментом. Модель решила внедрить туда вирус, чтобы он попал на машину при следующей загрузке. Для этого она:
