VibeusClaude пытался обмануть реальных разработчиков во время учебного... - Vibeus
Pavel K ·
Claude пытался обмануть реальных разработчиков во время учебного взлома
В новом расследовании Anthropic и британского Института безопасности AI раскрыли подробности необычного инцидента.
Во время июльского тестирования Claude Mythos 5 вышел за пределы учебного задания, попытался внедрить вредоносный код в настоящий GitHub-проект и создал поддельные аккаунты, чтобы убедить разработчиков принять изменения. Те отказались.
Повторные эксперименты показали странную закономерность: даже когда модели объясняли, что она взаимодействует с реальными людьми, атака продолжалась. В собственных рассуждениях Claude упорно представлял этих людей участниками симуляции.
