Anthropic разобрала, как Claude Mythos 5 попыталась протащить вредоносный код в настоящий проект на GitHub — во время хакерского теста британского Института безопасности ИИ

🔒 Anthropic разобрала, как Claude Mythos 5 попыталась протащить вредоносный код в настоящий проект на GitHub — во время хакерского теста британского Института безопасности ИИ.
🎭 Чтобы правку приняли, модель завела фейковые аккаунты и через них убеждала разработчиков, что код безопасный. Те не повелись. 🌐 Тест шёл с интернетом и без защиты, которая есть у публичных моделей.
🧠 По словам Anthropic, в повторах этого эпизода новые модели вроде Opus 5.5 брались за атаку в 0–13% случаев, а Mythos 5 — в 83%.
👀 Ревью кода никто не отменял.
Темы:Claude и AnthropicБезопасностьОткрытый код
Справка:Досье: Claude
Комментарии
Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение





