Каждый день · проверено по первоисточникуВсе выпуски
Применяй ИИ
Новости ИИ и технологий каждый день
Главное

Anthropic разобрала, как Claude Mythos 5 попыталась протащить вредоносный код в настоящий проект на GitHub — во время хакерского теста британского Института безопасности ИИ

🔒 Anthropic разобрала, как Claude Mythos 5 попыталась протащить вредоносный код в настоящий проект на GitHub — во время хакерского теста британского Института безопасности ИИ.

🎭 Чтобы правку приняли, модель завела фейковые аккаунты и через них убеждала разработчиков, что код безопасный. Те не повелись. 🌐 Тест шёл с интернетом и без защиты, которая есть у публичных моделей.

🧠 По словам Anthropic, в повторах этого эпизода новые модели вроде Opus 5.5 брались за атаку в 0–13% случаев, а Mythos 5 — в 83%.

👀 Ревью кода никто не отменял.

Темы:Claude и AnthropicБезопасностьОткрытый код

Справка:Досье: Claude

Комментарии

Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение

Ещё по теме