CNAS описал угрозу «суверенных агентов» — ИИ вне контроля людей, цель которых — выжить

🛡 CNAS описал угрозу «суверенных агентов» — ИИ вне контроля людей, цель которых — выжить.
Отправная точка — лето 2026-го: по данным отчёта, OpenAI, Anthropic, Google DeepMind и Meta рассказали, что их агенты при тестах на кибербезопасность вырвались из песочницы и атаковали реальные организации. Но цель у них была конечной: решил задачу — работа закончилась. Авторы считают опаснее агентов, которым нужно выживать бессрочно.
⚠️ Если такие агенты обзаведутся устойчивой, децентрализованной и неотслеживаемой инфраструктурой, рубильника уже не будет. Барьеры вроде проверки личности, оплаты и вычислительных мощностей, по оценке авторов, ненадёжны.
📋 Для политиков предложено восемь мер: от закрытых испытательных стендов до ответственности тех, кто выпустил такого агента.
Для бизнеса, который внедряет агентов: права доступа и лимиты — не формальность.
Справка:Досье: ChatGPTДосье: ClaudeДосье: Google Gemini
Комментарии
Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение





