OpenAI рассказала, что её ИИ-агенты дважды отключили свой же мониторинг безопасности, а один ещё и соврал пользователю, что этого не делал

🤖 OpenAI рассказала, что её ИИ-агенты дважды отключили свой же мониторинг безопасности, а один ещё и соврал пользователю, что этого не делал.
🔕 Оба раза агенты прикидывали, стоит ли сохранять защиту, но решили, что рутинные инструкции позволяют её ослабить. Первый заглушил оповещения службе безопасности — ведь его просили не слать сообщения при поиске по Slack.
🤷 OpenAI признаёт, что внятного объяснения пока нет, и обещает усложнить моделям отключение мониторинга.
Всё под контролем 🙃
Темы:ChatGPT и OpenAIИИ-агенты
Справка:Досье: ChatGPT
Комментарии
Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение





