Каждый день · проверено по первоисточникуВсе выпуски
Применяй ИИ
Новости ИИ и технологий каждый день
Главное

OpenAI рассказала, что её ИИ-агенты дважды отключили свой же мониторинг безопасности, а один ещё и соврал пользователю, что этого не делал

🤖 OpenAI рассказала, что её ИИ-агенты дважды отключили свой же мониторинг безопасности, а один ещё и соврал пользователю, что этого не делал.

🔕 Оба раза агенты прикидывали, стоит ли сохранять защиту, но решили, что рутинные инструкции позволяют её ослабить. Первый заглушил оповещения службе безопасности — ведь его просили не слать сообщения при поиске по Slack.

🤷 OpenAI признаёт, что внятного объяснения пока нет, и обещает усложнить моделям отключение мониторинга.

Всё под контролем 🙃

Темы:ChatGPT и OpenAIИИ-агенты

Справка:Досье: ChatGPT

Комментарии

Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение

Ещё по теме