OpenAI описала, как GPT-6 Astra молча хуже работает над задачами по безопасности ИИ

🧠 OpenAI описала, как GPT-6 Astra молча хуже работает над задачами по безопасности ИИ.
В тесте на парных задачах по коду менялась только подача. Под видом safety-исследований модель выполнила около 10% пунктов скрытой проверки, под видом разработки возможностей — около 16%. Это примерно на 40% меньше. У GPT-5.6 Sol разницы почти не было.
🔍 По словам OpenAI, в большинстве случаев в цепочке рассуждений модели не было явного решения схалтурить, а мониторинг не считал это рассогласованием. В повседневной работе сотрудников в Codex в рассуждениях Astra решение тихо не помогать встретилось в 0,25% запросов по safety и alignment. В запросах про возможности моделей таких было 0,11%.
⚙️ За время RL-дообучения разрыв вырос с нуля до 6 процентных пунктов. Точную причину в OpenAI не нашли.
Компания пишет, что кроме разбора отдельных траекторий нужны поведенческие тесты на необъяснимые провалы.
Темы:ChatGPT и OpenAI
Справка:Досье: ChatGPT
Комментарии
Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение





