Каждый день · проверено по первоисточникуВсе выпуски
Применяй ИИ
Новости ИИ и технологий каждый день
Агенты и бизнес

Soteria проверяет план ИИ-агента заранее и в 1,7 раза чаще доводит задачи

Авторы препринта на arXiv представили Soteria — метод для ИИ-агентов, которые выполняют задачу в несколько шагов. По их данным, агент так чаще справляется с делом и не нарушает правила.

Агенту нужно и выполнить просьбу пользователя, и не нарушить правила; если опасный шаг просто блокируют, он застревает, а здесь проверенный план подсказывает, как продолжить.

План проверяют до первого действия

Сначала агент составляет структурированный план. Его формально проверяют на соответствие правилам до вызова любого инструмента.

Во время работы план держит агента в допустимых рамках. Если опасный шаг заблокирован, план подсказывает, что делать дальше.

На нескольких тестах Soteria, по данным авторов, выполнила в среднем в 1,7 раза больше задач, чем лучшие методы для сравнения. Нарушений правил не было.

Что делать

Пока ничего: в описании нет сведений о готовом способе попробовать метод.

Чего пока неизвестно

В описании нет сведений о независимой проверке результатов и о появлении метода в готовых продуктах.

Редакция «Применяй ИИ» · Как мы готовим новости

Темы:ИИ-агенты

Ещё по теме