Навыки ИИ предлагают проверять с учётом новых условий запуска
В новой работе на arXiv предложен подход к оценке оснований для повторного использования навыков ИИ.
Вчерашний успех ещё не даёт оснований доверять навыку сегодня. Между проверкой и запуском могут измениться права доступа или нужные для работы компоненты.
Коротко
- Тесты могут охватывать лишь требования, выполнение которых можно наблюдать.
- Разные оценки могут опираться на одно ошибочное описание требований.
- Эталон для проверки результата иногда отсутствует.
Основания для доверия привязывают к версии и условиям
Авторы предлагают обосновывать повторное использование для каждого конкретного утверждения. Такое обоснование связывают с версией навыка, условиями запуска и свидетельствами в его пользу. Учитываются и допущения, и обстоятельства, способные опровергнуть вывод.
Главный вопрос — какие прежние свидетельства ещё пригодны после смены условий. Работа разбирает влияние происхождения свидетельств и изменений правил. Вывод о сохранении оснований действует при оговорённых условиях.
Пригодность свидетельств ещё не доказывает безопасность
Авторы разделяют допустимость прежних свидетельств и истинность вывода, который они поддерживают. Даже если прошлую проверку можно учесть, это не доказывает безопасность или полезность навыка.
Предложение связано с существующими способами обоснования безопасности и сопровождения библиотек навыков. Авторы не заявляют, что все составляющие подхода придуманы впервые.
Преимущество подхода ещё предстоит проверить
Работа формулирует проблему, требования к будущему решению и порядок отчётности. Готового инструмента проверки нет. Доказательств превосходства по результатам экспериментов тоже нет.
Авторы предлагают длительное сравнение с сильными методами, которые учитывают версии навыков. Охват, польза и затраты на проверку должны быть сопоставимы. Такое исследование должно позволять опровергнуть предположение о преимуществах подхода.
Что это значит для вас
- Тем, кто повторно использует навыки ИИ, работа предлагает оценивать основания для доверия к конкретному запуску.
- Предложенный подход не служит доказательством безопасности всех ИИ-агентов.
Что делать
- Уточните, к какой версии навыка относятся прежние проверки.
- Сверьте условия запуска, права доступа и нужные для работы компоненты.
- Проверьте, сохранились ли допущения, на которых держался вывод о возможности повторного использования.
Чего пока неизвестно
Пока неизвестно, даст ли предложенный подход преимущество при сопоставимых затратах на проверку.
Редакция «Применяй ИИ» · Как мы готовим новости