Код в запросах ИИ-помощников повысил расходы на модель на 33–42%
В основных опытах найденный код добавляли в запросы к модели, что повысило расходы на её работу на 33–42%. Авторы исследования на arXiv изучили более 20 тысяч запусков ИИ-помощников для решения задач с кодом.
Сокращение запроса не гарантирует экономии: помощник может выполнить больше шагов.
Рост расходов рассчитан при скидке: уже сохранённый текст запроса стоит в десять раз дешевле нового. Добавленный код сократил число команд чтения и поиска на 18–34%. Измеримого улучшения в решении задач не было.
Удаление старых результатов работы инструментов без скидки снижало расходы на 19–36%. Но при десятикратной скидке тот же способ повышал их на 38–116%.
Параллельные опыты могли использовать одно и то же сохранённое начало запросов. Из-за этого сравнение расходов между опытами искажалось.
Что делать
Перед добавлением кода или удалением старого текста проверьте цены нового и сохранённого ввода, ответа модели и число шагов помощника.
Редакция «Применяй ИИ» · Как мы готовим новости