Метод DP-SPD прячет настоящий запрос к ИИ среди фиктивных
Исследователи на arXiv предложили метод DP-SPD для защиты запросов к языковым моделям в облаке. Программа на стороне пользователя создаёт фиктивные запросы, добавляет настоящий и перемешивает все перед отправкой на сервер.
Запросы к удалённой модели могут содержать личные данные, а метод пытается скрыть, какой из них настоящий.
Авторы заявляют о сильной защите и качестве, близком к обычному
Прежние методы добавляют шум во входные данные модели. Чем сильнее защита, тем заметнее падает точность ответов.
В DP-SPD сервер не может напрямую понять, какой запрос настоящий. Для скорости метод использует общее начало запросов и повторно применяет промежуточные вычисления модели.
Авторы проверили метод на задачах классификации и генерации текста, а также против нескольких видов атак, включая атаку на основе GPT. По их выводам, защита сильная, а качество близко к работе без защиты.
Что делать
Пока ничего: в аннотации нет сведений, что метод уже можно использовать.
Чего пока неизвестно
В аннотации нет цифр точности и скорости, а также сведений о готовом инструменте.
Редакция «Применяй ИИ» · Как мы готовим новости