Каждый день · проверено по первоисточникуВсе выпуски
Применяй ИИ
Новости ИИ и технологий каждый день
Технологии

Метод DP-SPD прячет настоящий запрос к ИИ среди фиктивных

Исследователи на arXiv предложили метод DP-SPD для защиты запросов к языковым моделям в облаке. Программа на стороне пользователя создаёт фиктивные запросы, добавляет настоящий и перемешивает все перед отправкой на сервер.

Запросы к удалённой модели могут содержать личные данные, а метод пытается скрыть, какой из них настоящий.

Авторы заявляют о сильной защите и качестве, близком к обычному

Прежние методы добавляют шум во входные данные модели. Чем сильнее защита, тем заметнее падает точность ответов.

В DP-SPD сервер не может напрямую понять, какой запрос настоящий. Для скорости метод использует общее начало запросов и повторно применяет промежуточные вычисления модели.

Авторы проверили метод на задачах классификации и генерации текста, а также против нескольких видов атак, включая атаку на основе GPT. По их выводам, защита сильная, а качество близко к работе без защиты.

Что делать

Пока ничего: в аннотации нет сведений, что метод уже можно использовать.

Чего пока неизвестно

В аннотации нет цифр точности и скорости, а также сведений о готовом инструменте.

Редакция «Применяй ИИ» · Как мы готовим новости

Ещё по теме