RecMem сжимает историю действий в 16 ячеек памяти для рекомендаций
Исследователи предложили RecMem: метод, который сжимает длинную историю действий пользователя в 16 ячеек памяти фиксированного размера. Об этом сказано в аннотации статьи на arXiv.
Длинная история помогает рекомендациям, но её обработка дорожает с ростом истории; RecMem пытается убрать эту зависимость, однако внедрение в сервисах в источнике не описано.
Память не растёт вместе с историей
Ячейки памяти хранят сжатый итог прошлых действий вместо самой истории. Поэтому размер памяти и контекст декодера не зависят от длины истории. На наборе данных MerRec контекст RecMem составил 216 токенов, у более длинной базовой модели — 1200.
По двум показателям качества рекомендаций, Recall@10 и Recall@200, RecMem сохранил 87,9% и 97,0% результата этой модели. За меньший контекст пришлось заплатить частью качества, и в первом случае потери заметнее.
Авторы пишут, что метод превзошёл и другие проверенные подходы. Анализ давней истории показал, что старые действия несут полезный сигнал для предсказаний.
Что делать
Пока ничего: применение метода в сервисах не описано.
Чего пока неизвестно
Как метод покажет себя вне набора MerRec, в аннотации не сказано.
Редакция «Применяй ИИ» · Как мы готовим новости