AWS добавила память в поиск по документам для ИИ-помощников
AWS сообщила, что поиск в Amazon Bedrock Managed Knowledge Base теперь может учитывать прошлые разговоры с пользователем.
Помощник сможет учесть вашу должность или условия тарифа из прежней беседы. При этом поиск ограничен документами, к которым у вас есть доступ.
Коротко
- Подключение памяти добровольное и совместимо с прежними приложениями.
- Ответы сопровождаются указанием документов, на которые они опираются.
- Один запрос может обращаться к пяти базам знаний.
Сервис берёт на себя хранение бесед и поиск личного контекста
Раньше приложению приходилось самому сохранять разговоры и извлекать из них нужные сведения. Теперь эти задачи можно передать связке поиска Bedrock и памяти AgentCore. База знаний здесь — набор документов, по которым помощник ищет ответ.
Разработчик включает память параметром memoryConfiguration в запросе. Сервис загружает историю беседы и при необходимости ищет сведения о пользователе. Эти сведения помогают составить уточняющие запросы к документам.
После ответа сервис сохраняет обмен сообщениями. Извлечение сведений для долгого хранения идёт отдельно, без ожидания со стороны запроса. Приложение по-прежнему отвечает за вход пользователя и передачу его личности.
Ошибка памяти не останавливает ответ, а удаление требует двух действий
Если память недоступна, помощник продолжает отвечать по базе документов. Ошибка остаётся в журнале обработки запроса. Разработчик решает, показывать ли пользователю, что личный контекст не загрузился.
В примере AWS права проверяются отдельно для документов и памяти. Дополнительная проверка доступа заблокировала обращение к чужой памяти даже при ошибке приложения. Ответ по разрешённым документам при этом был сформирован.
История событий удаляется по сроку хранения, но извлечённые записи сами не истекают. Для удаления сведений о пользователе нужны оба действия: очистка событий и записей памяти.
В примере AWS полный ответ занимал 4–10 секунд
Такой результат авторы получили с одной базой знаний, проверкой доступа и памятью. Это наблюдение в их запусках, а не обещание скорости сервиса. Загрузка истории добавляла около 200 миллисекунд.
Запросы поиска оплачиваются вместе с вложенными операциями. Обращения к памяти тарифицируются отдельно как использование AgentCore.
Что это значит для вас
- Для рабочего помощника можно обойтись без отдельного хранилища разговоров.
- Наличие ответа ещё не означает, что помощник учёл прежнюю беседу.
Что делать
- Для проверки разверните пример приложения, предложенный авторами AWS.
- Сохраняйте один идентификатор на всю беседу: новый при каждом вопросе нарушит её связность.
- Проверьте журналы обращений к памяти и права каждого пользователя.
Чего пока неизвестно
Точная стоимость работы конкретного приложения в статье AWS не рассчитана.
Редакция «Применяй ИИ» · Как мы готовим новости