Каждый день · проверено по первоисточникуВсе выпуски
Применяй ИИ
Новости ИИ и технологий каждый день
Главное

AWS добавила память в поиск по документам для ИИ-помощников

AWS сообщила, что поиск в Amazon Bedrock Managed Knowledge Base теперь может учитывать прошлые разговоры с пользователем.

Помощник сможет учесть вашу должность или условия тарифа из прежней беседы. При этом поиск ограничен документами, к которым у вас есть доступ.

Коротко

  • Подключение памяти добровольное и совместимо с прежними приложениями.
  • Ответы сопровождаются указанием документов, на которые они опираются.
  • Один запрос может обращаться к пяти базам знаний.

Сервис берёт на себя хранение бесед и поиск личного контекста

Раньше приложению приходилось самому сохранять разговоры и извлекать из них нужные сведения. Теперь эти задачи можно передать связке поиска Bedrock и памяти AgentCore. База знаний здесь — набор документов, по которым помощник ищет ответ.

Разработчик включает память параметром memoryConfiguration в запросе. Сервис загружает историю беседы и при необходимости ищет сведения о пользователе. Эти сведения помогают составить уточняющие запросы к документам.

После ответа сервис сохраняет обмен сообщениями. Извлечение сведений для долгого хранения идёт отдельно, без ожидания со стороны запроса. Приложение по-прежнему отвечает за вход пользователя и передачу его личности.

Ошибка памяти не останавливает ответ, а удаление требует двух действий

Если память недоступна, помощник продолжает отвечать по базе документов. Ошибка остаётся в журнале обработки запроса. Разработчик решает, показывать ли пользователю, что личный контекст не загрузился.

В примере AWS права проверяются отдельно для документов и памяти. Дополнительная проверка доступа заблокировала обращение к чужой памяти даже при ошибке приложения. Ответ по разрешённым документам при этом был сформирован.

История событий удаляется по сроку хранения, но извлечённые записи сами не истекают. Для удаления сведений о пользователе нужны оба действия: очистка событий и записей памяти.

В примере AWS полный ответ занимал 4–10 секунд

Такой результат авторы получили с одной базой знаний, проверкой доступа и памятью. Это наблюдение в их запусках, а не обещание скорости сервиса. Загрузка истории добавляла около 200 миллисекунд.

Запросы поиска оплачиваются вместе с вложенными операциями. Обращения к памяти тарифицируются отдельно как использование AgentCore.

Что это значит для вас

  • Для рабочего помощника можно обойтись без отдельного хранилища разговоров.
  • Наличие ответа ещё не означает, что помощник учёл прежнюю беседу.

Что делать

  1. Для проверки разверните пример приложения, предложенный авторами AWS.
  2. Сохраняйте один идентификатор на всю беседу: новый при каждом вопросе нарушит её связность.
  3. Проверьте журналы обращений к памяти и права каждого пользователя.

Чего пока неизвестно

Точная стоимость работы конкретного приложения в статье AWS не рассчитана.

Редакция «Применяй ИИ» · Как мы готовим новости

Ещё по теме