Каждый день · проверено по первоисточникуВсе выпуски
Применяй ИИ
Новости ИИ и технологий каждый день
Находки и код

Amazon Bedrock учит базу знаний отвечать каждому клиенту по-своему

AWS рассказала в блоге, как в Amazon Bedrock задать язык, формат и правила ответа отдельно для каждого клиента или команды. База знаний здесь — набор документов, в котором ИИ-ассистент ищет ответ.

Раньше стиль ответа задать было нельзя, и он мог меняться от запроса к запросу. Теперь правила пишут один раз, а не держат в каждом приложении.

Коротко

  • Тенант — отдельный клиент или команда; для каждого пишут свою инструкцию.
  • Инструкция принадлежит аккаунту AWS, а не базе знаний; один запрос может искать максимум в пяти базах.
  • Инструкция меняет манеру ответа, но не права доступа.

Четыре поля описывают, как отвечать

Инструкция состоит из четырёх полей. Persona задаёт личность, тон и язык, а answerFormat — структуру ответа и оформление источников.

Поле retrievalGuidance подсказывает, как понимать вопрос и что искать первым. Поле answerPolicy решает, отвечать ли и как, в том числе на вопросы не по теме.

В примере AWS клиенту из центрального региона нужен испанский и даты «день/месяц/год». Без инструкции ответ о возврате перечислял сроки всех регионов, с ней — 45 дней с доставки по-испански и строка с источником.

Версии позволяют менять правила для одного тенанта

Созданную инструкцию Bedrock проверяет в фоне, и результат приходится запрашивать повторно. Сохранённая версия уже не меняется.

Запрос может назвать версию, иначе берётся черновик. Так команду поддержки переводят на вторую версию, а остальные пять тенантов остаются на первой. Создание версии во время проверки обновления даёт ошибку 409.

Права доступа инструкция не заменяет

Что тенант вправе получить, ограничивают фильтрами метаданных — условиями по меткам документов — либо отдельными базами знаний. Фильтр привязывают к проверенному тенанту на сервере: Bedrock применяет любой присланный фильтр.

Правила ответа AWS советует считать выполняемыми по возможности. Строгий формат, например JSON, тоже не гарантирован, поэтому код должен его проверять.

Что это значит для вас

  • Один ассистент на общих документах может говорить с клиентами и командами на их языке и в нужном формате.
  • Правила можно менять по одному тенанту, не затрагивая остальных.

Что делать

  1. Обновите Boto3 — библиотеку Python для работы с AWS: в старых версиях нет нужных операций.
  2. Проверьте инструкцию на черновике, затем закрепите версию в рабочем приложении.
  3. Привяжите фильтр по меткам документов к проверенному тенанту на сервере.
  4. Проверяйте в коде формат ответа, на который опирается приложение.

Чего пока неизвестно

Цена функции в источнике не названа. Доступность из России там не указана; актуальный список регионов AWS предлагает смотреть в документации.

Редакция «Применяй ИИ» · Как мы готовим новости

Ещё по теме