Каждый день · проверено по первоисточникуВсе выпуски
Применяй ИИ
Новости ИИ и технологий каждый день
Находки и код

Amazon Bedrock: AWS показала, как считать и ограничивать траты ИИ по людям

AWS описала в блоге, как считать траты на Amazon Bedrock по каждому пользователю и ставить лимит без своего кода. Bedrock — сервис AWS, через который компании обращаются к моделям ИИ.

Перед расширением доступа к нейросетям финансисты спрашивают, сколько тратит человек или команда и можно ли поставить потолок. На оба вопроса есть ответ на встроенных средствах AWS.

Коротко

  • Bedrock сам записывает, какая роль или какой пользователь IAM (система прав доступа AWS) сделал запрос.
  • Расходы смотрят в Cost Explorer или в выгрузке CUR 2.0, а лимит задают в AWS Budgets.
  • Бюджеты обновляются до трёх раз в день, поэтому расход может обогнать порог.

Учёт по людям держится на тегах роли

Роль — набор прав доступа в AWS, тег — метка с именем человека или команды. Если у каждого человека или приложения своя роль, хватит тегов на самой роли.

Если роль общая, нужны теги подключения — метки, которые передают в момент входа в роль. Если одноимённая метка есть у роли и у подключения, для учёта расходов используется метка подключения.

Метки надо включить как теги распределения затрат в консоли биллинга. Новый ключ появляется до 24 часов, ещё до 24 часов уходит на заполнение данных.

Для отчётов хватает Cost Explorer, для деталей нужен CUR 2.0

Cost Explorer — просмотр расходов в консоли: выбираете Amazon Bedrock и группируете расходы по пользователю, роли или тегу.

CUR 2.0 — подробная выгрузка расходов для построчного анализа. Нужна выгрузка с данными о пользователе или роли, отправивших запрос, и почасовой детализацией. Старые выгрузки этих данных не получат.

Лимит закрывает дорогие модели, но с задержкой

AWS Budgets — инструмент, где задают бюджет и действия при превышении порога. Бюджет на Bedrock фильтруют по человеку или тегу.

При пороге к роли подключается политика запрета — правило AWS, которое не даёт этой роли обращаться к выбранным дорогим моделям. В примере AWS дешёвая модель остаётся доступной, чтобы человек мог работать.

Можно сделать ступени, например на 80% и 100%. Действие запускается автоматически или после ручного подтверждения. Оно цепляется к пользователям, группам и ролям, поэтому общий шлюз требует другого подхода.

Что это значит для вас

  • Удобнее всего, когда у каждого человека или приложения своя роль.
  • Жёсткого лимита в реальном времени нет: из-за задержки расход может превысить порог.

Что делать

  1. Откройте Cost Explorer, отфильтруйте Amazon Bedrock и сгруппируйте расходы по пользователю или роли: возможно, этого хватит.
  2. Назначьте ролям теги, например team и CostCenter, и заранее активируйте их в консоли биллинга.
  3. Настройте в AWS Budgets бюджет с действием и уведомлением, чтобы человек узнал, почему доступ изменился.

Чего пока неизвестно

В тексте нет цен на выгрузки и бюджеты. Для общей роли авторы отсылают к прошлому разбору с собственным кодом.

Редакция «Применяй ИИ» · Как мы готовим новости

Ещё по теме