Amazon Bedrock: AWS показала, как считать и ограничивать траты ИИ по людям
AWS описала в блоге, как считать траты на Amazon Bedrock по каждому пользователю и ставить лимит без своего кода. Bedrock — сервис AWS, через который компании обращаются к моделям ИИ.
Перед расширением доступа к нейросетям финансисты спрашивают, сколько тратит человек или команда и можно ли поставить потолок. На оба вопроса есть ответ на встроенных средствах AWS.
Коротко
- Bedrock сам записывает, какая роль или какой пользователь IAM (система прав доступа AWS) сделал запрос.
- Расходы смотрят в Cost Explorer или в выгрузке CUR 2.0, а лимит задают в AWS Budgets.
- Бюджеты обновляются до трёх раз в день, поэтому расход может обогнать порог.
Учёт по людям держится на тегах роли
Роль — набор прав доступа в AWS, тег — метка с именем человека или команды. Если у каждого человека или приложения своя роль, хватит тегов на самой роли.
Если роль общая, нужны теги подключения — метки, которые передают в момент входа в роль. Если одноимённая метка есть у роли и у подключения, для учёта расходов используется метка подключения.
Метки надо включить как теги распределения затрат в консоли биллинга. Новый ключ появляется до 24 часов, ещё до 24 часов уходит на заполнение данных.
Для отчётов хватает Cost Explorer, для деталей нужен CUR 2.0
Cost Explorer — просмотр расходов в консоли: выбираете Amazon Bedrock и группируете расходы по пользователю, роли или тегу.
CUR 2.0 — подробная выгрузка расходов для построчного анализа. Нужна выгрузка с данными о пользователе или роли, отправивших запрос, и почасовой детализацией. Старые выгрузки этих данных не получат.
Лимит закрывает дорогие модели, но с задержкой
AWS Budgets — инструмент, где задают бюджет и действия при превышении порога. Бюджет на Bedrock фильтруют по человеку или тегу.
При пороге к роли подключается политика запрета — правило AWS, которое не даёт этой роли обращаться к выбранным дорогим моделям. В примере AWS дешёвая модель остаётся доступной, чтобы человек мог работать.
Можно сделать ступени, например на 80% и 100%. Действие запускается автоматически или после ручного подтверждения. Оно цепляется к пользователям, группам и ролям, поэтому общий шлюз требует другого подхода.
Что это значит для вас
- Удобнее всего, когда у каждого человека или приложения своя роль.
- Жёсткого лимита в реальном времени нет: из-за задержки расход может превысить порог.
Что делать
- Откройте Cost Explorer, отфильтруйте Amazon Bedrock и сгруппируйте расходы по пользователю или роли: возможно, этого хватит.
- Назначьте ролям теги, например team и CostCenter, и заранее активируйте их в консоли биллинга.
- Настройте в AWS Budgets бюджет с действием и уведомлением, чтобы человек узнал, почему доступ изменился.
Чего пока неизвестно
В тексте нет цен на выгрузки и бюджеты. Для общей роли авторы отсылают к прошлому разбору с собственным кодом.
Редакция «Применяй ИИ» · Как мы готовим новости
