Каждый день · проверено по первоисточникуВсе выпуски
Применяй ИИ
Новости ИИ и технологий каждый день
Агенты и бизнес

Standard Bank сократил проверку рисков ИИ-проекта с двух недель до двух часов

Лупа на бумажной папке рядом с песочными часами в тёплых нейтральных тонах.
Метафора ускоренной проверки рисков ИИ-приложений в Standard Bank. · Иллюстрация редакции, создана в Codex

Standard Bank Group вместе с AWS автоматизировал проверку рисков ИИ-приложений, сообщает блог AWS. На шести оценках отчёт о рисках занимал около двух часов вместо двух недель ручной работы.

Команды собирают ИИ-приложение за дни, а согласование тянется неделями. Банк показал, как не делать контроль узким местом и не отказываться от него.

Коротко

  • Проверку ведёт языковая модель на Amazon Bedrock: так называется сервис AWS, где можно подключать разные ИИ-модели.
  • Вопросов с ответом «да» или «нет» больше 300, они привязаны к международным стандартам и правилам банка.
  • Решение по-прежнему принимает комитет по рискам, а отчёт не сертифицирует соблюдение закона.

Агент собирает доказательства, а модель-судья их сверяет

Сначала агент, то есть программа на базе ИИ, которая сама выполняет часть шагов, изучает код и документацию проекта. Он заполняет анкету примерно из 40 вопросов о рисках, а команда проверяет ответы и добавляет то, что агент не нашёл.

Затем система тестирует приложение вживую: шлёт попытки обойти ограничения и вопросы не по теме, от которых оно должно отказаться. После этого модель работает судьёй: сверяет доказательства с критериями и отвечает «да» или «нет».

Баллы считает формула, а политики банка становятся тестами

От модели не требуют свободного мнения: баллы выводит фиксированная формула, которую может изучить команда рисков. Каждая оценка идёт несколько раз, расхождения помечаются, а выводы хранятся вместе с доказательствами.

Отдельная «фабрика вопросов» превращает внутренние политики в проверки, поэтому изменение правила меняет тест. После устранения замечаний оценки риска проектов улучшились на 14%.

На стадии прототипа оценка необязательна, на стадии разработки обязательна. Сейчас она работает в рабочей системе и проверяет проекты до запуска.

Что это значит для вас

  • Банку не понадобилась новая политика по ИИ: он опирался на уже действующие процессы управления рисками.
  • Команды разработки узнают о пробелах на прототипе, когда исправления дешевле, а не после отказа на финальном согласовании.

Что делать

  1. Начните с процессов оценки рисков и точек согласования, которые у вас уже есть.
  2. Проверьте, какие из ваших правил по ИИ хоть раз тестировались на работающей системе.
  3. Запускайте проверку на стадии прототипа, пока исправления стоят дёшево.

Чего пока неизвестно

Источник не называет стоимость решения и не говорит, доступно ли оно другим компаниям вне проекта с AWS Professional Services. Результаты основаны всего на шести оценках.

Редакция «Применяй ИИ» · Как мы готовим новости

Ещё по теме