Standard Bank сократил проверку рисков ИИ-проекта с двух недель до двух часов

Standard Bank Group вместе с AWS автоматизировал проверку рисков ИИ-приложений, сообщает блог AWS. На шести оценках отчёт о рисках занимал около двух часов вместо двух недель ручной работы.
Команды собирают ИИ-приложение за дни, а согласование тянется неделями. Банк показал, как не делать контроль узким местом и не отказываться от него.
Коротко
- Проверку ведёт языковая модель на Amazon Bedrock: так называется сервис AWS, где можно подключать разные ИИ-модели.
- Вопросов с ответом «да» или «нет» больше 300, они привязаны к международным стандартам и правилам банка.
- Решение по-прежнему принимает комитет по рискам, а отчёт не сертифицирует соблюдение закона.
Агент собирает доказательства, а модель-судья их сверяет
Сначала агент, то есть программа на базе ИИ, которая сама выполняет часть шагов, изучает код и документацию проекта. Он заполняет анкету примерно из 40 вопросов о рисках, а команда проверяет ответы и добавляет то, что агент не нашёл.
Затем система тестирует приложение вживую: шлёт попытки обойти ограничения и вопросы не по теме, от которых оно должно отказаться. После этого модель работает судьёй: сверяет доказательства с критериями и отвечает «да» или «нет».
Баллы считает формула, а политики банка становятся тестами
От модели не требуют свободного мнения: баллы выводит фиксированная формула, которую может изучить команда рисков. Каждая оценка идёт несколько раз, расхождения помечаются, а выводы хранятся вместе с доказательствами.
Отдельная «фабрика вопросов» превращает внутренние политики в проверки, поэтому изменение правила меняет тест. После устранения замечаний оценки риска проектов улучшились на 14%.
На стадии прототипа оценка необязательна, на стадии разработки обязательна. Сейчас она работает в рабочей системе и проверяет проекты до запуска.
Что это значит для вас
- Банку не понадобилась новая политика по ИИ: он опирался на уже действующие процессы управления рисками.
- Команды разработки узнают о пробелах на прототипе, когда исправления дешевле, а не после отказа на финальном согласовании.
Что делать
- Начните с процессов оценки рисков и точек согласования, которые у вас уже есть.
- Проверьте, какие из ваших правил по ИИ хоть раз тестировались на работающей системе.
- Запускайте проверку на стадии прототипа, пока исправления стоят дёшево.
Чего пока неизвестно
Источник не называет стоимость решения и не говорит, доступно ли оно другим компаниям вне проекта с AWS Professional Services. Результаты основаны всего на шести оценках.
Редакция «Применяй ИИ» · Как мы готовим новости




