ВТБ вместе с МГУ разработали два детектора для ИИ-агентов: один ловит токсичность, второй — галлюцинации, то есть выдумки нейросети

🛡 ВТБ вместе с МГУ разработали два детектора для ИИ-агентов: один ловит токсичность, второй — галлюцинации, то есть выдумки нейросети.
Первый отсекает запросы с запрещённым контентом. Второй проверяет ответы на ошибки, выдуманные факты и противоречия.
🔁 Если детектор что-то находит, ответ можно отправить на перепроверку или заблокировать совсем.
💸 Для финансовых сервисов это особенно важно: ИИ не должен предлагать клиенту несуществующее. Банк планирует подключить разработку к розничным сервисам, где работают цифровые помощники.
Контроль на выходе 🔍
Темы:ИИ-агенты
Комментарии
Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение





