Каждый день · проверено по первоисточникуВсе выпуски
Применяй ИИ
Новости ИИ и технологий каждый день
Агенты и бизнесГлавное

ВТБ вместе с МГУ разработали два детектора для ИИ-агентов: один ловит токсичность, второй — галлюцинации, то есть выдумки нейросети

🛡 ВТБ вместе с МГУ разработали два детектора для ИИ-агентов: один ловит токсичность, второй — галлюцинации, то есть выдумки нейросети.

Первый отсекает запросы с запрещённым контентом. Второй проверяет ответы на ошибки, выдуманные факты и противоречия.

🔁 Если детектор что-то находит, ответ можно отправить на перепроверку или заблокировать совсем.

💸 Для финансовых сервисов это особенно важно: ИИ не должен предлагать клиенту несуществующее. Банк планирует подключить разработку к розничным сервисам, где работают цифровые помощники.

Контроль на выходе 🔍

Темы:ИИ-агенты

Комментарии

Комментарии ведутся в Telegram: войдите через Telegram, чтобы написать или поставить лайк. Открыть обсуждение

Ещё по теме