ВТБ и МГУ создали два детектора ошибок для цифровых помощников

ВТБ вместе с Центром искусственного интеллекта МГУ разработал два детектора, которые проверяют запросы клиентов и ответы цифровых помощников банка. Первый ищет в запросе запрещённые темы, нарушения закона и взрослый контент; если сообщение неэтично, система блокирует его и не обрабатывает. Второй работает с готовыми ответами: находит несоответствия и противоречия и подсвечивает, в какой части текста они находятся. Затем специалисты банка могут отправить такой ответ на повторную проверку или заблокировать. Детекторы нужны против галлюцинаций — случаев, когда языковая модель уверенно выдаёт вымышленный ответ.