«Этический цензор» для проверки ответов ИИ появится в России

Банк совместно с учёными МГУ разрабатывает модель, которая будет следить за ответами других нейросетей, чтобы исключать галлюцинации и нарушающие этику рекомендации. ВТБ совместно с исследователями МГУ работает над ИИ-моделью, которая проверяет ответы других нейросетей, используемых в банковских цифровых сервисах. Об этом «Ведомостям» сообщил зампред правления банка Вадим Кулик. Новая система должна выявлять галлюцинации — фактологические ошибки — и отслеживать, чтобы ответы соответствовали этическим нормам. Таким образом банк планирует снизить риски неверной или сомнительной информации,...