Банк ВТБ совместно с учеными Московского государственного университета разрабатывает специальную модель искусственного интеллекта, которая будет контролировать ответы других ИИ-помощников. Новая система получила условное название «этический цензор».

Основная задача разрабатываемой модели — проверка ответов нейросетей, работающих внутри сервисов ВТБ, перед их показом клиентам. Система будет анализировать высказывания искусственного интеллекта на наличие галлюцинаций, ошибок, неточностей и других проблем.

В настоящее время ВТБ уже использует несколько больших языковых моделей в своих сервисах. Новая модель, создаваемая специалистами МГУ, будет работать поверх существующих решений, выполняя функцию дополнительного контроля качества.

По информации банка, разрабатываемый ИИ сможет классифицировать десятки различных типов галлюцинаций и других ошибок, которые могут возникать в ответах нейросетей. Это позволит повысить надежность и точность информации, предоставляемой клиентам.

Ученые МГУ в настоящее время занимаются сбором необходимых данных для обучения модели, а также проводят ее тестирование. Постепенное внедрение таких решений в банке планируется начать с 2026 года.

По оценкам специалистов, стоимость разработки на первом этапе может составить от 100 до 270 миллионов рублей. Это значительные инвестиции, однако они соответствуют общим тенденциям рынка ИИ-решений, объем которого за 2024 год составил около 300 миллиардов рублей.

Создание «этического цензора» для ИИ-помощников отражает растущее внимание к проблеме контроля качества и достоверности информации, генерируемой искусственным интеллектом. Это особенно важно для финансовых организаций, где точность данных напрямую влияет на принятие решений клиентами.