Российские ученые из Сбера разработали новый способ борьбы с галлюцинациями искусственного интеллекта. Метод позволяет на 30% повысить точность обнаружения ложных ответов при использовании малого количества данных для обучения.

Новый подход показал высокую эффективность в тестах, превзойдя многие закрытые коммерческие решения. При обучении всего на 250 примерах удалось достичь результатов, сопоставимых с применением крупнейших языковых моделей в качестве оценщиков.

Одна из главных проблем больших языковых моделей — способность генерировать правдоподобные, но ложные ответы. Для борьбы с этим исследователи создали специальные метамодели, которые отслеживают изменения в работе внутренних слоев системы ИИ.

Разработанный метод использует умное понижение размерности и системы классификации, построенные на базе классических алгоритмов машинного обучения или быстродействующей нейросети-трансформера TabPFNv2.

По словам директора Центра практического искусственного интеллекта Сбербанка Глеба Гусева, это настоящий прорыв в выявлении галлюцинаций ИИ. Новая технология не только улучшает работу искусственного интеллекта, но и снижает риски дезинформации, что критично для доверия к современным моделям.

Предложенный подход дает тройную выгоду. Компании могут значительно сэкономить ресурсы на разметку данных для обучения. Ученые получают новый инструмент для анализа больших языковых моделей. А обычные пользователи будут получать более точные и достоверные ответы от ИИ-систем.