Крупные российские банки начали тестировать китайские ускорители вычислений для систем искусственного интеллекта. По данным «Ведомостей», «Сбер» и «Т-банк» уже проводят испытания, а «Альфа-банк» рассматривает такую возможность.
Банкам требуется замена продукции Nvidia, которая покинула российский рынок из-за американских правил экспортного контроля. Первый заместитель председателя правления Сбербанка Александр Ведяхин на недавнем ВЭФ отметил, что все дата-центры банка работают на ускорителях Nvidia, поэтому в условиях санкций остро встал вопрос их замены.
Узнать подробнее про клуб ShareAI
Источник «Ведомостей» в одном из российских производителей электроники сообщил, что «Сбер» уже тестирует различные китайские чипы для ИИ, опередив многих конкурентов. Некоторые разработчики, сотрудничающие с банком, также слышали о планах перехода на китайские компоненты.
Директор по ИИ в IT «Альфа-банка» Святослав Соловьёв рассказал, что организация пока не использует китайские чипы, но ведет переговоры с производителями и провайдерами облачных услуг. Банк рассматривает в качестве платформы для тестирования ускорители MetaX C500.
Представитель ВТБ сообщил, что банк придерживается стратегии технологического суверенитета и «оптимистично смотрит на независимые от Nvidia GPU-технологии», которые «способны обеспечить большую прозрачность технологического стека и снизить общую стоимость владения ИИ-технологиями».
По общей оценке банкиров, китайские ускорители действительно дешевле, но имеют серьезные недостатки — они перегреваются и уступают в стабильности работы решениям Nvidia.
Заместитель исполнительного директора ЦК НТИ по большим данным Гарник Арутюнян считает, что китайские ускорители могут заменить западные в ряде базовых сценариев: скоринге клиентов в реальном времени, антифрод-системах, персонализации сервисов, работе с голосовыми и текстовыми помощниками. Однако в ресурсоемких задачах, таких как дообучение больших языковых моделей, решения Nvidia остаются эталонными по производительности.
По мнению исполнительного директора ИИ-платформы AutoFAQ Владислава Беляева, основная проблема в том, что китайские ускорители плохо проявляют себя в обучении больших языковых моделей, а банки вынуждены развивать собственную инфраструктуру в этой сфере для защиты конфиденциальных финансовых данных. Китайские решения также не отличаются универсальностью работы с программным кодом, что затрудняет адаптацию существующих систем ИИ.