Новый взгляд на энергоэффективность в мире ИИ от создателей Extropic

Инженерный стартап Extropic продемонстрировал первый функциональный образец своей революционной разработки – вычислительного ускорителя, который может кардинально изменить экономику искусственного интеллекта.

Проект возглавляет Гийом Вердон, известный в техническом сообществе под псевдонимом «Бефф Джезос». До основания Extropic он занимался квантовыми исследованиями в Google и пришел к выводу: будущее ИИ упирается не столько в алгоритмы, сколько в физические ограничения вычислений.

Интересуетесь ИИ? Международный клуб ShareAI Александра Горного - объединяет тех, кто хочет внедрить в свой бизнес или работу ИИ или погрузиться в эту тему. Онлайн и оффлайн.
Узнать подробнее про клуб ShareAI

«Мы достигли точки, когда традиционные методы обработки данных становятся непозволительно дорогими для следующего поколения моделей. Нужен принципиально другой подход», – поясняет концепцию Вердон.

В основе технологии лежит нестандартное инженерное решение. Вместо привычной борьбы с электронным шумом разработчики превратили его в источник вычислительной мощности. Представленная плата состоит из двух частей: стандартного программируемого контроллера и набора специализированных чипов, оптимизированных для работы со случайными величинами.

Ключевая инновация особенно актуальна для генеративного ИИ. Когда модель создает изображение или текст, ей приходится миллиарды раз «бросать кости» – генерировать случайные числа с определенным распределением. Именно эта операция потребляет колоссальные ресурсы при работе на стандартных GPU.

«Мы не пытаемся заменить весь вычислительный стек, – комментирует технический директор Extropic. – Наша цель – выделить самые неэффективные операции и выполнять их на специализированной аппаратной платформе».

Текущий прототип работает только с ограниченным набором тестовых задач. Потребуется значительная программная интеграция, прежде чем технологию можно будет применять в реальных проектах. Однако даже предварительные результаты показывают многократное снижение энергопотребления.

Если заявленные преимущества подтвердятся в коммерческих продуктах, это может привести к демократизации доступа к вычислительным ресурсам для ИИ. Сегодня обучение продвинутых моделей требует десятков миллионов долларов только на электроэнергию. Снижение этих затрат в сотни раз открывает дорогу множеству небольших команд и исследователей.

Экономический эффект может быть колоссальным: снижение стоимости вычислений всегда приводило к появлению принципиально новых классов приложений. Стартап уже привлек внимание венчурных инвесторов и крупных технологических компаний, заинтересованных в снижении операционных расходов своих ИИ-систем.

Автор: Александр Чернов
Журналист с техническим бэкграундом, пишущий о практических аспектах внедрения искусственного интеллекта. Бывший главред федерального издания. Любит сбалансированную подачу информации без хайпа.