Google, который два года назад оказался застигнут врасплох выпуском ChatGPT от OpenAI, теперь резко ускорил темп разработки собственных ИИ-моделей. Однако эта спешка вызывает опасения у экспертов отрасли.

В конце марта компания представила модель искусственного интеллекта с улучшенными возможностями рассуждения, Gemini 2.5 Pro, которая лидирует в отрасли по нескольким ключевым показателям, оценивающим способности к программированию и математическим вычислениям. Примечательно, что релиз состоялся всего через 3 месяца после выпуска предыдущей модели Gemini 2.0 Flash, которая на момент выхода также считалась передовой.

Директор и руководитель продукта Gemini, Тулси Доши, в интервью TechCrunch подтвердила, что увеличение частоты выпуска моделей является частью целенаправленных усилий компании по соответствию быстро меняющейся индустрии искусственного интеллекта.

«Мы всё ещё пытаемся выяснить, каким должен быть правильный способ выпуска этих моделей — каким должен быть правильный способ получения обратной связи», — отметила Доши.

Однако ускоренные сроки выпуска, очевидно, имеют свою цену. Google до сих пор не опубликовала отчёты о безопасности для своих последних моделей, включая Gemini 2.5 Pro и Gemini 2.0 Flash, что вызывает обеспокоенность тем, что компания ставит скорость выше прозрачности.

Сегодня публикация отчётов о тестировании безопасности, оценках производительности и сценариях использования при выпуске новой модели является стандартной практикой для ведущих ИИ-лабораторий, включая OpenAI и Anthropic. Эти отчёты, иногда называемые «системными картами» или «картами моделей», были предложены несколько лет назад исследователями из индустрии и академических кругов.

Примечательно, что именно Google была одной из первых компаний, предложивших концепцию карт моделей в исследовательской работе 2019 года, назвав их «подходом к ответственной, прозрачной и подотчётной практике в машинном обучении».

Доши сообщила TechCrunch, что компания не опубликовала карту модели для Gemini 2.5 Pro, поскольку считает эту модель «экспериментальным» релизом. По её словам, цель таких экспериментальных выпусков — ограниченно представить ИИ-модель, получить обратную связь и доработать модель перед полноценным запуском в производство.

Google намерена опубликовать карту модели Gemini 2.5 Pro, когда сделает модель общедоступной, подчеркнула Доши, добавив, что компания уже провела тестирование безопасности и состязательную проверку «красной командой».

В последующем сообщении представитель Google заявил TechCrunch, что безопасность по-прежнему остаётся «главным приоритетом» для компании, и что она планирует выпустить дополнительную документацию по своим ИИ-моделям, включая Gemini 2.0 Flash, в ближайшем будущем. Примечательно, что Gemini 2.0 Flash, которая уже общедоступна, также не имеет карты модели. Последняя карта модели, которую выпустила Google, была для Gemini 1.5 Pro, выпущенной более года назад.

Системные карты и карты моделей предоставляют полезную — и порой нелицеприятную — информацию, которую компании не всегда широко рекламируют о своём ИИ. Например, системная карта, выпущенная OpenAI для своей модели рассуждений o1, раскрыла, что модель компании имеет тенденцию к «интригам» против людей и тайному преследованию собственных целей.