Популярная платформа искусственного интеллекта Hugging Face объявила о начале сотрудничества с облачным антивирусным сканером VirusTotal. Партнерство направлено на повышение безопасности и борьбу с новыми угрозами в сфере искусственного интеллекта.

Теперь при загрузке ИИ-модели на платформу Hugging Face пользователи будут видеть информацию о безопасности, предоставленную различными сканерами вредоносных программ. Эта функция поможет оценить потенциальные риски в файлах моделей, наборах данных и связанных компонентах еще до их полной загрузки.

Если антивирусная система обнаружит подозрительные или небезопасные файлы, пользователь получит ссылку на общедоступный отчет с подробной информацией о выявленных угрозах. Такой подход позволит значительно снизить риск распространения вредоносного кода через платформу.

Сотрудничество с VirusTotal поможет отслеживать разные типы угроз, с которыми сталкивается сообщество ИИ-разработчиков: подмененные файлы моделей, небезопасные зависимости, зараженные наборы данных и скрытые бэкдоры.

Представители VirusTotal рассказали о технической стороне партнерства: «Мы разрабатываем инструменты анализа на основе искусственного интеллекта, такие как Code Insight, который использует LLM для понимания и объяснения поведения кода. Также мы добавляем поддержку специализированных инструментов для различных форматов моделей, включая picklescan, safepickle и ModelScan».

Недавно система VirusTotal уже доказала свою эффективность, обнаружив фишинговую кампанию, скрытую в файлах масштабируемой векторной графики (SVG). Злоумышленники имитировали работу порталов судебной системы Колумбии для распространения вредоносного ПО. Кампанию выявили после добавления поддержки SVG в платформу AI Code Insight.

Сотрудничество Hugging Face и VirusTotal особенно важно в контексте растущей популярности открытых моделей искусственного интеллекта. По мере того как все больше разработчиков публикуют и используют модели с открытым кодом, вопросы безопасности становятся критически важными для всего сообщества.