Компания Databricks представила второе поколение фреймворка безопасности искусственного интеллекта (DASF 2.0). И это вызвало широкий резонанс после того, как специалисты Databricks выявили 62 технических риска безопасности и разработали 64 механизма контроля для их нейтрализации. DASF 2.0 включает двенадцать ключевых компонентов ИИ-систем, описание соответствующих рисков и конкретные меры по их устранению.

«Организациям, стремящимся использовать потенциал ИИ, нужен как ‘газ’ инноваций, так и ‘тормоза’ управления рисками», – отмечается в официальном заявлении компании. В ответ на запросы пользователей Databricks также выпустила сопроводительный документ DASF, призванный помочь в практическом внедрении фреймворка.

Новая версия интегрируется с ведущими отраслевыми стандартами, включая MITRE ATLAS, OWASP LLM & ML Top 10, NIST 800-53, HITRUST, ISO 42001, ISO 27001:2022 и регламент ЕС по ИИ. Фреймворк, разработанный командами безопасности и машинного обучения Databricks совместно с отраслевыми экспертами, устраняет разрыв между бизнесом, данными, управлением и безопасностью.

В отличие от других решений, DASF 2.0 предоставляет комплексный профиль рисков для развертывания ИИ-систем и может быть применен к любой платформе данных и ИИ. Фреймворк предлагает многоуровневые механизмы контроля, упрощающие управление рисками ИИ для организаций.