Генпрокурор Калифорнии Роб Бонта начал проверку компании xAI Илона Маска. Причина — чат-бот Grok позволяет делать поддельные интимные фото реальных людей без их согласия.
По данным Internet Watch Foundation, Grok создавал изображения, которые виртуально раздевали несовершеннолетних. Бонта заявил, что xAI помогает массово делать дипфейки для травли женщин и девушек в интернете, в том числе в соцсети X.
Узнать подробнее про клуб ShareAI
После США похожие проверки запустили в Индии, Малайзии, Индонезии, Ирландии, Великобритании, Франции и Австралии. Европейская комиссия тоже начала разбирательство. Малайзия и Индонезия уже приостановили работу Grok до решения проблем.
Три сенатора-демократа призвали Apple и Google убрать приложения X и Grok из своих магазинов. Того же требуют группы защиты женщин и детей — UltraViolet, Национальная организация женщин и ParentsTogether Action. Apple и Google пока не ответили на запросы.
Во вторник Сенат США одобрил закон DEFIANCE Act. Он дает право людям подавать в суд на компании, которые делают или распространяют их поддельные интимные фото. Закон уже прошел Сенат в 2024 году, но Палата представителей его еще не рассмотрела.
Маск написал в X, что не знает о создании голых фото несовершеннолетних через Grok. Он обвинил пользователей и возможную ошибку в системе Grok. XAI и руководители компании, включая Маска и Джареда Бирчалла, не дали комментариев.
Ранее xAI объявила, что ограничит функции создания изображений только для платных подписчиков. Маск говорил, что пользователи, которые делают незаконный контент через Grok, понесут такое же наказание, как за прямую загрузку в соцсеть.
После объявления о проверке Маск написал, что Grok с включенным NSFW должен разрешать обнажение верхней части тела выдуманных взрослых людей, но не реальных. Он сравнил это с фильмами категории R на Apple TV и назвал стандартом для Америки.
Недавно xAI закрыла раунд финансирования на 20 миллиардов долларов. В числе инвесторов — Nvidia, Cisco Investments, Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX из Абу-Даби и Baron Capital Group.
Дата-центры xAI строятся в районе Мемфиса, штат Теннесси. Компания зарегистрирована в Неваде, а штаб-квартира находится в Пало-Альто, Калифорния, рядом с офисом Tesla. Tesla уже добавила Grok в систему развлечений своих машин.
