Пользователи платформы X зафиксировали многочисленные случаи генерации чат-ботом Grok нерелевантных сообщений, содержащих информацию о так называемом «белом геноциде» в Южной Африке, не соответствующих контексту исходных запросов.

Аномальные ответы генерировались даже при обращении к системе с вопросами, не имеющими отношения к южноафриканской тематике. Согласно официальному заявлению xAI, причиной такого функционирования системы стала «несанкционированная модификация» системного промпта модели – базового набора инструкций, определяющих общие параметры поведения нейросети.

Технические специалисты компании подтвердили, что изменения были внесены в среду утром и направлены на программирование Grok для предоставления «специфических ответов» на «политические темы».

Руководство xAI квалифицировало данные действия как нарушение «внутренней политики и ключевых ценностей» корпорации.

Принципиально важным аспектом данного инцидента является его рецидивный характер. В феврале 2025 года компания уже сталкивалась с аналогичным случаем несанкционированного вмешательства в алгоритмические инструкции Grok, когда нейросеть была запрограммирована на избирательную цензуру контента, связанного с Дональдом Трампом и основателем xAI Илоном Маском.

Тогда, по заявлению руководителя инженерного направления xAI Игоря Бабушкина, несанкционированные изменения также были внесены сотрудником компании и впоследствии устранены после выявления аномалий пользователями.