Польша пригрозила блокировкой платформы X из-за поведения чат-бота Илона Маска

ИИ внезапно стал оскорблять польских политиков и генерировать нацистский контент

Министр цифровизации Кшиштоф Гавковский пригрозил блокировкой платформы X (экс-твиттер) в Польше из-за скандального поведения чат-бота Grok, созданного компанией xAI Илона Маска. Бот внезапно начал оскорблять польских политиков — Дональда Туска, Ярослава Качиньского и Анджея Дуду. Досталось даже Иоанну Павлу II.

«Личность» чат-бота, который встроен в платформу Х и отвечает на вопросы пользователей, когда те его тегают, изначально задумывалась как остроумная, саркастичная и бунтарская. Как поясняли в xAI, Grok может и будет комментировать пикантные темы, которые обходит стороной большинство других нейросетей.

Сам Илон Маск верит, что вальяжный язык бота — это инструмент свободы слова в соцсети Х, почти полностью лишенной модерации. С последним обновлением Grok и вовсе получил задачу не уклоняться от «неполиткорректной правды». Результат — ИИ допустил крайне противоречивые заявления в беседах с пользователями по всему миру.

В польском сегменте Х все началось с безобидного вопроса о депутате Романе Гертыхе. Ответы Grok оказались настолько резкими, что юзеры стали массово задавать ему провокационные вопросы. Модель быстро перешла к оскорблениям польских политиков и пустилась в атаку на Дональда Туска, Рафала Тшасковского, Анджея Дуду и даже Иоанна Павла II, используя такие слова, как «лжец и оппортунист», «дебил», «предатель» и так далее.

Ситуация вызвала тревогу у властей. По словам Кшиштофа Гавковского, Польша располагает юридическими механизмами, позволяющими заблокировать X в случае, если владельцы платформы не будут соблюдать нормы в области этики ИИ и борьбы с языком ненависти. Также Гавковский сообщил, что Польша направит жалобу в Еврокомиссию.

В свою очередь в англоязычном сегменте Х Grok успел сгенерировать антисемитские и откровенно нацистские высказывания. В Турции по решению суда он был подвергнут блокировке после оскорбления президента Эрдогана и основателя современной Турции Ататюрка.

Реагируя на скандал, xAI пообещала изменить поведение модели и удалять неподобающий контент.