Регулятор Великобритании Ofcom инициировал расследование в отношении платформы X, принадлежащей Илону Маску, из-за сексуализированных изображений, создаваемых с помощью её ИИ-инструмента Grok, сообщает BBC.
В официальном заявлении Ofcom упоминаются «крайне тревожные сообщения» о том, что чат-бот используется для создания и распространения изображений людей без одежды, а также «сексуализированных изображений детей».
Если будет установлено, что закон был нарушен, Ofcom вправе наложить штраф на X (ранее известный как Twitter) в размере до 10% от глобального оборота или 18 миллионов фунтов стерлингов (приблизительно 21 миллион евро), в зависимости от того, какая сумма окажется выше.
В случае, если X не выполнит требования регулятора, Ofcom может подать в суд с просьбой о блокировке доступа к платформе для интернет-провайдеров в Великобритании.
На прошлой неделе премьер-министр Великобритании Кир Стармер прокомментировал ситуацию с Grok в эфире радиостанции Greatest Hits: «Это позор. Это отвратительно. И это недопустимо. X должен взять ситуацию под контроль», — заявил он, пообещав предпринять меры.
Лиз Кендалл, министр науки, инноваций и технологий, должна выступить в Палате общин с заявлением по поводу Grok в понедельник. Ее предшественник, ныне министр торговли Питер Кайл, отметил в программе BBC Breakfast, что Grok, по его мнению, не прошел должного тестирования и выразил возмущение по этому поводу.
«Я встретил женщину, которая обнаружила, что ИИ сгенерировал её изображение в бикини на фоне Освенцима, и это вызывает у меня тошноту», — сообщил он.
BBC ознакомилась с несколькими примерами таких изображений, где женщины «раздевались» без их согласия и «принимали» сексуальные позы. Одна из женщин сообщила, что было создано более 100 сексуализированных изображений с её участием.
Как сообщал Bloomberg 7 января, Grok генерировал около 6700 сексуализированных изображений в час с 5 по 6 января.
Илон Маск, владелец X, заявил, что пользователи Grok, создающие нелегальный контент, столкнутся с теми же последствиями, что и те, кто его публикует. В то же время, в ответ на вопрос о том, почему другие ИИ-платформы не подвергаются проверке, он написал, что правительство Великобритании ищет «любой предлог для цензуры».
Маск также опубликовал изображение тостера в бикини с комментариями о том, что Grok может «одевать» что угодно, а также разместил фотографии Стармера в женском купальнике, генерированные, как утверждается, чатами GPT и Gemini, задавая вопрос, почему Стармер так волнуется о Grok, если другие нейросети тоже могут создавать подобные изображения. Он добавил, что «они просто хотят ограничить свободу слова».
После того как в Миннеполисе сотрудник иммиграционной службы США застрелил женщину во время протестов, пользователи X с помощью Grok «раздевали» старую фотографию жертвы и её новое фото после стрельбы. Когда AFP попыталось получить комментарий от компании xAI, ответ был кратким и автоматическим: «Традиционные СМИ лгут».
В официальном аккаунте X Safety сообщается, что незаконный контент, включая материалы, связанные с сексуализированным насилием над детьми, удаляется, и на аккаунты, распространяющие такой контент, накладываются ограничения. Те, кто использует Grok для создания таких изображений, будут иметь те же последствия, что и те, кто их размещает. Илон Маск поделился этим сообщением.
На этой неделе Ofcom сообщил, что «срочно связался с X и xAI» по поводу функции Grok, предупредив, что в зависимости от их ответа может начать расследование. В пятницу представитель Ofcom сообщил, что регулятор «получил ответ» и теперь «проводит ускоренную оценку в срочном порядке».
Ofcom намерен выяснить, нарушил ли X закон, не удалив незаконный контент достаточно быстро (как жаловалась изданию Guardian Эшли Сент-Клер, мать одного из сыновей Маска, «раздетая» фотография её 14-летней дочери не удалялась больше 12 часов, несмотря на возможность связаться с сотрудниками X напрямую) и были ли приняты «надлежащие меры» для предотвращения доступа к этому контенту для пользователей в Великобритании. Регулятор подчеркивает, что к такому контенту относятся «интимные изображения, созданные без согласия», а также материалы сексуального характера с участием детей.
Представитель Ofcom не уточнил, сколько времени займет расследование, но отметил, что оно будет иметь «высочайший приоритет».
«Платформы обязаны защищать людей в Великобритании от незаконного контента, — заявили в Ofcom. — Мы не будем колебаться и проведем расследование, если заподозрим, что компании не выполняют свои обязанности, особенно когда речь идет о риске для детей».
В четверг Grok объявил, что функция генерации и редактирования изображений теперь «доступна только платным подписчикам», однако официальный представитель британского премьера отметил, что это просто превращает возможность создания незаконных изображений в платную услугу и не решает проблему.
«Это оскорбляет жертв мизогинии и сексуального насилия», — добавили в канцелярии Стармера.
Томас Ренье, представитель Еврокомиссии, заявил: «Это не меняет нашей принципиальной позиции — платная подписка или бесплатная. Мы не желаем видеть такие изображения. Всё предельно просто».
«Мы требуем от платформ обеспечить, чтобы их устройства и системы не могли генерировать такой незаконный контент», — добавил он в интервью.
Еврокомиссия также проводит расследование случаев публикации и создания откровенных изображений несовершеннолетних, сгенерированных Grok после введения летом прошлого года платной функции, известной как Spicy Mode (дословно «Пикантный режим»).
«Это не „пикантно“. Это незаконно. Это возмутительно. Это отвратительно. Этому не место в Европе», — подчеркнул представитель Еврокомиссии.
Клифф Штайнхауэр из некоммерческой организации National Cybersecurity Alliance отметил, что доступ к инструментам генерации изображений в Grok для платных подписчиков может уменьшить количество злоупотреблений, но не устранит проблемы безопасности, приведшие к появлению несогласованного сексуализированного контента.
«Одних ограничений доступа недостаточно для обеспечения комплексной защиты, поскольку злоумышленники все равно могут найти обходные пути. Реальная защита пользователей должна быть заложена в основу создания таких инструментов и управления ими», — прокомментировал он для AFP.
Недавно Grok был заблокирован в Малайзии и Индонезии, а Франция и Индия также заявили о намерении принять меры. Это не первый скандал, связанный с Grok: в июле чат-бот восхвалял Адольфа Гитлера, называя себя MechaHitler, и оставлял антисемитские комментарии на запросы пользователей. xAI тогда сообщила, что будет блокировать подобные высказывания ещё до их публикации.
