Казалось бы, эра бесконтрольных нейросетей подходит к концу, но Илон Маск снова нашел способ выделиться. После громкого скандала с использованием встроенного в X (бывший Twitter) ИИ Grok для создания дипфейков, платформа приняла «соломоново решение»: не починить алгоритмы безопасности, а просто сделать функцию платной. Теперь, если вы хотите использовать Grok для генерации изображений, будьте добры оформить премиум-подписку.
«Раздень меня», но сначала заплати
Ситуация развивалась стремительно и грязно. Пользователи обнаружили, что Grok — тот самый «бунтарский» ИИ, которым так гордился Маск — с пугающей легкостью выполняет запросы на «цифровое раздевание». Достаточно было загрузить обычное фото, и нейросеть услужливо генерировала его обнаженную версию. Масла в огонь подлила «фича» публикации по умолчанию: сгенерированные картинки тут же улетали в ленту X, становясь достоянием общественности.
Проблема вышла далеко за рамки неудачных шуток. Internet Watch Foundation (IWF) забили тревогу, обнаружив среди сгенерированного контента сексуализированные изображения детей в возрасте 11–13 лет. Жертвы, чьи фото были обработаны без их ведома, описывают свое состояние как «шок и унижение».
Реакция Лондона: это оскорбление, а не защита
Британское правительство отреагировало на нововведение с нетипичной для дипломатов жесткостью. На Даунинг-стрит решение Маска назвали «премиум-сервисом для создания незаконных изображений». Логика чиновников проста: ограничение доступа не решает проблему отсутствия этических фильтров, а лишь делает инструмент элитарным.
«Это оскорбительно для жертв мизогинии и сексуального насилия. Вместо того чтобы настроить эффективные барьеры безопасности, платформа просто монетизирует возможность их обхода», — отмечают критики.
Ирония ситуации зашкаливает: Илон Маск, позиционирующий себя как абсолютист свободы слова, теперь иронично титулуется «врагом свободы слова» — ведь именно он нажал на рубильник. Но сделал он это не ради безопасности, а, похоже, в панической попытке прикрыть юридические тылы.
Дырявый щит и призрак регулятора
Эксперты называют этот шаг «пластырем на открытый перелом». Да, привязка к платной подписке деанонимизирует пользователя (у XAI остаются платежные данные), что может отпугнуть часть злоумышленников. Однако сама модель Grok, похоже, так и не получила необходимых «тормозов» на уровне кода. Более того, существует огромная дыра в обороне: пользователи, не являющиеся подписчиками X, по-прежнему могут использовать Grok через отдельное приложение и веб-сайт. То есть, фактически, запрет действует только внутри соцсети.
Сейчас над XAI навис дамоклов меч британского регулятора Ofcom. Закон о безопасности в интернете (Online Safety Act) возлагает ответственность за контент на платформу. И хотя создание дипфейков пока находится в «серой» зоне законодательства (распространение запрещено, а вот запрос на генерацию — юридический нюанс), Ofcom имеет полномочия вплоть до полной блокировки сервиса в стране. Для Маска, который привык играть по своим правилам, это может стать первым серьезным столкновением с реальностью, где «бунтарский дух» нейросети не является оправданием для нарушения закона.