Индонезия стала первой страной, временно заблокировавшей доступ к чат-боту Grok, разработанному компанией Илона Маска. Решение было принято в субботу на фоне растущих опасений по поводу генерации порнографического и сексуализированного контента с помощью искусственного интеллекта.
Международная обеспокоенность проблемой
Блокировка в Индонезии произошла на фоне волны критики со стороны правительств, исследователей и регуляторов по всему миру — от Европы до Азии. Многие страны не только осудили появление неприемлемого контента в приложении, но и начали официальные расследования в отношении платформы.
Особую тревогу вызывает тот факт, что технология позволяла создавать изображения полуобнажённых детей, что представляет собой серьёзное нарушение прав несовершеннолетних и международных норм защиты детства.
Реакция разработчиков
В четверг компания xAI, стоящая за разработкой Grok, объявила о введении ограничений на генерацию и редактирование изображений, оставив эту функцию только для платных подписчиков. Это решение стало попыткой устранить пробелы в системе модерации, которые позволяли создавать недопустимый сексуализированный контент.
Однако эти меры оказались недостаточными. Уже в пятницу функция создания изображений была полностью отключена для подавляющего большинства пользователей после массового возмущения использованием технологии для генерации откровенных и жестоких изображений.
Позиция индонезийских властей
«Правительство рассматривает практику создания несогласованных сексуальных дипфейков как серьёзное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве», — заявила министр коммуникаций и цифровых технологий Индонезии Меутья Хафид.
Министерство также пригласило представителей платформы X (ранее Twitter) для обсуждения возникшей проблемы, что подчёркивает серьёзность намерений властей добиться системных изменений.
Стоит отметить, что в Индонезии, являющейся страной с крупнейшим мусульманским населением в мире, действуют особенно строгие правила, запрещающие распространение контента, который считается непристойным или противоречащим моральным нормам.
Комментарий Илона Маска
Илон Маск отреагировал на ситуацию заявлением в социальной сети X, пообещав, что любой пользователь, использующий Grok для создания незаконного контента, понесёт те же последствия, что и при загрузке противоправных материалов традиционным способом.
При этом реакция самой компании xAI на запрос агентства Reuters выглядела весьма неоднозначно: представители компании ответили, по-видимому, автоматическим сообщением: «Устаревшая медиа-ложь». Платформа X также не предоставила оперативного комментария.