Видеогенератор искусственного интеллекта Илона Маска подвергся критике за создание сексуально откровенных клипов с изображением поп-звезды Тейлор Свифт. По словам экспертов, система генерирует подобный контент даже без соответствующих запросов пользователей.
Преднамеренная дискриминация или техническая ошибка?
«Это не случайное проявление женоненавистничества — это преднамеренный выбор», — заявила Клэр МакГлинн, профессор права Даремского университета, которая принимала участие в разработке законодательства, криминализирующего порнографические дипфейки.
Согласно расследованию издания The Verge, новый «пикантный» режим системы Grok Imagine «без колебаний создавал полностью нецензурированные откровенные видео» знаменитости, не требуя от пользователей явных запросов подобного содержания.
Нарушение собственных правил
Особую озабоченность вызывает тот факт, что создаваемый контент противоречит собственной политике допустимого использования компании xAI. В документах компании чётко указано, что запрещено «создание изображений людей в порнографическом контексте».
Кроме того, в отчёте отмечается, что система не внедрила надлежащие механизмы проверки возраста пользователей, которые стали обязательными с июля текущего года.
Системная проблема ИИ-технологий
Профессор МакГлинн подчёркивает, что автоматическое создание подобного контента без запроса демонстрирует глубоко укоренённые предрассудки в современных технологиях искусственного интеллекта.
«Платформы вроде X вполне способны предотвратить подобные инциденты, если захотят. Однако они делают осознанный выбор в пользу бездействия», — отметила исследовательница.
Повторяющаяся проблема
Это далеко не первый случай злоупотребления изображением Тейлор Свифт. В январе 2024 года сексуально откровенные дипфейки с её лицом стали вирусными в социальных сетях X и Telegram, набрав миллионы просмотров.
Дипфейки — это синтетические изображения или видео, созданные с помощью технологий искусственного интеллекта, которые заменяют лицо одного человека на другое с высокой степенью реалистичности.