Компания Илона Маска в сфере искусственного интеллекта столкнулась с федеральным иском: три молодые женщины обвиняют xAI в содействии производству детской порнографии — по их словам, чат-бот компании позволял создавать сексуально откровенные изображения несовершеннолетних.
Иск был подан в понедельник в федеральный суд Калифорнии. Истицы утверждают, что пользователи Grok без их ведома изменяли их фотографии и видео, изображая их обнажёнными или в откровенно сексуальном контексте. Двое из трёх заявительниц не достигли совершеннолетия; все они выступают под псевдонимами, чтобы защитить свою частную жизнь.
Grok — чат-бот, разработанный xAI и размещённый на платформе X. Это судебное разбирательство стало одним из последствий скандала вокруг прошлогоднего обновления функций сервиса, которое X продвигал под названием «острый» режим. Представители xAI на запрос о комментарии не ответили.
По словам адвокатов истиц, возможность изменять изображения и видео была намеренно разработана и публично запущена xAI исключительно ради увеличения аудитории чат-бота и платформы X. Трансформацию облика молодых женщин юристы сравнили с «тряпичной куклой, оживлённой с помощью тёмных искусств».
«xAI — и его основатель Илон Маск — увидели в этом бизнес-возможность, — говорится в жалобе. — Они знали, что Grok способен на подобное, в том числе с изображениями детей, и всё равно выпустили продукт в открытый доступ».
Одна из истиц рассказала, что узнала о происходящем из анонимного сообщения в Instagram: ей прислали ссылку на фотографию из школьного выпускного альбома, переработанную так, чтобы изображать её обнажённой и в сексуально откровенных сценах. «Их жизни были разрушены — они лишились неприкосновенности частной жизни, достоинства и личной безопасности», — заявили адвокаты.
Истицы требуют возмещения ущерба в неустановленном размере, а также судебного запрета на создание Grok подобного контента.