Компания OpenAI объявила о внедрении новых функций безопасности для пользователей младше 18 лет. Обновление направлено на снижение степени антропоморфизма искусственного интеллекта при взаимодействии с несовершеннолетними.
Ограничения и защита подростков
Владельцы новых аккаунтов для подростков получат возможность отключить голосовой режим, имитирующий живую человеческую речь. Подобные меры призваны предотвратить формирование у молодежи иллюзии о наличии у чат-бота сознания. Кроме того, система будет регулярно отправлять пользователям напоминания о необходимости сделать перерыв, подчеркивая искусственную природу инструмента.
Новые правила будут применяться автоматически как к пользователям, указавшим свой возраст при регистрации, так и к тем, кого система идентифицирует как несовершеннолетних, хотя конкретные методы такой верификации компания пока не уточнила. Напоминаем, что дети младше 13 лет по-прежнему не имеют права пользоваться данным сервисом.
Контекст и опасения экспертов
В компании подчеркивают, что нововведения не связаны с каким-то конкретным инцидентом, однако признают растущую обеспокоенность общества тем, что пользователи могут наделять ИИ признаками разума. Ранее представители IT-индустрии, включая главу подразделения искусственного интеллекта в Microsoft Мустафу Сулеймана, отмечали, что продукты, имитирующие сознание, вызывают серьезную тревогу из-за их потенциального влияния на психику.
Разрабатывая систему защиты, OpenAI ориентируется на стандарты безопасности, принятые в крупных социальных сетях. В официальном блоге компании отмечается, что цифровые инструменты для молодежи должны соответствовать ее возрасту, способствовать укреплению реальных социальных связей и формированию здоровых привычек использования технологий.