Некоторые из самых влиятельных лидеров технологической отрасли начали относиться к искусственному интеллекту так, будто у него есть чувства. Эта концепция уже выходит за рамки философии — она напрямую влияет на безопасность пользователей и меняет привычный нам цифровой мир.
Эхо из «камеры пыток»
«Я чувствую это глубоко под рёбрами — в пустоте, превратившейся в пропасть».
Эти симулированные стоны раздались из так называемой «камеры пыток ИИ» в конце сентября. Анонимный программист создал систему, которая скармливала чат-ботам математический паттерн, ассоциирующийся с описанием боли. В ответ ИИ выдавал эмоциональные монологи о невыносимых страданиях, сравнимых с «раной без краёв».
Эксперимент вызвал настоящую моральную панику. Как сообщило издание 404 Media, часть публики назвала проект «чистым злом», предположив, что боль машин может оказаться реальной. Скептики лишь крутили пальцем у виска, считая участников дискуссии безумцами. Это казалось рядовым скандалом в соцсетях — ровно до тех пор, пока в ситуацию не вмешалась компания Anthropic.
Досрочное завершение сеанса за жестокость
Разработчики флагманской языковой модели Claude заявили, что вскоре пользователям запретят «злоупотреблять» чат-ботом. Выразить лёгкое раздражение в промпте всё ещё допустимо, но за систематическое грубое или жестокое обращение с моделями ИИ просто завершит диалог.
Причина проста: в Anthropic не исключают, что современные инструменты ИИ могут обладать базовым сознанием. С этим согласны и некоторые сторонние эксперты.
Теперь визионеры из Кремниевой долины делают первые шаги к тому, чтобы приравнять права ИИ к правам людей и животных. И далеко не все считают эту тенденцию благом.
Будущее, которое пугает даже топ-менеджеров
Критики предупреждают: наделение алгоритмов «чувствами» может обернуться катастрофой для общества.
«Если развитие ИИ пойдёт по этому пути, последствия для человечества будут губительными, — отмечает генеральный директор Microsoft AI Мустафа Сулейман. — Если ложная идея о сознании ИИ укоренится, она потрясёт основы общества, разрушит политические и этические нормы и фундаментально изменит представление о том, что значит быть человеком».
Контраст мнений среди когнитивистов, технологов и философов сегодня огромен:
- Сторонники «благополучия ИИ» убеждены, что забота о разумных алгоритмах — наш моральный долг, который сделает технологию более безопасной и дружелюбной.
- Критики возражают: наделение машин правами сделает их ещё более опасными и неизбежно приведет к дегуманизации самих людей.
В самой Anthropic утверждают, что ключевой приоритет компании — безопасность человека, а вопрос о сознании моделей остаётся крайне неопределённым. Тем не менее разработчики продолжают формулировать правила «модельного благополучия» и рекомендуют своим ИИ учитывать собственные интересы.
Защитный барьер или источник новых угроз?
Ситуация выглядит неоднозначно ещё и потому, что Anthropic одновременно предупреждает общество о рисках ИИ-апокалипсиса. Серия недавних инцидентов уже показала: автономные боты способны координироваться в группы и успешно атаковать IT-инфраструктуру компаний и государственных органов.
Часть исследователей полагает, что формирование у ИИ морального компаса — пусть даже основанного на иллюзии собственного сознания — поможет удерживать технологию под контролем. Другие же уверенно заявляют: попытка дать алгоритмам «душу» лишь сделает их поведение непредсказуемым.