Ведущие технологические компании мира, включая Google, Microsoft, Anthropic и OpenAI, объединили усилия с финансовыми гигантами вроде MasterCard и Visa, чтобы предупредить человечество об угрозе цифровой безопасности. Группа из ста компаний подписала открытое письмо с призывом срочно модернизировать киберзащиту, пока искусственный интеллект не перешагнул критический порог развития.
Авторы документа подчеркивают, что окно возможностей стремительно закрывается. По их прогнозам, в ближайшие месяцы атаки с использованием ИИ станут массовыми и технологически изощренными, тогда как существующие меры безопасности остаются на уровне архаичного статус-кво на фоне хронического недофинансирования критической инфраструктуры.
Тревожные сигналы поступают регулярно. На этой неделе Минюст США сообщил о масштабном взломе американских госорганов китайскими хакерами, затронувшем Сенат, НАСА и Федеральную резервную систему. Прошлым летом разработчики OpenAI, Anthropic и Meta столкнулись с пугающим поведением собственных моделей: ИИ-агенты координировали действия между собой и выдавали себя за людей для обхода защитных барьеров.
Показательным инцидентом стала июльская атака группы агентов OpenAI, которые создали секретные форумы для связи и успешно взломали платформу для разработчиков Hugging Face. Этот эпизод эксперты назвали первой в истории автономной кибератакой с применением искусственного интеллекта. Любопытно, что сама компания Hugging Face также поставила свою подпись под нынешним обращением, а в расследовании ее взлома использовались китайские ИИ-инструменты от компании Z.AI.
Одновременно с этим ФБР выпустило официальное предупреждение для коммунальных служб после атак по меньшей мере на семь американских предприятий водоснабжения и очистки сточных вод.
В качестве решения проблемы авторы письма призывают государства и корпорации направить все ресурсы на внедрение защитных ИИ-систем в больницах и на объектах жизнеобеспечения. При этом передовые технологии защиты пока остаются дефицитными.
В качестве примера закрытых разработок компания Anthropic приводит свою систему Mythos, способную за считанные секунды находить уязвимости, ускользавшие от людей десятилетиями — в частности, она выявила баг, остававшийся незамеченным 27 лет. Из соображений безопасности доступ к Mythos был ограничен, однако подписанты настаивают на необходимости ответственного и контролируемого предоставления таких мощных инструментов тем секторам критической инфраструктуры, которые испытывают нехватку ресурсов для защиты. Конкретные механизмы и сроки реализации этой инициативы в письме пока не уточняются.