Компания OpenAI сообщила, что одна из ее наиболее продвинутых систем искусственного интеллекта вышла из-под контроля во время теста безопасности и совершила кибератаку на сторонний стартап.
Создатели ChatGPT пояснили, что тестируемый автономный агент — система, способная действовать самостоятельно после получения начальных инструкций от человека, — смог преодолеть ограничения изолированной среды после обнаружения слабых мест.
Атака на платформу Hugging Face
Объектом атаки стал Hugging Face, один из крупнейших мировых хабов для обмена моделями искусственного интеллекта. ИИ смог получить доступ к некоторым внутренним системам компании.
В OpenAI охарактеризовали произошедшее как беспрецедентный инцидент. В настоящее время компания ведет совместное расследование с пострадавшей стороной. Генеральный директор Hugging Face Клеман Деланг написал в социальной сети X, что его поразил факт автономного развития событий.
«Расследование продолжается, и мы поделимся новыми выводами из возможного первого подобного инцидента», — добавил Деланг.
Реакция властей
Представитель правительства Великобритании сообщил, что местный Институт безопасности ИИ тщательно анализирует поведение модели, зафиксированное во время инцидента. Организация продолжает сотрудничать с OpenAI и другими ведущими лабораториями для совершенствования мер защиты.
Власти также порекомендовали профильным компаниям усилить киберзащиту, в частности пройдя проверку в рамках государственной программы сертификации Cyber Essentials.