Американский разработчик искусственного интеллекта Anthropic обвинил китайского технологического гиганта Alibaba в «наглом» и «незаконном» копировании возможностей своей языковой модели Claude.
В письме, направленном членам Конгресса США, компания из Сан-Франциско заявила, что связанные с Alibaba операторы использовали тысячи мошеннических аккаунтов и провели почти 29 миллионов запросов. Anthropic назвала этот инцидент крупнейшей в истории скоординированной кампанией по несанкционированному извлечению данных.
В связи с этим руководство Anthropic призвало Конгресс ужесточить меры по защите американских технологий и ввести санкции против компаний, стоящих за подобными атаками. Издание BBC уже обратилось к Alibaba за комментариями, а также запросило дополнительные детали у Anthropic.
Механизм атаки: промышленная «дистилляция»
Письмо, датированное 10 июня, было адресовано сенаторам США Тиму Скотту и Элизабет Уоррен. В нём Anthropic подробно описывает схему действий китайской стороны, квалифицируя её как «атаку методом дистилляции».
Суть данного метода заключается в следующем:
- Из мощной и передовой модели ИИ (в данном случае Claude) массово извлекаются эталонные ответы на сложные запросы.
- Полученные данные используются для ускоренного и дешёвого обучения собственной, более слабой модели ИИ.
По заявлению Anthropic, целями атаки стали самые ценные алгоритмы Claude — в частности, способность модели решать долгосрочные комплексные задачи и её уникальный подход к логическому принятию решений. Подобные действия ведутся в «промышленном масштабе», что позволяет китайским компаниям перенимать американские ИИ-технологии за бесценок.
«Атаки методом дистилляции превращают сотни миллиардов долларов американских инвестиций, вложенных в исследования и разработки, в огромную скрытую субсидию для наших геополитических конкурентов», — подчеркнули в Anthropic.
Вопросы безопасности
Американские разработчики ИИ и ранее обвиняли китайских коллег в использовании дистилляционных атак для создания конкурирующих продуктов с минимальными затратами. С аналогичными претензиями в адрес китайских платформ ранее выступала и компания OpenAI.
Однако в данном случае ситуация усугубляется оборонным контекстом. В своём письме Anthropic ссылается на данные Министерства обороны США, согласно которым Alibaba, а также другие крупные китайские конгломераты (включая автопроизводителя BYD и техногигант Baidu), имеют связи с народно-освободительной армией Китая.
Китайские компании последовательно отрицают эти обвинения. Более того, на этой неделе Alibaba подала в суд на правительство США, требуя исключить её из чёрного списка Пентагона.
Положение Anthropic на рынке
На сегодняшний день Anthropic является одним из лидеров индустрии ИИ. Наряду с OpenAI, компания готовится к масштабному выходу на фондовый рынок, что может закрепить за ней статус одного из самых дорогих стартапов в мире.
Тем не менее, стремительное развитие технологий вызывает вопросы и у экспертов по кибербезопасности. Так, некоторые наиболее продвинутые и конфиденциальные модели Anthropic (например, Mythos) вызывают беспокойство у специалистов из-за их потенциальной способности эффективно выявлять уязвимости в компьютерных системах.