Компания Anthropic обвинила операторов, связанных с Alibaba и ее исследовательской лабораторией Qwen AI, в проведении самой масштабной на сегодняшний день кампании по нелегальному копированию возможностей её чат-бота Claude. Согласно письму Anthropic сенаторам Тимоту Скотту и Элизабет Уоррен, в период с конца апреля до начала июня через почти 25 тысяч фейковых аккаунтов было совершено свыше 28 миллионов взаимодействий с Claude. Целью таких атак, называемых distillation, было извлечение ключевых возможностей модели, включая агентное мышление, программирование и планирование, что позволяет конкурентам воспроизводить поведение продвинутой ИИ-системы без затрат на обучение с нуля.
В Anthropic подчёркивают, что масштаб и открытость действий Alibaba вызывают серьезную обеспокоенность, учитывая, что компания зарегистрирована на Нью-Йоркской фондовой бирже и работает в США. Корпорация рассматривает подобные действия не только как нарушение интеллектуальной собственности, но и как угрозу национальной безопасности, поскольку они могут ускорить развитие военных и кибернетических ИИ-способностей Китая, уменьшая технологическое преимущество США.
В свете этого Anthropic призывает Конгресс ужесточить экспортные ограничения на продвинутые ИИ-чипы и вычислительные ресурсы, расширить обмен разведданными между ИИ-разработчиками и правительством, а также ввести санкции против компаний, участвующих в крупномасштабной незаконной экстракции моделей. Помимо прочего, требуется устранить лазейки в доступе к зарубежным дата-центрам для китайских компаний и прояснить правила антимонопольного регулирования для упрощения борьбы с такими атаками.
Заявление Anthropic стало очередным этапом в дискуссии о границах законных методов обучения ИИ и незаконного копирования технологий. В феврале компания уже указывала на аналогичные действия китайских разработчиков, однако подобная практика вызывает споры, поскольку многие участники индустрии используют сходные методики для создания собственных моделей. В апреле Илон Маск даже признал частичное использование моделей OpenAI при обучении xAI, что подтверждает сложность определения границ между законной адаптацией и иждивенчеством на чужие разработки.
Anthropic продолжает сотрудничать с властями США, стремясь сохранить технологическое лидерство страны в области искусственного интеллекта и призывает к координированным действиям между индустрией и государством для борьбы с нелегальной экстракцией ИИ-моделей.