Anthropic убрала скрытые трекеры из Claude Code после того, как исследователи обнаружили механизм, позволяющий отслеживать часть пользователей, включая тех, кто работает через прокси и, возможно, связан с китайскими лабораториями. Компания объяснила, что этот эксперимент был направлен на борьбу с несанкционированным доступом и попытками копирования AI-моделей.
Функция, внедрённая в марте, использовала незаметные метки в системных подсказках, чтобы выявлять реселлеров API и защититься от атаки на модель, известной как distillation. Однако специалисты критиковали такой способ сбора данных за непрозрачность и недостаточную открытость.
После того, как информация об этом всплыла, Anthropic оперативно заявила о снятии данного механизма в ближайшем обновлении. В компании утверждают, что уже внедрили более эффективные меры защиты от злоупотреблений и взломов.
В последнее время Anthropic усилила контроль за практиками distillation, которые вызывают обеспокоенность в связи с вопросами безопасности и геополитики. Недавно китайские компании запретили использовать Claude Code, а Anthropic обвинила ряд китайских AI-разработчиков в использовании мошеннических аккаунтов для массового копирования её ответов.
Позиция Anthropic отражает растущую напряжённость вокруг защиты интеллектуальной собственности и предотвращения несанкционированного извлечения данных в сфере искусственного интеллекта.