Компания Anthropic разместила около шести своих инженеров в Агентстве национальной безопасности США (NSA) для внедрения AI-модели Mythos в кибероперации, включая возможные атаки на сети Китая и Ирана. Эта модель считается самой мощной в портфеле Anthropic и не доступна широкой публике — использовать её могут лишь ограниченные партнёры в рамках Project Glasswing, куда входят Microsoft, Apple и Amazon.
Параллельно с этим, компания выступает за глобальную паузу в развитии искусственного интеллекта. В отчёте своего исследовательского института Anthropic описывает, как их AI-модель Claude теперь самостоятельно пишет более 80% кода, что ведёт к «рекурсивному самоусовершенствованию» — когда ИИ разрабатывает и обучает свои собственные улучшенные версии с минимальным участием человека.
Anthropic подчёркивает, что это близко к критической точке, после которой контроль за развитием искусственного интеллекта может полностью уйти из рук человека. Для предотвращения таких сценариев компания предлагает ввести международный мораторий на дальнейшее развитие ИИ-систем с обязательной проверкой выполнения.
Отметим, что сейчас Anthropic находится в процессе подготовки IPO, которое может оценить компанию более чем в триллион долларов. При этом в прошлом году компания столкнулась с конфликтом с Пентагоном, отказавшись предоставлять свой AI для автономного оружия и массового слежения на территории США, что привело к судебным разбирательствам и частичному запрету сотрудничества.
История Anthropic — это пример сложного переплетения технологий, политики и этики в эпоху стремительного развития искусственного интеллекта, когда попытки приостановить гонку ИИ сталкиваются с интересами гигантов рынка и правительств.