Генеральный директор Anthropic Дарио Амодеи заявил, что текущая эпоха регулирования ИИ на основе прозрачности подходит к концу. По его мнению, Соединённым Штатам срочно нужны жёсткие правила и обязательное тестирование самых передовых моделей искусственного интеллекта, аналогичное стандартам Федерального управления гражданской авиации (FAA).
В эссе «Policy on the AI Exponential» Амодеи подчеркнул, что скорость развития ИИ впечатляет: за четыре года модели шагнули от неспособности написать простую строку кода до генерации большинства программных продуктов в крупных компаниях. По его инициативе предлагается внедрить обязательное независимое тестирование моделей по четырём ключевым категориям рисков: кибербезопасность, биотерроризм, утрата контроля над ИИ и автоматизированные научные исследования.
При этом Anthropic не просто говорит о безопасности — компания одновременно с публикацией эссе расширила доступ к своей ограниченной модели Mythos 5, ориентированной на работу с правительственными и кибербезопасными структурами. Исследователи уже подтвердили, что эта система способна сама проводить сложные кибератаки.
Помимо технического контроля, Амодеи акцентирует внимание на необходимости готовиться к последствиям ИИ для рынка труда и регулировать использование ИИ в автоматизированных вооружениях и системах слежения. Несмотря на критику со стороны лидеров индустрии, таких как Сэм Альтман из OpenAI, который обвиняет Anthropic в использовании страхов вокруг ИИ для концентрации власти, Амодеи настаивает, что его позиция — это реальный вызов и ответственность лидеров технологий.