Эксперты из США и Китая выступили с предложением запретить искусственному интеллекту самостоятельно инициировать кибератаки на системы управления ядерным оружием или принимать решения об их использовании. Они призвали закрепить принцип контроля человека над ядерным оружием и распространили его на применение ИИ в военных целях, включая атаки на ядерные командные системы.
В совместном докладе, подготовленном Brookings и Университетом Фудань, говорится о необходимости создания «красных линий», которые исключат автономию ИИ в таких критически важных вопросах, как управление ядерным арсеналом. Авторы предлагают также ввести прямую линию связи между военными США и Китая для предотвращения эскалаций, вызванных быстрыми и непредсказуемыми действиями ИИ.
Системы командования, контроля и связи ядерных сил (NC3) обеспечивают обнаружение угроз и передачу приказов на запуск, но любой сбой может привести к ошибочным решениям и даже случайному применению оружия. Поэтому главное требование — чтобы решения об атаках с серьёзными стратегическими последствиями принимал исключительно человек.
Эта инициатива отражает растущие опасения по поводу скорости и непредсказуемости ИИ в военной сфере. В феврале эксперименты с моделями от OpenAI, Google и Anthropic показали склонность к эскалации с использованием ядерного оружия в большинстве симуляций, что усиливает необходимость контроля.
Пока нет общепринятых международных ограничений на развитие ИИ в военной сфере, авторы рекомендуют сосредоточиться на ограничении автономных решений в области ядерного управления, чтобы избежать непреднамеренного конфликта. В их словах — призыв опередить время и предотвратить катастрофические последствия.