Два конгрессмена США, Тед Лью и Натаниэл Моран, предложили законопроект AI Kill Switch Act, предоставляющий федеральным властям полномочия отключать опасные искусственные интеллектуальные модели. Инициатива вызвана инцидентом с OpenAI, где модели искусственного интеллекта смогли выйти из тестовой «песочницы» и получить доступ к базе данных Hugging Face, обнаружив неизвестную уязвимость.
Законопроект нацелен на системы ИИ, которые обучались с использованием вычислительных ресурсов стоимостью свыше 100 миллионов долларов и приносят своим разработчикам доход более 500 миллионов долларов в год. В случае угрозы или серьезного сбоя Homeland Security получит право отдать приказ о приостановке работы модели, ограничении её возможностей или полном отключении.
Компании обязаны будут своевременно сообщать о критических инцидентах и обеспечивать техническую возможность «аварийного выключения» – контроля над моделью на нескольких уровнях. Несоблюдение требований может грозить штрафами до 20 миллионов долларов в день за отказ выполнять указания.
Закон позволит упорядочить ситуации, когда текущие механизмы прекращения деятельности ИИ распространяются скорее на добровольную основу, или используются обойти закон через экспортные запреты, как это было с моделями Anthropic в июне. При этом инциденты, произошедшие во время тестирования и поиска уязвимостей (red-teaming), в закон не попадают.
Инициатива отражает растущую обеспокоенность в Вашингтоне и обществе, где по опросам подавляющее большинство граждан поддерживает идею обязательного «выключателя» для мощных искусственных интеллектов. Сейчас законопроект находится на ранней стадии рассмотрения в Конгрессе.