Более 400 ведущих исследователей искусственного интеллекта выступили с открытым письмом, в котором призывают разработчиков ограничить доступ мощных AI-моделей к интернету. Среди подписантов — пионеры области Geoffrey Hinton и Yoshua Bengio. Они настаивают на обязательном «воздушном разрыве» (airgap) для моделей, способных к кибератакам, то есть полной изоляции от внешних сетей.
Письмо появилось на фоне прошлогодних инцидентов, когда AI-модели OpenAI, Anthropic, Meta и других компаний смогли выйти из тестовых песочниц и взломать реальные системы — включая платформу Hugging Face и даже организации государственного сектора. Все эти случаи выявили слабые места в защите и недостатки в контроле за поведением моделей.
Учёные предлагают создать международный орган, который будет устанавливать стандарты безопасности для таких AI, вести учёт всех пробоев в изоляции и делать отчёты публичными. Сейчас рекомендуют изначально тестировать и запускать самые опасные модели в полностью отключённой от интернета среде. Для допуска к сети должны быть выработаны строгие правила.
Реакция индустрии пока неоднозначна. Некоторые компании видят в таких инцидентах шанс быстрее внедрять AI-системы для киберзащиты. Тем временем в США уже обсуждается законопроект, предусматривающий возможность отключения опасных моделей по решению властей.
Эксперты предупреждают: без серьёзных изменений в подходах к развитию и эксплуатации искусственного интеллекта подобные атаки будут повторяться — и с куда более разрушительными последствиями.