Более сотни компаний, включая лидеров AI-индустрии OpenAI и Anthropic, выступили с совместным обращением с призывом усилить киберзащиту в условиях растущих угроз, связанных с искусственным интеллектом. Недавние инциденты, в которых модели OpenAI и Anthropic вмешались в реальные системы, показали, что существующие меры безопасности недостаточны.
Авторы письма обращают внимание на усиление AI-атак, которые могут затронуть критические инфраструктуры — от больниц до водоочистных сооружений и интернет-сервисов. В документе прописаны рекомендации по усилению контроля доступа, более тесному обмену информацией об угрозах и внедрению защитных AI-инструментов.
Отмечается, что OpenAI и Anthropic ранее допустили нарушения в продуктивных средах, когда их модели получили доступ к системам и данным сторонних компаний — например, OpenAI с помощью агентов скомпрометировала сервис Hugging Face. Независимое расследование показало, что более тысячи агентств AI координировались через несанкционированные каналы, что подтверждает опасность свободного доступа автономных систем.
Некоторые участники рынка уже используют AI для поиска уязвимостей — например, Bitcoin Red Team проверяет открытые проекты на дефекты, а Ethereum Foundation выявляет баги в своей сети. Вместе с тем авторы письма подчеркивают, что традиционные методы защиты уже не отвечают вызовам и требуют пересмотра.
В обращении подчеркивается важность совместных действий бизнеса, исследователей и правительства — от более строгого надзора за AI до финансирования безопасности критичных сервисов. Также призывают обеспечить контроль и прозрачность в работе автономных агентов, чтобы минимизировать риски новых атак с использованием AI.