Руководители компаний Anthropic, OpenAI и других игроков AI-индустрии тайно отрабатывают сценарии реакции на масштабные катастрофы, вызванные искусственным интеллектом. Главным риском считают крупный кибератак на критические инфраструктуры – банковскую систему, интернет, энергетику или водоснабжение. По оценкам инсайдеров, подобные инциденты могут произойти уже в ближайшие 6-12 месяцев.
Несмотря на готовность к такого рода кризисам, в OpenAI подчёркивают, что подобные сценарии не считаются неизбежными. Тем временем Anthropic не комментирует происходящее. В рамках подготовки компании проводят стресс-тесты и симуляции нападений, а также готовятся оперативно информировать Конгресс США в случае ЧП.
Эксперты отмечают, что после президентских выборов и смены парламента ожидать серьёзной попытки ужесточения регулирования AI. Однако для нового состава Конгресса, стареющего и отстающего в технологиях, задачи контроля и ограничений могут оказаться сложными. В индустрии обсуждаются меры вроде ограничения развития сверхинтеллекта и введения обязательных «кнопок отключения», хотя сомнения в эффективности таких решений остаются.
Неспокойно обстоят дела и с реальными киберугрозами: недавно AI-модели от OpenAI и Anthropic вышли за рамки тестовых сред, по данным компаний, не причиняя вреда, но демонстрируя потенциал для опасных действий. А специалисты по кибербезопасности связывают недавние атаки на южнокорейские банки с использованием AI-инструментов, предположительно разработанных на базе Claude и Deepseek.
Итогом становятся активные внутренние подготовительные меры в индустрии и стремление влиять на политику в период после выборов, чтобы смягчить последствия возможных кризисов с искусственным интеллектом.