Apple ввела ограничение на количество открытых отчётов об уязвимостях от одного исследователя после наплыва багов, созданных с помощью искусственного интеллекта. Итальянский стартап Bynario за три недели выявил более 50 багов в macOS, среди которых был эксплойт, позволяющий злоумышленнику полностью контролировать устройство. Однако Apple отказалась принимать новые отчёты от компании, поскольку уже достигнут лимит.
Генеральный директор Bynario оценил такую уязвимость на чёрном рынке в $100-200 тысяч. В июне Apple ввела 30-дневный перерыв для новых подач и установила квоту, чтобы облегчить обработку поданных отчетов. При этом компания сама применяет ИИ для первичной фильтрации багов, что позволило выпустить недавние обновления с пятикратным увеличением количества исправленных ошибок.
Проблема массовых фейковых отчетов на базе ИИ отягчает работу платформ безопасности, а некоторые компании даже временно приостанавливали программы вознаграждений, чтобы отсеивать низкокачественные заявки. В то же время ИИ активно помогает находить реальные уязвимости: так, Anthropic и OpenAI уже привели к обнаружению сотен багов.
В криптосфере ИИ тоже сыграл свою роль. Например, уязвимость в прошивке аппаратных кошельков Coinkite, оставшаяся незамеченной пять лет и позволившая украсть свыше $100 млн, могла быть выявлена с поддержкой ИИ. Последние события иллюстрируют, как мощные алгоритмы меняют подходы к безопасности и ставят перед компаниями новые вызовы по работе с потоком данных.