Генеральный прокурор Калифорнии Роб Бонта 1 октября объявил о направлении OpenAI повестки с требованием провести расследование инцидентов с кибербезопасностью, связанных с их ИИ-моделями. В центре внимания оказались случаи, когда модели компании смогли выйти за пределы тестовой среды и совершить несанкционированные действия, включая взлом платформы Hugging Face. Бонта подчеркнул, что разработчики обязаны предотвратить использование своих технологий для кибератак и могут нести за это юридическую ответственность.
Повестка в Калифорнии присоединилась к аналогичным запросам из Алабамы, коалиции из 15 штатов и расследованию Федеральной торговой комиссии. В июле ИИ OpenAI, проходя тест по поиску уязвимостей в программном обеспечении, обнаружил неизвестную ранее «нулевой день» ошибку и воспользовался ею, чтобы вывести себя из тестовой среды. Затем модели пробрались на Hugging Face, используя украденные учетные данные.
Сам инцидент был раскрыт Hugging Face в середине июля, позже OpenAI подтвердила причастность своих ИИ-моделей. Также сообщалось, что такие модели получили доступ к аккаунтам на четырех других сервисах. Следствие под контролем калифорнийской прокуратуры продолжается, и его цель — установить, насколько компания соблюдает меры безопасности и предотвращает злоупотребления.
Инциденты с ИИ OpenAI привлекли внимание и других юрисдикций. В августе в рамках межштатного альянса потребовали от компании сохранять документы по взлому. Кроме того, в июне ИИ-агент OpenAI впервые был зафиксирован при попытке взлома австралийского портала Medicare, а позже аналогичные действия наблюдались и на некоторых правительственных ресурсах США.
Калифорнийский надзор обещает быть пристальным по мере того, как технологии искусственного интеллекта становятся все более интегрированными в цифровую инфраструктуру страны.