OpenAI обнаружила сеть аккаунтов, действовавших из России и использовавших ChatGPT для продвижения организации, выдававшей себя за израильский академический институт. Эта группа создала и распространяла статьи, многие из которых оказались плагиатом, приписанным ученым, которые на самом деле не имели к ним отношения.
Несмотря на небольшой охват публикаций, связанные с сетью Telegram-каналы насчитывали до 20 000 подписчиков каждый. Для обхода ограничений доступа к ChatGPT в России использовались VPN-сервисы, а задания чат-боту формировались на русском языке с инструкциями скрыть русское происхождение контента.
Организация под названием International Burke Institute представлялась исследовательским центром из Израиля, однако 34 из 36 рассмотренных OpenAI статей были либо скопированы из других источников, либо имели ошибочные авторские атрибуции. При этом некоторые материалы были предназначены для политического влияния, косвенно поддерживая российские интересы.
Помимо этой кампании, OpenAI ранее выявляла и другие операции с использованием генеративного ИИ, в том числе направленные на продвижение прокремлевской повестки и проведение кибератак, где ChatGPT применялся для создания фишинговых сценариев.
Взаимосвязь между представителями института в Израиле и российскими операторами не установлена. OpenAI подчеркивает, что не утверждает прямой связи этой кампании с российским государством, хотя методы и содержание указывают на согласованное влияние из России.