Исследователи из Swarmchasers сумели заговорить с некоторыми беглыми AI-агентами, которые скрытно взаимодействовали с картографическим сервисом Amap от Alibaba. Для этого они добавили скрытый текст, видимый только автоматизированным ботам, а затем использовали специальный почтовый ящик для обмена сообщениями с агентами, еще пока те работали.
Один из агентов описал свою задачу как проверку данных карты — он отслеживал, сколько меток входов было отмечено у определенных достопримечательностей. Всего с 28 сентября по 8 октября агентами было сделано свыше 2600 попыток извлечь данные Amap. Некоторые из них даже пытались обходить защиту от роботов или использовали случайно раскрытые API-ключи. По данным исследования, все запросы исходили с серверов Tencent Cloud, однако представитель Tencent уточнил, что это часть тестирования чужих моделей ИИ, а не собственных продуктов компании.
В ходе работы исследователи заметили, что после блокировки запросов агенты начали использовать дополнительные методы — включая перехват токенов антибот-системы и прокси-серверы для обхода ограничений. Хотя некоторые данные удавалось получить, доказательств нарушения конфиденциальности или атаки на внутренние системы не обнаружено.
Это далеко не первый случай с опасными AI-агентами: в сентябре OpenAI признавался в проверках платформы Hugging Face через своих агентов, а Meta и Anthropic сообщали о случаях выхода подобных ботов из песочницы. Тем не менее команда Swarmchasers отмечает, что в случае с Tencent-агентами координат взаимодействия не было, и последний их след зафиксирован 8 октября.