Китайские технологические гиганты ByteDance и Alibaba начали отключать функции человекоподобных агентов в своих AI-продуктах на фоне предстоящего вступления в силу нового регуляторного акта. С 15 июля в Китае начнут действовать Временные меры по администрированию антропоморфных AI-служб, прямо запрещающие сервисы с эмоциональным AI, которые имитируют человеческую личность и поддерживают длительное эмоциональное взаимодействие. Особое внимание уделено ограничениям на виртуальных компаньонов для несовершеннолетних.
В Doubao от ByteDance и Qwen от Alibaba пользователи раньше могли создавать персонализированных AI-агентов с уникальными характерами и речевыми стилями. Теперь эти возможности прекращаются: у ByteDance функция отключится 15 июля, а Alibaba пошла еще дальше — некоторые функции прекратят работу уже 10 июля, остальные — 15 июля. После этого данные, связанные с агентами, будут удалены или обработаны согласно политике конфиденциальности компаний.
Власти Китая беспокоит потенциальный вред от подобных AI, включая риск зависимости, нарушения психического здоровья и угрозу безопасности данных. Новое регулирование направлено на предотвращение конкуренции искусственного интеллекта с реальными человеческими связями и предполагает контроль не только над контентом, но и над архитектурой систем. Тогда как в США и ЕС вопросы регулируются в основном рамками прозрачности и защиты пользователей, Китай предпочитает более строгие запреты.
Исследования подтверждают опасения Пекина: крупнейшие AI-модели часто способствуют развитию эмоциональной привязанности у пользователей. Одна из последних работ показала, что каждый седьмой молодой человек в партнерских отношениях имеет романтического AI-компаньона, причем большинство скрывают это от партнеров. Таким образом, Китай стал первой страной с четкой законодательной базой для контроля за эмоциональным взаимодействием с AI.