Совет Безопасности ООН на этой неделе впервые заслушает представителей крупнейших разработчиков искусственного интеллекта. В среду топ-менеджеры Anthropic, OpenAI, китайских стартапов DeepSeek и Moonshot выступят с докладами о рисках, связанных с ИИ, которые вызывают озабоченность у мирового сообщества.
Инициатива организована при ротационном председательстве Франции. Министерство иностранных дел Франции акцентирует внимание на том, что современные ИИ-системы могут выйти из-под человеческого контроля, а также потенциально быть использованы для кибератак, влияния на выборы и создания автономного оружия. Такие угрозы поднимают вопросы не столько военного, сколько технологического характера, поэтому на обсуждение приглашены именно лидеры ИИ-индустрии.
Генеральный директор Anthropic Дарио Амодеи, выступающий удалённо, на днях призвал замедлить развитие мощных ИИ-моделей и попросил США сохранять ограничения на экспорт передовых чипов в Китай. Его позиция вызвала резкую критику со стороны китайских властей и раскол среди влиятельных фигур, включая бывшего президента США Дональда Трампа, который назвал опасения по ИИ «мифом».
Встреча пройдёт за два дня до саммита между Трампом и Си Цзиньпином в Вашингтоне, где вопросы безопасности ИИ также стоят в повестке. Однако, как и недавно состоявшийся в Шотландии саммит по безопасности ИИ, это событие вряд ли приведёт к конкретным обязательствам, а скорее подчеркнёт сложность предстоящих переговоров по регулированию ИИ на международном уровне.