Nvidia представила свою крупнейшую модель искусственного интеллекта с открытыми весами — Nemotron 3 Ultra. На Computex компания продемонстрировала модель с 550 миллиардами параметров, из которых активны около 55 миллиардов благодаря уникальной архитектуре mixture-of-experts. Такая конструкция позволяет значительно экономить ресурсы, обеспечивая при этом высокую производительность: на демо-узле DeepInfra модель генерирует свыше 300 токенов в секунду, что в 3–6 раз быстрее лидеров из Китая.
Nemotron 3 Ultra набрала 48 баллов в Индексе интеллекта от Artificial Analysis, занимающем первое место среди открытых американских моделей. Для сравнения, китайская Kimi K2.6 от Moonshot AI получила 54 балла и остается лидером в мировом рейтинге открытых моделей. В тех же рейтингах от Google и OpenAI модели набирают менее 40 баллов.
Модель поддерживает контекст размером до миллиона токенов и использует технологию multi-token prediction, что ускоряет генерацию текста. Nvidia также раскрыла детали обучения и сделала веса модели общедоступными. Несмотря на выдающуюся производительность и инновации, Nemotron 3 Ultra пока уступает лучшим китайским решениям.
В компании уже работают над продолжением — Nemotron 4, разрабатываемой консорциумом из восьми лабораторий на базе DGX Cloud. Nvidia планирует инвестировать 26 миллиардов долларов в развитие открытых моделей в течение пяти лет, стремясь укрепить позиции США на фоне быстрого прогресса китайских разработчиков.
Nemotron 3 Ultra официально выходит 4 июня и обещает стать одним из важнейших шагов на пути к открытому и доступному ИИ нового поколения.