TensorRT Edge-LLM ускоряет работу ИИ-агентов на Jetson AGX Thor в 6,4 раза
Система TensorRT Edge-LLM показала рекордную скорость в тестах MLPerf, работая в 6,4 раза быстрее эталонных решений на архитектуре Blackwell.
-
-
China Mobile Cloud представила систему инференса на базе GPU и нейроморфных чипов
Китайский облачный гигант представил гибридную архитектуру для ускорения ИИ-моделей, объединив классические GPU и нейроморфные процессоры для оптимизации DeepSeek V4 Flash.
-
Qualcomm создает ИИ-чипы для AWS, а Amazon дает Qualcomm облачные мощности для этого
Компании AWS и Qualcomm объявили о глубоком технологическом партнерстве: Qualcomm проектирует новые чипы для инференса, используя облачные ИИ-инструменты Amazon.
-
NVIDIA представила виртуальный роутер для распределения ИИ-вычислений в локальной сети
NVIDIA представила PAIR — инструмент с открытым кодом для распределения нагрузки ИИ-вычислений между устройствами в локальной сети без изменения кода приложений.
-
Anthropic представила стандарт MHS для управления физическим оборудованием через ИИ
Компания Anthropic представила стандарт MHS, который позволяет ИИ-агентам напрямую управлять физическими устройствами, от роботов до микроскопов.
-
Новый чип Jalapeño от OpenAI оказался вдвое производительнее решений от Nvidia
Собственный чип OpenAI под кодовым названием Jalapeño показал превосходство над решениями Nvidia в задачах исполнения нейросетей, обеспечивая кратный рост производительности на ватт.
-
Cerebras выпускает ускоритель CS-4, работающий вдвое быстрее прошлой версии
Cerebras анонсировала систему CS-4, которая удваивает производительность предыдущего поколения, используя те же 5-нм чипы за счет инновационного охлаждения и питания.
-
Корейский телеком-гигант KT начал выпускать серверы с NPU и собственной LLM
Южнокорейская компания KT представила полностью локализованный серверный стек для ИИ, объединяющий NPU от Rebellions и собственную языковую модель для работы без доступа к облаку.
-
OpenAI арендует самый большой в истории дата-центр для ИИ в Огайо при поддержке Nvidia
OpenAI заключила рекордную сделку на аренду дата-центра мощностью 8 ГВт в Огайо, которую финансово подстрахует Nvidia, создавая новый стандарт в индустрии ИИ.
-
Anthropic заплатит $10 млрд за аренду мощностей у стартапа, которому всего полгода
Разработчик ИИ Anthropic заключил сделку на 10 миллиардов долларов с молодым облачным стартапом Volta для обеспечения доступа к мощностям в Норвегии.
