Together AI запускает Instant Clusters — самообслуживаемые GPU-кластеры для ML-разработчиков
Together AI запустила Instant Clusters — самообслуживаемые GPU-кластеры с поддержкой NVIDIA Hopper и Blackwell для быстрого развертывания ML-инфраструктуры.
Обзоры и новости программного обеспечения, фреймворков и инструментов разработки. Аппаратное обеспечение для обучения и инференса нейросетей.
Together AI запустила Instant Clusters — самообслуживаемые GPU-кластеры с поддержкой NVIDIA Hopper и Blackwell для быстрого развертывания ML-инфраструктуры.
NVIDIA представила эталонный дизайн для создания AI Factories — специализированных вычислительных центров для промышленного масштабирования искусственного интеллекта.
NVIDIA Blackwell Ultra устанавливает абсолютные рекорды в тестах MLPerf Inference, демонстрируя многократное превосходство в задачах логического вывода для ИИ.
Microsoft представила технологию MOSAIC на основе микро-светодиодов, которая решает фундаментальные проблемы сетевой инфраструктуры ИИ, сочетая преимущества медных и оптических кабелей.
Broadcom заключила крупнейшую сделку на $10 млрд с новым заказчиком ИИ-чипов, вероятно OpenAI, что вызвало рост акций на 15% и усилило позиции компании на рынке кастомных процессоров.
Китайский производитель ИИ-чипов Cambricon показал рекордную прибыль в 1 млрд юаней благодаря политике импортозамещения и санкционным ограничениям для Nvidia.
Cloudflare разработала платформу Omni для запуска большего количества AI-моделей на ограниченном числе GPU через интеллектуальное управление памятью и изоляцию процессов.
Модели Mixture-of-Experts обещают эффективность, но сталкиваются с аппаратными ограничениями. Анализ проблем масштабирования и альтернативных решений от Cerebras.
Baseten достиг 225% сокращения расходов для AI-инференса через комбинацию NVIDIA Blackwell на Google Cloud и оптимизированного программного стека.
Microsoft разработала аналоговый оптический компьютер, решающий сложные задачи в 100 раз быстрее с минимальным энергопотреблением. Технология успешно протестирована в банковской сфере и медицине.