Как Nscale автоматизирует жизненный цикл GPU-серверов для машинного обучения
Nscale раскрывает детали работы своей платформы Fleet Operations, которая автоматизирует развертывание, мониторинг и обслуживание тысяч GPU-серверов для индустрии ИИ.
Обзоры и новости программного обеспечения, фреймворков и инструментов разработки. Аппаратное обеспечение для обучения и инференса нейросетей.
Nscale раскрывает детали работы своей платформы Fleet Operations, которая автоматизирует развертывание, мониторинг и обслуживание тысяч GPU-серверов для индустрии ИИ.
Lambda представляет стратегию мультиоблачной инфраструктуры для ИИ, позволяющую избежать блокировки вендорами, дефицита GPU и высоких затрат на передачу данных.
Nvidia приобрела SchedMD, компанию-разработчика системы управления заданиями Slurm, что усиливает ее контроль над программным стеком для суперкомпьютеров и ИИ-инфраструктуры.
Анализ рыночной ситуации, где конкуренция в разработке языковых моделей скрывает почти полную монополию одного поставщика аппаратного обеспечения — Nvidia.
Китайский разработчик ИИ DeepSeek, по данным The Information, обучает свою новую модель на тысячах контрабандных чипов Nvidia Blackwell, обходя американские экспортные ограничения.
NVIDIA представляет три закона масштабирования ИИ, которые подтверждают исторический переход от CPU к GPU в суперкомпьютинге и машинном обучении.
Исследователи MIT представили метод интеграции логики и памяти в одном стеке на чипе с использованием новых материалов, что обещает резко снизить энергопотребление электроники.
Кластер из 8192 GPU NVIDIA H100 установил рекорд Graph500, обработав 35 трлн ребер графа. Прорыв обеспечила технология активных сообщений между GPU, исключившая CPU из цепочки.
Стартап Cognition, создатель ИИ-агента Devin, переходит на системы Cerebras CS-2 для обучения своих моделей, отмечая многократный прирост скорости и упрощение архитектуры по сравнению с кластерами на GPU.
Стартап Quilter с помощью ИИ спроектировал компьютер из 843 компонентов за неделю вместо трех месяцев. Система успешно запустила Linux с первой попытки, что открывает путь к автоматизации рутинной инженерной работы.