PyTorch выпустила torchcomms — API для распределенных вычислений на сотни тысяч GPU
PyTorch представил torchcomms — новый API для распределенных вычислений, способный масштабироваться на сотни тысяч GPU. Включает бэкенд NCCLX, уже используемый Meta для обучения Llama3 и Llama4.
