Обзоры и новости программного обеспечения, фреймворков и инструментов разработки. Аппаратное обеспечение для обучения и инференса нейросетей.
AMD выпускает плагин vLLM-ATOM, который значительно ускоряет работу моделей DeepSeek-R1 и Kimi-K2 на ускорителях Instinct MI350 и MI400 через глубокую оптимизацию ядер.
Энтузиасты адаптировали серверную NVIDIA Tesla V100 для домашнего ПК, достигнув скорости в 130 токенов в секунду, что выше показателей современных RTX 3060.
Anthropic арендовала мощности дата-центра xAI Colossus-1, получив доступ к 220 000 GPU NVIDIA для расширения возможностей нейросети Claude.
OpenAI вместе с лидерами ИТ-индустрии представила протокол MRC, который позволяет объединять более 100 000 GPU и мгновенно восстанавливать связь при сбоях.
Оксфордский стартап Lumai представил семейство оптических серверов Iris, которые используют свет для ускорения работы больших языковых моделей с экономией энергии до 90%.
Intel выпустила обновление драйверов, позволяющее выделять до 93% оперативной памяти для встроенной графики Arc, что упрощает работу с большими языковыми моделями.
Стартап Unsloth представил кастомные ядра CUDA, которые позволяют дообучать крупные языковые модели вроде Qwen3.6-27B на обычных игровых видеокартах с 24 ГБ памяти.
Google представила восьмое поколение процессоров TPU, разделенных на версии для обучения и инференса, а также новую платформу для управления ИИ-агентами.
Перенос релиза Mac Studio M5 Ultra на конец 2026 года и дефицит моделей с большой памятью вынуждают ИИ-разработчиков переходить на облачные решения или железо от NVIDIA.
Разработчики из USC создали уникальное устройство памяти, способное работать при температуре 700°C, что открывает новые возможности для ИИ в экстремальных условиях.