Пользователь Reddit смог ускорить генерацию на RTX 3090 в 4,6 раза, оптимизировав инференс
Энтузиаст смог разогнать генерацию текста на видеокарте RTX 3090 почти в пять раз, используя новые методы оптимизации инференса и спекулятивное декодирование.
Qwen — семейство LLM и мультимодальных моделей Alibaba Cloud. Подробная информация: цены, документация, бенчмарки и новости.
Энтузиаст смог разогнать генерацию текста на видеокарте RTX 3090 почти в пять раз, используя новые методы оптимизации инференса и спекулятивное декодирование.
Метод Multi-Agent Self-Supervision позволяет одной модели улучшать себя, распределяя задачи между своими копиями, но несет риски закрепления ошибок.
Alibaba Group представила новый ИИ-процессор Zhenwu V900 и объявила о разработке моделей Qwen мощностью до 10 триллионов параметров, стремясь к технологической независимости.
Команда Alibaba выпустила открытую модель Qwen-Image-2.1 для генерации и редактирования изображений, способную работать на картах уровня RTX 3090.
Alibaba представила Qwen3.8-Flash-Next — экономичную нейросеть с архитектурой MoE, которая обходит конкурентов в задачах программирования при минимальных затратах.
Новая языковая модель Qwen3.8 27B бросает вызов GPT-5.6, демонстрируя высокую производительность в сложных задачах при возможности запуска на видеокартах RTX 3090.
Китайский гигант Alibaba представил свою мощнейшую модель Qwen3.8-Max, которая превосходит конкурентов в тестах на разработку интерфейсов и поддерживает огромные объемы данных.
Китай планирует ограничить экспорт передовых ИИ-моделей, что создает серьезные риски для европейского бизнеса, зависящего от внешних технологий.
Модель Qwen3.7-Max продемонстрировала возможности автономного агента, самостоятельно оптимизировав код для ускорителей Alibaba и показав высокие результаты в бенчмарках планирования.
Стартап Unsloth представил кастомные ядра CUDA, которые позволяют дообучать крупные языковые модели вроде Qwen3.6-27B на обычных игровых видеокартах с 24 ГБ памяти.