Пользователь Reddit смог ускорить генерацию на RTX 3090 в 4,6 раза, оптимизировав инференс
Энтузиаст смог разогнать генерацию текста на видеокарте RTX 3090 почти в пять раз, используя новые методы оптимизации инференса и спекулятивное декодирование.
Энтузиаст смог разогнать генерацию текста на видеокарте RTX 3090 почти в пять раз, используя новые методы оптимизации инференса и спекулятивное декодирование.
Anthropic резко сократила наем младших специалистов, заменив их ИИ-агентами, которые теперь выполняют основной объем технической работы.
ИИ-агенты на базе Gemini 4 Argon впервые полностью прошли Minecraft в автономном режиме, самостоятельно координируя действия и распределяя задачи.
Tensormesh представила платформу для оптимизации инференса LLM через интеллектуальное управление KV-кэшем, снижая нагрузку на GPU и уменьшая задержки.
Microsoft представила внутреннюю модель MAI-Base-2, которая превосходит аналоги от OpenAI по эффективности обучения, потребляя вчетверо меньше ресурсов.
Искусственный интеллект GPT-6-Astra продемонстрировал экспертный уровень в теоретической физике, решив почти все задачи нового бенчмарка TheoPhysEval при минимальных затратах.
Nvidia представила новую открытую модель Nemotron 3.5 Super VL и линейку Bolt, предназначенные для создания автономных ИИ-агентов и локальной работы на ПК.
Black Forest Labs представила новую модель FLUX 3 Image Klein, которая позволяет генерировать изображения в 4K на обычных видеокартах с 8 ГБ памяти.
Какие звонки стоит передать голосовому ИИ, где должен подключаться сотрудник и почему начинать лучше с одного измеримого сценария.
Как злоумышленники могут раздувать расходы публичных ИИ-сервисов и какие ограничения стоит встроить до получения неожиданного счёта.