Математика MoE-моделей раскрыта: что на самом деле означает 8x7B
Подробный разбор математики MoE-моделей: от расчета памяти до вычислительной сложности. Почему 8x7B на самом деле означает 13B активных параметров.
-
-
Джек Кларк из Anthropic сравнил прорывы в ИИ с самосознанием молотков
Сооснователь Anthropic сравнил развитие ИИ с самосознанием молотков, подчеркивая непредсказуемость эмерджентных способностей и необходимость серьезного отношения к технологии.
-
Hugging Face выпускает эффективные модели Ring с гибридной линейной архитектурой
Hugging Face выпустила две эффективные модели с гибридной линейной архитектурой, сокращающие затраты на инференс в 10 раз по сравнению с плотными моделями.
-
Как расшифровываетс аббревиатура GPT в ChatGPT и что это значит
Разбираем, что означает каждая буква в аббревиатуре GPT и почему эта технология стала основой современных языковых моделей ИИ.
-
Китайские исследователи научили LLM обмениваться смыслами через внутреннюю память
Новый метод C2C позволяет языковым моделям обмениваться внутренней памятью вместо текста, повышая скорость взаимодействия в 2 раза и точность на 8-10%.
-
Together AI представила самообучающуюся систему для ускорения языковых моделей
Together AI представила ATLAS — первую самообучающуюся систему спекулятивного декодирования, которая автоматически улучшает производительность LLM во время работы.
-
Gemini обгоняет ChatGPT по трафику и по экономической эффективности эксплуатации
Google Gemini преодолел 1 млрд посещений в месяц, обгоняя ChatGPT по темпам роста. Битва ИИ перешла в фазу экономического противостояния бизнес-моделей.
-
Hugging Face выпустила Mem-Agent — агента с долговременной памятью
Hugging Face выпустила Mem-Agent — инструмент для создания ИИ-агентов с долговременной памятью, способных сохранять контекст между сессиями.
-
Google представляет Gemini Enterprise — платформу для корпоративного ИИ
Google запускает Gemini Enterprise — комплексную платформу ИИ для бизнеса, объединяющую модели Gemini, готовых агентов и инструменты управления для трансформации рабочих процессов.
-
Reflection AI привлекает 2 млрд долларов для создания открытой лаборатории ИИ в США
Стартап Reflection AI привлек 2 млрд долларов для создания открытой лаборатории ИИ, конкурирующей с китайскими разработками. Компания планирует выпустить frontier language model в 2026 году.
