Гетерогенные особенности внимания в RoPE-моделях с длинным контекстом
Открытие гетерогенных особенностей в механизме внимания RoPE-моделей: разные измерения отвечают за различные аспекты обработки длинного контекста.
Обзоры новых релизов, сравнения моделей, анализ возможностей и ограничений современных LLM. Следите за развитием технологий искусственного интеллекта в области обработки естественного языка.
Открытие гетерогенных особенностей в механизме внимания RoPE-моделей: разные измерения отвечают за различные аспекты обработки длинного контекста.
Microsoft Research представила метод GAD для эффективного сжатия больших языковых моделей, позволяющий малым моделям достигать качества GPT-5 без доступа к внутренним параметрам.
Новый бенчмарк AA-Omniscience оценивает способность языковых моделей отличать факты от вымысла. Модели Anthropic показали самые низкие показатели галлюцинаций.
Исследование показало, что более 56% ссылок, генерируемых ChatGPT для научных работ, либо полностью выдуманы, либо содержат серьезные ошибки, что ставит под угрозу достоверность исследований.
Стартапы создают компактные ИИ-модели с меньшим числом параметров, которые превосходят гигантов в специализированных задачах при значительно меньших затратах.
Исследователи предлагают анализировать все слои нейросети для борьбы с галлюцинациями в языковых моделях, что может повысить достоверность ответов ИИ.
Исследователь создал автоматический маршрутизатор для гибридных языковых моделей, который определяет, когда нужно использовать режим мышления, а когда можно обойтись быстрым ответом.
Amazon представила Nova Sonic — модель ИИ для создания полноценных голосовых интерфейсов в веб-приложениях с поддержкой сложных диалогов и рабочих процессов.
Новый бенчмарк PRBench показывает, что ИИ проваливается в реальных профессиональных задачах финансов и юриспруденции, несмотря на высокие академические показатели.
Новая модель GPT-5.1 от OpenAI научилась соблюдать пользовательские инструкции по форматированию текста, включая запрет на использование длинных тире.