Обучению языковых моделей мешает некачественное распознавание текстов старыми OCR
Проект FineBooks протестировал 14 OCR-моделей на исторических книгах, выявив лучшие инструменты для подготовки чистых данных для обучения языковых моделей.
-
-
NVIDIA может обучать LLM без пауз при помощи NTP — неравномерного тензорного параллелизма
NVIDIA представила технологию NTP, позволяющую динамически менять степень тензорного параллелизма для предотвращения простоев при обучении больших языковых моделей.
-
Meta* ограничивает использование Claude Code и Codex ради защиты своих данных
Компания Meta* ввела строгие ограничения на использование инструментов Claude Code от Anthropic и Codex от OpenAI своими инженерами. Это сделано для предотвращения попадания результатов работы чужих алгоритмов в собственные обучающие выборки и защиты интеллектуальной собственности.
-
Google представила OpenRL — API для тонкой настройки моделей внутри Kubernetes
Google представила OpenRL, open-source решение для дообучения языковых моделей на Kubernetes, которое разделяет управление инфраструктурой и исследовательскую работу.
-
Ученые предложили обучать ИИ на данных, размеченных другим ИИ на основе небольшого датасета
Исследователи представили метод обучения LLM рассуждениям с минимальной разметкой, используя специальный верификатор и энтропийную фильтрацию данных.
-
Mode Inc скупает приложения, чтобы получить доступ к данным пользователей для обучения ИИ
Стартап Mode Inc активно скупает потребительские приложения, чтобы предоставить пользователям возможность зарабатывать на своих данных, которые затем используются для обучения ИИ-моделей.
-
Китайские ученые представили модель Count Anything, которая умеет только считать объекты
Новая модель Count Anything от исследователей Университета Цинхуа решает сложную задачу универсального подсчета объектов на изображениях разных типов с помощью текстовых подсказок.
-
Исследователи предложили способ обучать LLM суммаризации процессов мышления через RLVR
Исследователи представили ReSum — метод обучения LLM самостоятельному сжатию своих мыслей для повышения точности и сокращения затрат на токены.
-
Разработчики из Sapient смогли обучить базовую ИИ-модель всего за $1500
Исследователи из Sapient представили архитектуру HRM-Text, позволившую обучить базовую модель с 1 млрд параметров всего за 1500 долларов, бросив вызов доминированию тяжелых трансформеров.
-
Исследование показало, что крупные LLM часто «мыслят» похоже и дают одинаковые ответы
Исследование показывает, что продвинутые языковые модели демонстрируют общие паттерны взаимодействия при предсказании токенов, что открывает путь к универсальному аудиту ИИ.
