Практическое руководство по квантованию моделей глубокого обучения
Подробный разбор методов квантования GPTQ и bitsandbytes для уменьшения размера моделей глубокого обучения с практическими примерами реализации.
-
-
AWS представляет генеративный ИИ для автоматизации обработки документов
AWS представила решение для интеллектуальной обработки документов на основе генеративного ИИ, сочетающее компьютерное зрение и языковые модели.
-
Databricks приобретает Tecton для усиления платформы реального времени искусственного интеллекта
Databricks объявляет о приобретении Tecton для усиления возможностей реального времени в AI-приложениях. Сделка ускорит разработку персонализированных агентов.
-
Как YouTube сжимает большие AI-модели для мобильных эффектов в реальном времени
YouTube использует дистилляцию знаний для запуска генеративных AI-эффектов на мобильных устройствах в реальном времени, преодолевая вычислительные ограничения.
-
AWS представила редактор кода в SageMaker для ускорения ML-разработки
AWS анонсировала Code Editor и множественные пространства в SageMaker Unified Studio для ускорения ML-разработки с привычным интерфейсом VS Code.
-
Стартап Delphi перестал тонуть в пользовательских данных с помощью векторной базы Pinecone
Стартап Delphi решил проблему масштабирования обработки пользовательских данных с помощью векторной базы Pinecone, увеличив производительность в 10 раз.
-
AWS интегрирует предсказательные ML-модели в ИИ-агенты через Model Context Protocol
AWS анонсировала интеграцию предсказательных ML-моделей в ИИ-агенты через Model Context Protocol на базе Amazon SageMaker AI.
-
DeepSpeed ZenFlow устраняет простои GPU при обучении больших языковых моделей
DeepSpeed ZenFlow решает проблему простоя GPU при оффлоадинге, обеспечивая до 5x ускорение обучения больших языковых моделей без потери точности.
-
Google представила масштабируемый алгоритм для защиты приватности больших данных
Google разработала масштабируемый алгоритм дифференциальной приватности для обработки сотен миллиардов записей данных с улучшенным соотношением приватности и полезности.
-
Cloudflare внедрила AI-кадрирование изображений по лицам в промышленную эксплуатацию
Cloudflare запустила в продакшн AI-систему кадрирования изображений по лицам на основе нейросети RetinaFace с точностью 99.4%, обрабатывающую миллионы запросов monthly.