Запуск моделей Hugging Face в JAX после удаления нативной поддержки
Решение для запуска моделей Hugging Face в JAX после удаления нативной поддержки: использование torchax для преобразования PyTorch-моделей, работа с JIT-компиляцией и Pytree.
-
-
Salesforce оптимизирует затраты на LLM с помощью компонентов инференса AWS SageMaker
Salesforce снизила затраты на инференс LLM в 8 раз благодаря компонентам SageMaker, решающим проблему неэффективного использования GPU при работе с моделями разного размера и нагрузки.
-
Google представил метод генерации приватных данных без дорогих больших моделей
Google представил CTCL — метод генерации дифференциально приватных синтетических данных без тонкой настройки миллиардных LLM. Лёгкая 140M модель создаёт данные по тематическим паттернам, снижая затраты и риски.
-
Anthropic оценивает американский план развития ИИ
Компания Anthropic поддержала инфраструктурные инициативы американского плана развития ИИ, но раскритиковала ослабление экспортного контроля и недостаток требований к прозрачности разработки ИИ.
-
Anthropic представил индекс экономического влияния ИИ на основе данных Claude
Anthropic представил индекс экономического влияния ИИ на основе анализа миллионов диалогов с Claude. Исследование выявило преобладание усиления над автоматизацией и неравномерное внедрение по отраслям.
-
Hubble зафиксировал рекордную межзвездную комету, летящую к Солнцу со скоростью 58 км/с
Hubble зафиксировал межзвёздную комету 3I/ATLAS, летящую к Солнцу со скоростью 58 км/с — рекорд для солнечной системы. Объект размером до 5,6 км стал третьим подтверждённым «гостем» из другой звёздной системы.
-
Опасности вайбкодинга: как генеративный ИИ создаёт уязвимости в коде
Исследование Databricks: casual-генерация кода ИИ («вейб-кодинг») создаёт критические уязвимости (RCE, переполнение буфера). Решение — security-промпты и self-reflection.
-
Китай требует от Alibaba и ByteDance оправдать закупки чипов Nvidia H20
Китайские регуляторы требуют от Alibaba и ByteDance обосновать закупки чипов Nvidia H20, ускоряя импортозамещение на фоне технологической войны США и КНР.
-
Маск грозит Apple судом из-за рейтинга Grok в App Store
Илон Маск угрожает Apple судом за якобы искусственное занижение позиций Grok в App Store в пользу ChatGPT. Анализ скрытых мотивов конфликта и его связи с судебной войной против OpenAI.
-
Почему бессмысленно спрашивать у чат-бота о его ошибках
Исследование показывает: запросы к ИИ об их ошибках приводят к ложным ответам. Почему чат-боты не способны к интроспекции и как это влияет на их применение в разработке.
