LLM могут быть поражены через непрямые инъекции промптов даже при локальном запуске
Исследователи обнаружили, что локальные ИИ-модели так же уязвимы к непрямым инъекциям промптов, как и облачные, из-за архитектурных особенностей LLM.
-
-
Выход Claude Fable 5 может означать конец эпохи дешевого ИИ
Новая модель Claude Fable 5 демонстрирует выдающиеся результаты в кодинге, но шокирует стоимостью токенов и политикой хранения данных.
-
Anthropic представила пятое поколение Claude — модели Fable 5 и Mythos 5, но в урезанном виде
Anthropic представила пятое поколение моделей Claude. Fable 5 и Mythos 5 показывают рекордные результаты в программировании и науке, значительно опережая GPT 5.5.
-
Автор новой архитектуры Skynet предлагает вместо векторного поиска встроить память в процесс
Разработчик 0xcc.re представил Skynet, архитектуру, призванную излечить языковые модели от хронической амнезии. Проект переносит логику рассуждений ИИ на примитивы акторов Elixir, создавая долгоживущие сущности, способные сохранять состояние между вызовами.
-
Технология RAG может быть полезнее огромного контекстного окна в задачах на точность
Алекс Боукат из Sphere объясняет, почему Retrieval Augmented Generation остается ключевым инструментом для обеспечения точности и проверяемости ИИ-решений.
-
Intel может стать резервной площадкой для Google и Nvidia, пока у TSMC дефицит мощностей
Google и Nvidia изучают возможность переноса части заказов на производство ИИ-чипов на заводы Intel из-за нехватки мощностей у TSMC.
-
Ученые пытаются понять, почему ChatGPT работает с романскими языками хуже, чем с английским
Исследование причин, по которым популярные языковые модели, включая ChatGPT, испытывают трудности с грамматикой и контекстом романских языков.
-
Apple представила Siri AI с новой архитектурой и глубокой интеграцией Apple Intelligence
Apple представила полностью переосмысленную Siri AI, работающую на базе Apple Intelligence с акцентом на понимание личного контекста и приватность данных.
-
Исследование показало, что крупные LLM часто «мыслят» похоже и дают одинаковые ответы
Исследование показывает, что продвинутые языковые модели демонстрируют общие паттерны взаимодействия при предсказании токенов, что открывает путь к универсальному аудиту ИИ.
-
ИИ-судьи не могут быть беспристрастными, потому что часто игнорируют новый контекст
Новое исследование показывает, что LLM-судьи часто игнорируют контекст, если он противоречит их внутренним установкам, что ставит под угрозу точность оценки безопасности ИИ.
