Google DeepMind внедряет режим «нулевого доверия» для контроля за ИИ-агентами
Google Deepmind разработала стратегию AI Control Roadmap, которая предполагает жесткий мониторинг ИИ-агентов как потенциальных внутренних угроз.
-
-
Новый фреймворк SearchGEO оценил, насколько легко манипулировать поисковыми ИИ-агентами
Исследование SearchGEO показало, что поисковые ИИ-агенты уязвимы к манипуляциям. Уровень успешных атак варьируется от 0% у Claude до 31,4% у Gemini.
-
Elastic представила инструмент CI/CD Abuse Detector для защиты процессов разработки
Компания Elastic представила прототип CI/CD Abuse Detector, использующий Claude Code для автоматического поиска вредоносных изменений в процессах сборки.
-
Модель Mythos доказала, что ИИ способен взламывать патчи безопасности за считанные часы
Команда Anthropic доказала, что современные ИИ-модели способны проводить реверс-инжиниринг патчей безопасности и создавать рабочие эксплойты в течение одного дня.
-
LLM могут быть поражены через непрямые инъекции промптов даже при локальном запуске
Исследователи обнаружили, что локальные ИИ-модели так же уязвимы к непрямым инъекциям промптов, как и облачные, из-за архитектурных особенностей LLM.
-
ChatGPT вводит режим Lockdown Mode, изолирующий нейросеть от внешнего мира
OpenAI представила Lockdown Mode для ChatGPT — новый инструмент безопасности, ограничивающий доступ к интернету для защиты данных от сложных атак.
-
Автономного ИИ-агента обучили полному циклу взлома сайтов на Salesforce Experience Cloud
Автономный ИИ-агент научился проводить полный цикл кибератаки на сайты Salesforce Experience Cloud, используя LLM для написания эксплойтов и анализа данных.
-
Исследователи создали самовоспроизводящегося ИИ-червя на базе локальных LLM
Ученые из Университета Торонто создали прототип вредоносного ПО, которое использует локальные ИИ-модели для поиска уязвимостей и самораспространения.
-
Уязвимость в ИИ-чатботе поддержки Meta* позволила хакерам захватить аккаунты Instagram
Злоумышленники захватили высокопрофильные аккаунты Instagram, убедив чат-бота Meta* AI изменить электронную почту и обойти двухфакторную аутентификацию.
-
Исследование показало, что LLM доверяют ложным документам даже вопреки предупреждениям
Новое исследование выявило феномен «небрежности к отрицанию» в языковых моделях, из-за которого ИИ игнорирует предупреждения о недостоверности обучающих данных.
