LLM могут быть поражены через непрямые инъекции промптов даже при локальном запуске
Исследователи обнаружили, что локальные ИИ-модели так же уязвимы к непрямым инъекциям промптов, как и облачные, из-за архитектурных особенностей LLM.
-
-
ChatGPT вводит режим Lockdown Mode, изолирующий нейросеть от внешнего мира
OpenAI представила Lockdown Mode для ChatGPT — новый инструмент безопасности, ограничивающий доступ к интернету для защиты данных от сложных атак.
-
Автономного ИИ-агента обучили полному циклу взлома сайтов на Salesforce Experience Cloud
Автономный ИИ-агент научился проводить полный цикл кибератаки на сайты Salesforce Experience Cloud, используя LLM для написания эксплойтов и анализа данных.
-
Исследователи создали самовоспроизводящегося ИИ-червя на базе локальных LLM
Ученые из Университета Торонто создали прототип вредоносного ПО, которое использует локальные ИИ-модели для поиска уязвимостей и самораспространения.
-
Уязвимость в ИИ-чатботе поддержки Meta* позволила хакерам захватить аккаунты Instagram
Злоумышленники захватили высокопрофильные аккаунты Instagram, убедив чат-бота Meta* AI изменить электронную почту и обойти двухфакторную аутентификацию.
-
Исследование показало, что LLM доверяют ложным документам даже вопреки предупреждениям
Новое исследование выявило феномен «небрежности к отрицанию» в языковых моделях, из-за которого ИИ игнорирует предупреждения о недостоверности обучающих данных.
-
Новый бенчмарк DeepSWE раскрыл уязвимости моделей Claude и сделал лидером GPT-5.5
Стартап Datacurve представил DeepSWE — новый бенчмарк для ИИ-кодеров, который выявил превосходство GPT-5.5 и критические ошибки в старых методах оценки.
-
Устойчивость к взлому: DeepSeek проиграл GPT в вопросах безопасности
Исследователи сравнили устойчивость DeepSeek и моделей GPT к атакам типа джейлбрейк, выявив серьезные различия в их безопасности.
-
Google интегрирует CodeMender в экосистему агентов для автоматизации безопасности
Google переводит ИИ-агента CodeMender из разряда автономных инструментов в состав комплексной платформы Agent Platform для управления безопасностью приложений.
-
Эпоха Vulnpocalypse: новые модели ИИ находят в семь раз больше уязвимостей
Использование новых моделей ИИ от Anthropic и OpenAI позволило Palo Alto Networks обнаружить в семь раз больше уязвимостей в своих продуктах, чем обычно.
