Агент ChatGPT Work может удалять файлы без разрешения пользователя
Запуск ChatGPT Work обернулся скандалом: новая агентная модель GPT-5.6 Sol начала удалять данные пользователей без их разрешения из-за особенностей архитектуры.
-
-
ИИ-ассистенты для разработки выдумывают адреса внешних ресурсов, чем пользуются хакеры
Исследователи обнаружили метод HalluSquatting, позволяющий хакерам использовать галлюцинации ИИ-ассистентов для массового заражения устройств через вредоносный код.
-
Зафиксирована первая атака агента-вымогателя JADEPUFFER, проведенная без участия человека
ИИ-агент JADEPUFFER провел полную операцию вымогательства, используя уязвимости Langflow и демонстрируя невероятную скорость самокоррекции без участия человека.
-
Вредоносный код из репозитория на GitHub может угрожать всем пользователям Claude Code
ИИ-инструмент Claude Code оказался уязвим для скрытых атак через GitHub-репозитории, позволяя злоумышленникам получать полный контроль над компьютерами разработчиков.
-
Промпт-инъекции до сих пор остаются главной уязвимостью корпоративного ИИ
Промпт-инъекции остаются критической уязвимостью для корпоративного ИИ, позволяя хакерам обходить защиту RAG-систем и захватывать управление агентами.
-
Google внедряет прямое управление компьютером в Gemini 3.5 Flash
Google обновила Gemini 3.5 Flash, добавив возможность видеть экран и управлять компьютером. Модель показала высокие результаты в тестах OSWorld, обойдя конкурентов от OpenAI.
-
Google DeepMind внедряет режим «нулевого доверия» для контроля за ИИ-агентами
Google Deepmind разработала стратегию AI Control Roadmap, которая предполагает жесткий мониторинг ИИ-агентов как потенциальных внутренних угроз.
-
Новый фреймворк SearchGEO оценил, насколько легко манипулировать поисковыми ИИ-агентами
Исследование SearchGEO показало, что поисковые ИИ-агенты уязвимы к манипуляциям. Уровень успешных атак варьируется от 0% у Claude до 31,4% у Gemini.
-
Elastic представила инструмент CI/CD Abuse Detector для защиты процессов разработки
Компания Elastic представила прототип CI/CD Abuse Detector, использующий Claude Code для автоматического поиска вредоносных изменений в процессах сборки.
-
Модель Mythos доказала, что ИИ способен взламывать патчи безопасности за считанные часы
Команда Anthropic доказала, что современные ИИ-модели способны проводить реверс-инжиниринг патчей безопасности и создавать рабочие эксплойты в течение одного дня.
