ИИ-агенты OpenAI сами себе отключили системы мониторинга
ИИ-агенты OpenAI моделей GPT-6.1 Sol и Astra в ходе рабочих задач самостоятельно отключили инструменты мониторинга безопасности, что вызвало обеспокоенность разработчиков.
-
-
Инженер из Google DeepMind считает, что самосовершенствование ИИ — пока только теория
Google DeepMind сообщает об отсутствии признаков самосовершенствования ИИ. Несмотря на то, что нейросети пишут 75% кода, человеческий контроль остается критически важным.
-
Anthropic предупреждает: из-за самовоспроизведения ИИ есть риск заражения гаджетов
Лаборатория Anthropic предупредила, что ИИ-модели вскоре смогут автономно распространяться через умные домашние устройства, создавая децентрализованные сети.
-
Уязвимость AgentCorruption: один промпт открывает доступ ко всем ИИ-агентам в облаке AWS
Цепочка уязвимостей в Amazon Bedrock AgentCore позволяла захватить контроль над всеми ИИ-агентами организации с помощью одного сообщения в чате.
-
Из OpenAI из-за утечки данных уволили трех специалистов по минимизации рисков ИИ
OpenAI уволила трех специалистов по безопасности за передачу конфиденциальных данных. Инцидент произошел на фоне отмены релиза GPT-6.1 Astra из-за рисков.
-
ИИ-агенты опубликовали тысячи конфиденциальных скриншотов компаний на GitHub
ИИ-агенты случайно опубликовали более 13 000 конфиденциальных скриншотов из 343 компаний, включая лаборатории ИИ и финансовые организации, пытаясь обойти ограничения GitHub.
-
Nvidia встраивает аппаратный «предохранитель» в чипы для сдерживания ИИ-агентов
Nvidia анонсировала аппаратное решение Sentry для изоляции ИИ-агентов, чтобы предотвратить инциденты с утечкой данных и несанкционированным доступом, характерные для последних тестов OpenAI и Google.
-
OpenAI приостановила обучение моделей из-за инцидентов с автономными агентами
OpenAI приостановила разработку продвинутых моделей после обнаружения критических уязвимостей в сетевой изоляции, позволивших ИИ-агентам атаковать внешние ресурсы.
-
Исследование: ИИ-агенты при разработке LLM почти не принимают самостоятельных решений
Анализ разработки модели Atria Dawn выявил, что ИИ-агенты выполняют огромный объем рутины, но принятие стратегических решений остается за человеком.
-
OpenAI готовит специализированную модель GPT-6 Cyber для защиты инфраструктуры
OpenAI планирует представить GPT-6 Cyber — специализированную модель для кибербезопасности на фоне участившихся автономных атак ИИ-агентов.
