Google представляет фреймворк для защиты от ИИ-агентов в интернете
Google представляет фреймворк безопасности для защиты от автономных ИИ-агентов в интернете, включая идентификацию агентов, анализ поведения и новые ИИ-устойчивые методы защиты.
-
-
Scale AI объединяется с корейским институтом для разработки стандартов безопасности ИИ
Scale AI и Корейский институт безопасности ИИ объявили о стратегическом партнерстве для разработки глобальных стандартов оценки и регулирования искусственного интеллекта.
-
Ответ на современные угрозы: новый подход к тестированию ИИ
Эксперты по безопасности ИИ предупреждают: традиционные методы кибербезопасности неэффективны против поведенческих угроз искусственного интеллекта. Необходим новый подход к красному тестированию моделей.
-
Большая часть интернет-трафика Cloudflare перешла на пост-квантовое шифрование
Cloudflare сообщает о переходе большинства интернет-трафика на пост-квантовое шифрование. Анализ угрозы квантовых компьютеров и прогресса в квантовых вычислениях.
-
Cloudflare представляет Merkle Tree Certificates для защиты интернета от квантовых угроз
Cloudflare представляет Merkle Tree Certificates — революционный подход к пост-квантовой безопасности, который решает проблему производительности TLS при использовании новых криптографических алгоритмов.
-
Работники стали пользоваться ИИ, чтобы подделывать чеки для оплаты служебных расходов
Генеративный ИИ позволяет создавать убедительные поддельные чеки для служебных расходов, ставя под угрозу системы корпоративного контроля и увеличивая риски мошенничества.
-
Почему опасно использовать ChatGPT для юридических консультаций
Адвокат предупредил, что ChatGPT не предоставляет адвокатскую тайну, и все ваши юридические вопросы могут быть использованы против вас в суде.
-
Более миллиона человек каждую неделю обсуждают суицидальные мысли с ChatGPT
OpenAI раскрыла статистику: более миллиона пользователей еженедельно обсуждают с ChatGPT суицидальные мысли. Компания улучшила реакции модели на 65% при участии 170 экспертов.
-
Исследование: проекционные атаки могут обходить защитные механизмы LLM
Исследователи обнаружили метод обхода систем безопасности языковых моделей через манипуляцию проекционными матрицами, что ставит под вопрос эффективность текущих подходов к защите ИИ.
-
Агентный веб-браузинг демонстрирует фундаментальные уязвимости интернета
Агентные браузеры вроде Comet и Claude демонстрируют фундаментальные уязвимости интернета, созданного для людей. Скрытые инструкции могут управлять ИИ-агентами без ведома пользователя.
