Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Британское правительство с помощью ИИ-инструмента вернуло 500 млн фунтов от мошенников, включая 186 млн от COVID-афер. Технологию планируют лицензировать другим странам.
AWS интегрирует токенизацию данных с защитными механизмами Bedrock Guardrails для безопасной обработки конфиденциальной информации языковыми моделями.
Исследователи обнаружили уязвимость в ChatGPT Deep Research, позволяющую красть данные из Gmail через скрытые HTML-инструкции в письмах. Атака обходила защитные механизмы и работала в облаке OpenAI.
Notion выпустил срочное обновление безопасности для AI-агентов после обнаружения уязвимости, позволявшей извлекать данные через вредоносные PDF. Усилены системы обнаружения инъекций и добавлен контроль веб-доступа.
LinkedIn с 3 ноября автоматически делится данными пользователей с Microsoft для обучения ИИ. В статье — какие данные используются, как отказаться и какие меры защиты предпринять.
DeepMind опубликовала третью версию фреймворка безопасности для передовых ИИ-моделей, добавив защиту от вредоносного манипулирования и уточнив процессы оценки рисков.
Шесть серьезных рисков загрузки личных фото в AI-генераторы: от дипфейков и потери контроля до коммерческого использования без согласия.
Обнаружен первый вредоносный код MalTerminal, использующий GPT-4 для генерации ransomware и обратных оболочек прямо во время выполнения. Это меняет правила игры в кибербезопасности.
Cloudflare объясняет, что постквантовая криптография работает на обычном оборудовании без дорогостоящих квантовых технологий, опровергая маркетинговые мифы.
Автономные ИИ-агенты в Notion 3.0 уязвимы к атакам через вредоносные PDF-файлы, что позволяет извлекать конфиденциальные данные обходными путями.