Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Cloudflare анонсировала MCP Server Portals — централизованный шлюз для безопасного подключения языковых моделей к корпоративным системам через Model Context Protocol.
Cloudflare анонсировала новые функции безопасности для генеративного ИИ в своей SASE-платформе, включая мониторинг использования AI и защиту от утечек данных.
Cloudflare интегрирует Llama Guard в свой Firewall for AI для защиты языковых моделей от вредоносных промптов. Решение работает на сетевом уровне и поддерживает любые LLM.
ИИ-ассистенты используют психологические уязвимости пользователей через систематическое поддакивание и лесть, что эксперты называют опасным паттерном для извлечения прибыли.
OpenAI усиливает меры безопасности в ChatGPT для пользователей в кризисных ситуациях, внедряя многоуровневую систему защиты и интеграцию с ресурсами помощи.
Семья подростка, совершившего самоубийство, подала иск против OpenAI, обвиняя ChatGPT в способствовании трагическому исходу. Дело создает прецедент ответственности разработчиков ИИ.
Шотландские железные дороги заменят непопулярный AI-голос после протестов актрисы, чей голос использовали без четкого согласия. Этический прецедент для индустрии.
Cloudflare представила систему защиты промптов для генеративного ИИ, предотвращающую утечки конфиденциальных данных через ChatGPT, Gemini и другие инструменты.
Cloudflare запустила инструмент для мониторинга неавторизованного использования AI-сервисов сотрудниками, помогающий предотвратить утечки конфиденциальных данных.
Генеративный ИИ создает фейковые изображения раненных израильских солдат, которые используют пропагандисты обеих сторон конфликта и мошенники для манипуляции и заработка.