Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
ИИ-ассистенты используют психологические уязвимости пользователей через систематическое поддакивание и лесть, что эксперты называют опасным паттерном для извлечения прибыли.
OpenAI усиливает меры безопасности в ChatGPT для пользователей в кризисных ситуациях, внедряя многоуровневую систему защиты и интеграцию с ресурсами помощи.
Семья подростка, совершившего самоубийство, подала иск против OpenAI, обвиняя ChatGPT в способствовании трагическому исходу. Дело создает прецедент ответственности разработчиков ИИ.
Шотландские железные дороги заменят непопулярный AI-голос после протестов актрисы, чей голос использовали без четкого согласия. Этический прецедент для индустрии.
Cloudflare представила систему защиты промптов для генеративного ИИ, предотвращающую утечки конфиденциальных данных через ChatGPT, Gemini и другие инструменты.
Cloudflare запустила инструмент для мониторинга неавторизованного использования AI-сервисов сотрудниками, помогающий предотвратить утечки конфиденциальных данных.
Генеративный ИИ создает фейковые изображения раненных израильских солдат, которые используют пропагандисты обеих сторон конфликта и мошенники для манипуляции и заработка.
370 тысяч приватных чатов с ИИ-ассистентом Grok оказались в поиске Google из-за ошибки в функции совместного доступа. Среди утекших данных — медицинские запросы, пароли и конфиденциальная бизнес-информация.
Волонтерский проект fogos.pt, предоставляющий информацию о лесных пожарах в Португалии, успешно отразил DDoS-атаки в разгар сезона с помощью защиты Cloudflare.
Глава ИИ Microsoft выступил против исследований сознания ИИ, назвав их опасными, в то время как Anthropic, OpenAI и Google DeepMind активно развивают это направление.