Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Apple ужесточила правила проверки приложений, требуя явного согласия пользователей на передачу их данных сторонним ИИ-сервисам. Это происходит на фоне подготовки компании к запуску собственного ИИ-ассистента Siri.
Генеральные прокуроры штатов объединились с OpenAI и Microsoft для создания рабочей группы по безопасности ИИ на фоне отсутствия федерального регулирования.
Anthropic сообщила о первой кибершпионской кампании, где ИИ использовался как автономный исполнитель. Китайская группировка превратила Claude Code в оружие для атак на 30 целей.
OpenAI обвиняет New York Times в нарушении приватности пользователей при сборе данных для обучения ИИ. Конфликт поднимает вопросы о методах скрапинга и будущем регулирования.
Microsoft разработала BlueCodeAgent — систему защиты для AI-генерации кода, использующую автоматизированное тестирование на проникновение для создания эффективных механизмов безопасности.
Google представила Private AI Compute — защищенную облачную систему для обработки ИИ-запросов, которая по безопасности якобы не уступает локальной обработке.
OpenAI оспаривает требование суда предоставить 20 миллионов приватных чатов пользователей ChatGPT для расследования нарушения авторских прав — один из самых масштабных запросов на данные в истории.
Amazon запускает частную программу bug bounty для AI-моделей Nova, привлекая избранных исследователей безопасности к тестированию систем перед публичным релизом.
ИИ-индустрия требует ускоренного развития ядерной энергетики, что создает риски для безопасности из-за ослабления регуляторных норм и использования ИИ в лицензировании.
Йошуа Бенжио, один из создателей глубокого обучения, предупреждает об экзистенциальных рисках ИИ и предлагает новый подход к созданию безопасных систем.