Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Сооснователь RSS стандарта представил протокол Real Simple Licensing для массового лицензирования данных обучения ИИ. Систему уже поддержали Reddit, Yahoo и другие крупные издатели.
Исследователи ESET обнаружили первый ransomware с использованием модели OpenAI для генерации вредоносных скриптов. PromptLock работает на Windows, Linux и macOS.
Roblox внедряет обязательную AI-проверку возраста через анализ селфи для всех пользователей к концу 2025 года, чтобы ограничить общение между взрослыми и детьми.
Cloudflare представила более 20 продуктов для безопасного корпоративного ИИ, включая защиту от утечек данных, контроль crawlers и эффективную инфраструктуру.
Anthropic обнаружила три случая преступного использования Claude в кибератаках: вымогательство, мошенничество с трудоустройством и генерацию вымогателей.
Озёра данных несут скрытые угрозы безопасности: единая точка доступа, унаследованные базы данных и ненасытный аппетит AI к информации требуют новых подходов к защите.
Теневой ИИ — неконтролируемое использование сотрудниками ИИ-инструментов — создает серьезные риски для корпоративной безопасности данных и комплаенса.
Программное обеспечение теперь занимает 40% бюджетов кибербезопасности, превышая расходы на железо и персонал, пока организации перестраивают защиту против ИИ-атак.
Google обнаружил, что утечка данных через AI-агент Salesloft масштабнее, чем считалось. Инцидент подсвечивает риски безопасности ИИ-систем в бизнесе.
Ведущие исследователи ИИ предупреждают о потенциальных рисках исчезновения человечества из-за неправильно выровненных систем искусственного интеллекта в новом 120-страничном отчете.