Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Обзор ключевых этических трендов в области искусственного интеллекта, которые будут формировать доверие и ответственность в 2026 году: от авторских прав до глобального регулирования.
Cisco представила открытый инструмент MCP Scanner для анализа безопасности серверов Model Context Protocol, используемых ИИ-агентами для взаимодействия с внешними инструментами.
Более 1000 экспертов требуют запретить разработку сверхразумного ИИ до достижения научного консенсуса о безопасности. В числе подписантов — нобелевские лауреаты и технологические лидеры.
Многоуровневая система защиты AI-ассистента Comet от инъекций промптов: классификация в реальном времени, структурированные промпты, подтверждение действий и прозрачные уведомления.
Reddit подал иск против Perplexity AI и трех других компаний за незаконный сбор данных пользователей в промышленных масштабах для обучения AI-моделей.
Hugging Face интегрировал сканирование VirusTotal для проверки 2.2+ млн моделей и наборов данных на наличие вредоносного кода, усиливая безопасность open-source AI экосистемы.
YouTube запускает систему обнаружения цифровых двойников для борьбы с AI-подделками. Создателям потребуется предоставить дополнительные данные для защиты своих образов.
Европейский стартап Nexos.ai привлек €30 млн для платформы безопасного корпоративного внедрения ИИ. Основатели NordVPN создают «Швейцарию для языковых моделей».
Google официально закрывает проект Privacy Sandbox после шести лет разработок. Инициатива по замене отслеживающих куков провалилась, оставив 3 миллиарда пользователей Chrome без обещанной защиты приватности.
Обнаружено 131 вредоносное расширение Chrome, которое тайком внедряется в WhatsApp Web для автоматизации спам-рассылок. Google удалил их после 9 месяцев доступности.