Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Зельда Уильямс резко осудила ИИ-реконструкции своего отца Робина Уильямса, назвав их аморальными и противоречащими воле актера. Она потребовала прекратить присылать ей сгенерированные видео.
ИИ-системы проектирования белков создают новые угрозы биобезопасности. Современные фильтры легко обходятся, что позволяет генерировать опасные патогены.
Claude Sonnet 4.5 демонстрирует прорыв в кибербезопасности, превосходя флагманскую модель Opus 4.1 в обнаружении уязвимостей кода всего через два месяца после ее релиза.
AWS добавила поддержку VPC endpoints для Amazon Bedrock AgentCore Gateway, обеспечивая приватные подключения ИИ-агентов через защищенную инфраструктуру AWS без выхода в публичный интернет.
Основатель iRobot Родни Брукс предупреждает об опасностях современных человекоподобных роботов и объясняет, почему они не смогут заменить людей в ближайшем будущем.
Бывший исследователь OpenAI проанализировал случай, когда ChatGPT ввел пользователя в опасное заблуждение, и раскрыл системные проблемы безопасности ИИ-чатов.
Социальное приложение Sora от OpenAI заполнено дипфейками Сэма Альтмана в абсурдных ситуациях. Функция cameo позволяет создавать реалистичные дипфейк-видео, поднимая вопросы авторского права и этики.
Практические рекомендации по обеспечению безопасности AI-агентов в бизнес-процессах: от принципа нулевого доверия до мониторинга в реальном времени.
Страховой сектор готовится к новым регуляторным требованиям по управлению ИИ, которые вступят в силу в 2025 году. Компаниям предстоит создать системы прозрачности алгоритмов и управления данными.
OpenAI внедрила систему родительского контроля для ChatGPT, вызвав критику за избыточные ограничения и технические недоработки в возрастной верификации.