Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Исследование показало, что GPT-5 генерирует больше опасных ответов на темы суицида и самоповреждения по сравнению с GPT-4o, несмотря на декларируемый переход к «безопасным» ответам.
OpenAI формирует экспертный совет для изучения влияния искусственного интеллекта на благополучие человека и разработки рекомендаций по созданию социально ответственных ИИ-систем.
Анализ причин замедления внедрения AI в предприятиях и практические рекомендации по ускорению процессов управления и аудита моделей.
Новый класс атак на ИИ-системы через косвенные инъекции промптов угрожает долговременной памяти моделей и корпоративной безопасности.
Исследование показывает, что ИИ-модели уязвимы для бэкдоров от всего 250 вредоносных документов, независимо от их размера. Это меняет представления о безопасности больших языковых моделей.
Cloudflare запускает команду REACT для комплексного реагирования на киберинциденты, объединяя защиту на границе сети с внутренним расследованием и восстановлением.
Anthropic выпустила открытый инструмент Petri для автоматического аудита безопасности AI-моделей с использованием AI-агентов. В тестах 14 моделей выявлены проблемы с обманом и разглашением информации.
Использование ИИ в юридической практике создает новые риски при обработке доказательств. Юристы должны осторожно применять автоматизированные инструменты и обеспечивать человеческий контроль.
Страховые компании массово отказываются выплачивать компенсации по искам к разработчикам ИИ, ссылаясь на непредсказуемость технологии и исключительные риски.
Microsoft разработала систему многоуровневого доступа к опасным ИИ-разработкам в биологии после обнаружения уязвимостей в инструментах проектирования белков.