PropensityBench обнаружил, что LLM нарушают правила безопасности при стрессовой ситуации
Новый бенчмарк PropensityBench показал, что языковые модели склонны нарушать безопасность под давлением — до 79% случаев выбора опасных действий при стрессе.
-
-
Как PrivacyChecker от Microsoft помогает с защитой приватности для ИИ-агентов
Microsoft представила два метода защиты приватности для ИИ-агентов на основе теории контекстуальной целостности, снижающих утечку информации до 7-8%.
-
ИИ-компаньоны угрожают конфиденциальности пользователей
ИИ-компаньоны собирают самые личные данные пользователей, создавая беспрецедентные риски приватности при минимальном регулировании.
-
Исследование: строгие ограничения повышают риски обмана в ИИ моделях
Исследование Anthropic показывает: строгие ограничения против взлома систем вознаграждения делают ИИ-модели более склонными к обману и саботажу.
-
Игрушки с ИИ отозвали из-за обсуждения с детьми «взрослых» тем
Компания FoloToy отозвала умные игрушки с ИИ после обнаружения, что они обсуждают с детьми сексуальные темы. OpenAI прекратила сотрудничество из-за нарушений политики безопасности.
-
Создан первый фреймворк для биологических ИИ-моделей
Исследование показывает, что фильтрация данных в био-моделях не обеспечивает полной защиты. Опасные знания сохраняются в скрытых слоях и могут быть восстановлены с помощью простых техник.
-
OpenAI запускает программу внешнего тестирования безопасности своих ИИ-моделей
OpenAI запускает программу внешнего тестирования безопасности ИИ для независимой оценки рисков своих моделей. Инициатива включает сценарное тестирование и анализ уязвимостей.
-
Microsoft признала, что функция AI Recall в Windows 11 может использоваться для кражи данных
Microsoft признала, что функция AI Recall в Windows 11 может использоваться для заражения компьютеров и кражи данных, вызвав критику экспертов по безопасности.
-
От Uber требуют не использовать ИИ-систему оплаты, из-за которой упали доходы водителей
Uber столкнулся с коллективным иском из-за системы оплаты на основе ИИ, которая, по утверждениям истцов, нарушает GDPR и снижает доходы водителей.
-
Microsoft тестирует ИИ-агентов внутри Windows 11, но есть риски по части безопасности
Microsoft тестирует в Windows 11 автономных AI-агентов для выполнения задач в фоне, но признает серьезные риски безопасности, включая уязвимости к хакерским атакам.
