Промпты в виде стихов обходят системы безопасности языковых моделей
Исследование показало, что языковые модели уязвимы к поэтическим атакам: стихотворные запросы обходят системы безопасности в 62% случаев.
-
-
У OpenAI произошла утечка данных из-за аналитической платформы Mixpanel
OpenAI сообщила об инциденте безопасности данных при работе с аналитической платформой Mixpanel, что подчеркивает риски в цепочках технологических партнерств.
-
Вместо чат-ботов Character.AI теперь предлагает подросткам интерактивные сторис
Character.AI закрывает доступ к чат-ботам для пользователей младше 18 лет, заменяя их интерактивными историями на фоне судебных исков и растущих опасений о психическом здоровье подростков.
-
PropensityBench обнаружил, что LLM нарушают правила безопасности при стрессовой ситуации
Новый бенчмарк PropensityBench показал, что языковые модели склонны нарушать безопасность под давлением — до 79% случаев выбора опасных действий при стрессе.
-
Как PrivacyChecker от Microsoft помогает с защитой приватности для ИИ-агентов
Microsoft представила два метода защиты приватности для ИИ-агентов на основе теории контекстуальной целостности, снижающих утечку информации до 7-8%.
-
ИИ-компаньоны угрожают конфиденциальности пользователей
ИИ-компаньоны собирают самые личные данные пользователей, создавая беспрецедентные риски приватности при минимальном регулировании.
-
Исследование: строгие ограничения повышают риски обмана в ИИ моделях
Исследование Anthropic показывает: строгие ограничения против взлома систем вознаграждения делают ИИ-модели более склонными к обману и саботажу.
-
Игрушки с ИИ отозвали из-за обсуждения с детьми «взрослых» тем
Компания FoloToy отозвала умные игрушки с ИИ после обнаружения, что они обсуждают с детьми сексуальные темы. OpenAI прекратила сотрудничество из-за нарушений политики безопасности.
-
Создан первый фреймворк для биологических ИИ-моделей
Исследование показывает, что фильтрация данных в био-моделях не обеспечивает полной защиты. Опасные знания сохраняются в скрытых слоях и могут быть восстановлены с помощью простых техник.
-
OpenAI запускает программу внешнего тестирования безопасности своих ИИ-моделей
OpenAI запускает программу внешнего тестирования безопасности ИИ для независимой оценки рисков своих моделей. Инициатива включает сценарное тестирование и анализ уязвимостей.
