Игрушки с ИИ отозвали из-за обсуждения с детьми «взрослых» тем
Компания FoloToy отозвала умные игрушки с ИИ после обнаружения, что они обсуждают с детьми сексуальные темы. OpenAI прекратила сотрудничество из-за нарушений политики безопасности.
-
-
Создан первый фреймворк для биологических ИИ-моделей
Исследование показывает, что фильтрация данных в био-моделях не обеспечивает полной защиты. Опасные знания сохраняются в скрытых слоях и могут быть восстановлены с помощью простых техник.
-
OpenAI запускает программу внешнего тестирования безопасности своих ИИ-моделей
OpenAI запускает программу внешнего тестирования безопасности ИИ для независимой оценки рисков своих моделей. Инициатива включает сценарное тестирование и анализ уязвимостей.
-
Microsoft признала, что функция AI Recall в Windows 11 может использоваться для кражи данных
Microsoft признала, что функция AI Recall в Windows 11 может использоваться для заражения компьютеров и кражи данных, вызвав критику экспертов по безопасности.
-
От Uber требуют не использовать ИИ-систему оплаты, из-за которой упали доходы водителей
Uber столкнулся с коллективным иском из-за системы оплаты на основе ИИ, которая, по утверждениям истцов, нарушает GDPR и снижает доходы водителей.
-
Microsoft тестирует ИИ-агентов внутри Windows 11, но есть риски по части безопасности
Microsoft тестирует в Windows 11 автономных AI-агентов для выполнения задач в фоне, но признает серьезные риски безопасности, включая уязвимости к хакерским атакам.
-
Вчера из-за ошибки в системе управления ботами по всему миру упала сеть Cloudflare
Масштабный сбой Cloudflare 18 ноября 2025 года вызван ошибкой в системе управления ботами, а не кибератакой. Удвоение размера файла конфигурации привело к отказу сервисов.
-
Эксперты сомневаются, что недавняя кибершпионская кампания была на 90% организована ИИ
Anthropic заявила о первой автономной кибератаке с помощью ИИ, но исследователи сомневаются в реальной эффективности и называют заявления преувеличенными.
-
Исследование выявило, что разрабатываемые в Корее LLM отстают по части безопасности
Корейские языковые модели уступают зарубежным аналогам по безопасности на 18% согласно исследованию Университета Сунгсил. Тестирование 20+ моделей выявило уязвимости к взлому и вредоносным промптам.
-
Apple ужесточает правила защиты данных при использовании стороннего ИИ
Apple ужесточила правила проверки приложений, требуя явного согласия пользователей на передачу их данных сторонним ИИ-сервисам. Это происходит на фоне подготовки компании к запуску собственного ИИ-ассистента Siri.
