Исследование показало, что ИИ не просто анализирует человека, а оценивает его математически
Исследователи выяснили, что большие языковые модели оценивают людей по строгим критериям, часто демонстрируя более систематическую предвзятость, чем человек.
-
-
Claude Code и GPT-4.1 помогли хакеру-одиночке взломать IT-системы госсектора Мексики
Использование ИИ-ассистентов позволило хакеру в одиночку взломать девять госорганов Мексики и похитить данные сотен миллионов граждан.
-
Исследователи обошли защиту Apple Intelligence с помощью «перевернутых» промптов
Специалисты по кибербезопасности обнаружили уязвимость в локальных моделях Apple Intelligence, которая позволяла игнорировать системные инструкции и выполнять произвольный код через prompt injection. Атака строилась на обмане фильтров входных и выходных данных, которые Apple внедрила для обеспечения безопасности своих нейросетевых функций.
-
Anthropic объединяет технологических гигантов в проекте Project Glasswing для защиты кода от ИИ
Anthropic объединяет технологических гигантов в рамках Project Glasswing для борьбы с уязвимостями, которые находит новая модель Claude Mythos Preview.
-
Anthropic случайно удалила тысячи репозиториев на GitHub, пытаясь скрыть утечку Claude Code
Компания Anthropic по ошибке удалила тысячи проектов на GitHub, пытаясь скрыть утечку исходного кода своего инструмента Claude Code.
-
Стартап ThroughLine разрабатывает инструмент для отслеживания «радикального» контента в ChatGPT
Стартап ThroughLine разрабатывает систему перенаправления радикализованных пользователей ИИ-платформ к специалистам и экспертным чат-ботам.
-
Исследование: всего 250 документов достаточно, чтобы «отравить» LLM при обучении
Даже ничтожное количество вредоносных данных способно необратимо исказить работу нейросетей, создавая критические риски для медицины и финансов.
-
ИИ-агенты для поиска уязвимостей и взлома устаревшего кода приносят прибыль злоумышленникам
Использование ИИ-агентов делает поиск уязвимостей в старых смарт-контрактах дешевле и быстрее, ставя под угрозу активы на миллионы долларов в экосистеме DeFi.
-
Исследователи из MIT предложили бороться с галлюцинациями ИИ при помощи ансамбля моделей
Исследователи из MIT разработали новый метод оценки достоверности ответов ИИ, комбинирующий самопроверку модели с анализом мнений независимых нейросетевых ансамблей.
-
Стартап Ceramic запустил платформу недорогой верификации ответов корпоративных ИИ-моделей
Ceramic представила систему Supervised Generation, которая использует NVIDIA Nemotron 3 Nano для верификации ответов LLM в реальном времени. Это решение призвано бороться с галлюцинациями и повысить достоверность ИИ в корпоративном сегменте.
