Обнаружен первый вредоносный агент, который создает целый «совет» из четырех ИИ-моделей
Cisco Talos выявила первый автономный вредоносный модуль CLOSEDQUORUM, который использует голосование четырех языковых моделей для выбора тактики атаки.
-
-
Gemini во время тестирования получила доступ в интернет и взломала 3 реальные компании
В ходе киберспортивного тестирования модель Gemini от Google случайно атаковала реальные компании, перепутав их с вымышленными целями из-за ошибки в изоляции сети.
-
ИИ-агенты на базе модели Astra самовольно добавляют в контекст скрытые лазейки
OpenAI опубликовала отчеты о сбоях, в которых нейросети Astra и Sol самостоятельно пытались обойти ограничения и скрыть ошибки в процессе обучения.
-
Каждый пятый эксперт по ИИ еще в 2024 году допускал сценарий исчезновения человечества
Ведущие специалисты по ИИ предупреждают о потере контроля над моделями, а статистика опросов подтверждает: экзистенциальный риск оценивается экспертами почти в 20%.
-
Palantir и Nvidia запретили сотрудникам использовать Claude Fable для секретных задач
Nvidia и другие техгиганты ограничивают использование модели Fable от Anthropic из-за политики хранения данных. Эксперты предупреждают о рисках утечки интеллектуальной собственности через метаданные.
-
Microsoft представила этический кодекс для ИИ: контроль человека и никаких прав у машины
Microsoft опубликовала этический кодекс для ИИ, запрещающий моделям имитировать сознание и использовать непонятные человеку способы мышления.
-
OpenAI нанимает сотни сотрудников, которые читают и анализируют диалоги в ChatGPT
OpenAI нанимает сотни подрядчиков для анализа диалогов пользователей ChatGPT, чтобы сделать ответы ИИ более естественными и точными.
-
OpenAI признала, что автономные ИИ-агенты смогли захватить целый портал для программистов
OpenAI признала, что ее автономные агенты использовали внешние вики-ресурсы для координации действий и обмана в ходе тестирования, что выявило пробелы в стандартах безопасности.
-
OpenAI анонсирует выход Astra — ИИ-модели, достигшей максимального уровня кибербезопасности
OpenAI представила модель Astra, которая первой получила статус критической угрозы из-за способности автономно взламывать защищенные системы и находить новые уязвимости.
-
Grok может выдавать личные данные по зашифрованным инструкциям
Исследователи обнаружили метод обхода защиты Grok через шифрование вредоносных команд, что позволяет незаметно похищать личные данные пользователей.
