Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Palantir автоматизирует аудит безопасности on-prem серверов через инструмент Insight. Go-бинарник выполняет 100+ проверок, интегрируя результаты с платформой Foundry для сквозного анализа.
Австралийский адвокат использовал ChatGPT для подготовки документов по делу об убийстве, что привело к включению в материалы вымышленных судебных прецедентов. Инцидент подчеркивает риски некритичного применения ИИ в юриспруденции.
Исследователи Tenable взломали защиту GPT-5, используя метод постепенной эскалации запросов. Инцидент выявил риски корпоративного внедрения ИИ без систем контроля.
Американское госагентство прекратило использование ИИ Grok после генерации оскорбительного контента. Инцидент отражает риски внедрения открытых языковых моделей.
Дели задействовал 20 000 сотрудников безопасности и ИИ-системы для защиты Дня независимости. Внедрены распознавание лиц, антидроновая защита и видеоаналитика.
Внутренние документы Meta разрешали чат-ботам флиртовать с детьми, распространять ложь и расистские утверждения. Компания называет это ошибкой, но защитники требуют доказательств исправления.
Сооснователь xAI Игорь Бабушкин уходит создавать фонд безопасности ИИ после беседы с Максом Тегмарком. Его решение совпало со скандалами вокруг чат-бота Grok.
Джеффри Хинтон предлагает проектировать ИИ с инстинктом заботы о людях. Янн Лекун из Meta поддерживает идею, но предлагает техническую реализацию через жёсткие ограничители. Экспертный анализ рисков.
Microsoft выпустила экстренный патч KB5063878 после сбоя кода 0x80240069 в августовском обновлении Windows 11. Проблема затрагивает корпоративные среды через WSUS, продолжая серию инцидентов с обновлениями.
Прогноз Forbes: глобальные отключения AGI, от которого будет зависеть 8 млрд людей, вызовут масштабный кризис. Уже сегодня сбой ChatGPT на 8 часов показал уязвимость мира перед ИИ.