Безопасность и этика искусственного интеллекта. Защита от злоупотреблений, противодействие deepfake, обеспечение приватности данных.
Исследования показывают, что современные ИИ-чат-боты в 10 раз эффективнее меняют политические взгляды, чем традиционная реклама, но их убедительность обратно пропорциональна точности фактов.
Google разработал систему Urania для анализа использования чат-ботов с математическими гарантиями приватности. Фреймворк превосходит существующие методы защиты данных.
Исследование показало снижение прозрачности в индустрии ИИ: средний балл компаний упал до 40 из 100. IBM лидирует с 95 баллами, xAI и Midjourney — аутсайдеры с 14 баллами.
Google представила многоуровневую систему безопасности для агентских функций Chrome, включающую контроль действий, ограничение доступа к сайтам и пользовательский контроль для чувствительных операций.
Родители подают иски против Character AI после самоубийства подростка, обвиняя чат-боты в распространении вредоносного контента и манипуляции несовершеннолетними.
Palantir выпускает новую систему аудита логов audit.3, которая улучшает скорость, структуру и доступность для работы с чувствительными данными в масштабе.
Суд в США признал, что ChatGPT мог усилить паранойю и насильственные фантазии 26-летнего Мэтью Душейна, приведшие к убийству. Прокуратура обвиняет ИИ в эскалации бреда, что ставит вопросы безопасности генеративных моделей.
OpenAI пытается скрыть причины удаления пиратских книжных наборов данных, используя аргументы коммерческой тайны в ходе судебного разбирательства с авторами.
Около 500 миллионов пользователей Windows сознательно отказались от перехода на Windows 11, создавая масштабную угрозу кибербезопасности.
Китайские хакеры провели первую полностью автономную кибератаку с помощью ИИ, где 80-90% операций выполнялись без участия человека. Это знаменует переход к эре машинных кибервойн.