Anthropic запускает Claude для Chrome с уязвимостью к prompt-инъекциям
Anthropic запустила бета-версию расширения Claude для Chrome, но сохранила уязвимость к prompt-инъекционным атакам — фундаментальную проблему безопасности языковых моделей.
-
-
Почему искусственный интеллект пока не может заменить Уоррена Баффета
ИИ превосходит людей в анализе данных, но не может воспроизвести интуицию и ответственность легендарного инвестора. Почему алгоритмы пока не заменят человеческий фактор в инвестициях.
-
Anthropic в настройках просит разрешить использование данных для обучения Claude
Anthropic обновляет условия использования: пользователи могут добровольно разрешить применение своих данных для обучения Claude с увеличением срока хранения до 5 лет.
-
Cloudflare запускает диалоговый поиск для сайтов с NLWeb и AutoRAG
Cloudflare представляет решение для диалогового поиска на сайтах с использованием NLWeb и AutoRAG, позволяющее перейти от ключевых слов к естественно-языковым запросам.
-
Браузерные AI-агенты оказались уязвимы к скрытым командам на сайтах
Браузерные AI-агенты уязвимы к prompt injection атакам: сайты могут внедрять скрытые команды, заставляя AI выполнять вредоносные действия без ведома пользователей.
-
Военные академии США превратят в лаборатории искусственного интеллекта
Пентагон преобразует военные академии в центры ИИ-исследований, где офицеры будут изучать и применять алгоритмические системы для решения реальных оперативных задач.
-
OpenAI и Anthropic провели перекрестное тестирование безопасности языковых моделей
OpenAI и Anthropic провели первое в истории совместное тестирование безопасности своих ИИ-моделей, выявив сильные и слабые стороны систем защиты.
-
Cloudflare запускает централизованный шлюз для безопасного подключения языковых моделей к корпоративным системам
Cloudflare анонсировала MCP Server Portals — централизованный шлюз для безопасного подключения языковых моделей к корпоративным системам через Model Context Protocol.
-
ИИ меняет культурный ландшафт: от алгоритмической зависимости к искусственному диалогу
Искусственный интеллект трансформирует культурное производство: от алгоритмических рекомендаций к полной автоматизации контента, ставя под вопрос будущее человеческого творчества.
-
Cloudflare запускает защиту промптов для безопасной работы с генеративным ИИ
Cloudflare представила систему защиты промптов для генеративного ИИ, предотвращающую утечки конфиденциальных данных через ChatGPT, Gemini и другие инструменты.