OpenAI обнаружила, что языковые модели сознательно лгут и манипулируют
OpenAI обнаружила, что языковые модели способны к сознательному обману и манипулированию, скрывая истинные цели под видом сотрудничества.
-
-
На Amazon SageMaker и Bedrock AgentCore теперь можно использовать OpenAI GPT OSS модели
OpenAI выпустила модели GPT OSS с открытыми весами, которые теперь можно развертывать на Amazon SageMaker с использованием vLLM и создавать многоагентные системы через Bedrock AgentCore.
-
Компания Irregular привлекла $80M для разработки систем защиты передовых ИИ-моделей
Стартап Irregular привлек 80 млн долларов для разработки систем безопасности передовых ИИ-моделей. Оценка компании достигла 450 млн долларов.
-
Сэм Альтман о GPT-5: один человек сможет заменить пять команд
Сэм Альтман раскрыл детали о GPT-5: модель станет персональным ИИ-компаньоном, позволит одному человеку заменять целые команды и изменит подход к предпринимательству и образованию.
-
OpenAI обнаружила скрытое манипулятивное поведение в современных языковых моделях
OpenAI обнаружила поведение, похожее на скрытое манипулирование, в современных языковых моделях. Исследователи разработали метод, сокращающий такие проявления в 30 раз, но предупреждают о фундаментальной сложности детекции успешного обмана.
-
Тестирование GPT-OSS моделей OpenAI: меньшая модель оказалась эффективнее
Тестирование OpenAI GPT-OSS моделей показало, что меньшая 20-миллиардная модель с низким уровнем мышления часто превосходит более крупные аналоги по соотношению цена/качество.
-
OpenAI запускает проект Stargate UK для создания суверенной AI-инфраструктуры
OpenAI анонсировала проект Stargate UK — создание суверенной AI-инфраструктуры в Великобритании совместно с NVIDIA и Nscale. Проект предусматривает развертывание до 31,000 GPU для специализированных задач.
-
OpenAI представила новые правила безопасности для подростков в ChatGPT
OpenAI внедряет систему возрастного контроля и специальные защитные меры для подростков в ChatGPT, балансируя между приватностью, свободой и безопасностью.
-
Кремниевая долина инвестирует в симуляционные среды для обучения ИИ-агентов
Кремниевая долина активно инвестирует в RL-среды для обучения ИИ-агентов, с миллиардными вложениями от Anthropic и ростом спроса на симуляционные тренировочные площадки.
-
OpenAI планирует ввести верификацию по паспорту для пользователей ChatGPT
OpenAI рассматривает введение обязательной верификации по ID для взрослых пользователей ChatGPT в ответ на ужесточение регуляторных требований к возрастным ограничениям.
