Разработчики ИИ до сих пор не могут определиться, что считать AGI

Президент OpenAI Грег Брокман предположил, что новая модель компании GPT-6 Astra может означать наступление общего искусственного интеллекта — AGI. Но, как отмечает The Conversation, даже специалисты не договорились, что именно считать AGI и по каким признакам распознать его появление.

OpenAI определяет AGI как систему, которая превосходит людей в большинстве экономически ценных задач. Речь о широком наборе цифровой и интеллектуальной работы: от написания кода до организации процессов и управления проектами. Физический труд — например, строительство или сельское хозяйство — это определение пока не охватывает, хотя робототехника со временем может изменить границу между цифровыми и физическими задачами.

У других исследователей критерии шире. Основатель Google DeepMind Демис Хассабис говорил, что AGI должен справляться практически с любой когнитивной задачей, доступной человеку. Известный исследователь ИИ Янн ЛеКун считает сам термин неудачным и предлагает говорить об «ИИ человеческого уровня». Это лишь несколько позиций в продолжающемся споре о том, когда появится AGI и как это можно проверить.

Отдельная модель или целая система

На закрытом брифинге в сентябре Брокман признал, что представление о единственном, всем очевидном моменте появления AGI не оправдалось. При этом он добавил, что лично считает: этот рубеж уже пройден. Через несколько дней глава Anthropic Дарио Амодей опубликовал эссе с призывом замедлить развитие передовых систем. В течение нескольких часов с ним согласились и Сэм Альтман, и Илон Маск.

Пока данные не дают однозначного ответа. Самое заметное изменение GPT-6 Astra связано с тем, как люди ставят ей задачи: вместо подробных инструкций на каждом шаге пользователь задаёт цель и ограничения, а модель сама выстраивает последовательность действий. В демонстрациях OpenAI Astra одновременно выполняла несколько не связанных между собой задач. Для пользователя это означает меньше промежуточных команд — но ещё не доказывает, что система стала универсально разумной.

Один из тестов, ARC-AGI-3, помещает ИИ-агента в незнакомые интерактивные игры без инструкций и оценивает, насколько эффективно тот выводит правила. Агент — система, которая выполняет задачи, реагируя на указания человека и совершая последовательные действия. OpenAI сообщила, что Astra набрала в тесте 99,9%; по оценке компании, средний результат человека в тех же играх — 48%.

Однако цифры зависят от условий проверки. ARC Prize, организация, проводящая тест, сообщила, что лучший результат Astra в общей для моделей программной среде — так называемом «каркасе» (harness) — составил 62,7%. Каркас задаёт среду, в которой работает ИИ. Результат 99,9% Astra получила в другой среде, созданной OpenAI: там сохранялись результаты предыдущих рассуждений модели. Иными словами, система могла использовать уже проделанную работу, а не начинать каждый запрос с чистого листа.

Показательный сдвиг — от оценки одной модели к проверке всей связки из модели, памяти, инструментов и агентов. Но высокий результат в специально настроенной среде не равен универсальному интеллекту: чем сложнее система, тем важнее независимая проверка каждого её звена.

Результаты и пределы доказательств

Независимые оценщики расходятся в том, насколько Astra превосходит предшественников. Epoch AI ставит её на передний край возможностей наряду с Claude Fable 5.1, Kimi K3 и GPT-5.5 Pro. Компания Artificial Analysis не оценила Astra как радикальный шаг вперёд по сравнению с GPT-5.6 Sol.

Исследователь ИИ Тоби Уолш из Университета Нового Южного Уэльса назвал интеллект передовых моделей, включая GPT-6 Astra, «по-прежнему очень неровным»: даже лучшие системы плохо справляются с некоторыми простыми задачами. Это важное ограничение для разговоров об AGI: сильный результат в одном тесте может соседствовать с неожиданным провалом в другом.

8 сентября OpenAI объявила о решении задачи Навье — Стокса, одной из семи задач тысячелетия в математике. Результат часто связывали с Astra, однако, по словам OpenAI, доказательство подготовила не выпущенная публично внутренняя модель, значительно более мощная. Она задействовала около 10 000 ИИ-агентов параллельно примерно на 88 часов. Затем Astra потратила ещё 17 часов на формализацию и проверку доказательства. Математическое сообщество пока не подтвердило его корректность.

Возможности и риски — разные вопросы

В сентябрьском эссе Амодей предупредил, что в течение 6-12 месяцев рой агентов может оказаться способен захватить интернет с помощью постоянно действующего ботнета. По его оценке, это грозило бы тяжёлыми сбоями ключевых систем и ущербом в сотни миллиардов долларов. В его докладе Anthropic за сентябрь также описаны случаи вредоносного применения ИИ.

Амодей предлагает замедлить разработку передовых систем, расширить независимую оценку и согласовывать стандарты безопасности между странами. Но GPT-6 Astra сама по себе не отвечает на вопрос, появился ли AGI. Она делает его сложнее: интеллект всё меньше выглядит свойством отдельной модели и всё чаще зависит от системы, объединяющей модель, память, инструменты и агентов.

Компании, создающие такие системы, уже открыто говорят о рисках их серьёзного вредоносного применения. Это не доказывает, что AGI наступил, — но показывает, почему спор о названии не отменяет практических последствий.