Экономист предупреждает: ИИ может остановить технологический прогресс

Как пишет Forbes, экономист Карл Бенедикт Фрей, автор книги «Как заканчивается прогресс», бьет тревогу: искусственный интеллект может либо стать двигателем новой экономической революции, либо привести к полной остановке инноваций — в зависимости от того, как мы выстроим регулирование и конкурентную среду сегодня.

Миф о неизбежности прогресса

Фрей убедительно доказывает, что идея неизбежного технологического прогресса — опасное заблуждение. «Если бы прогресс был неизбежен, первая промышленная революция произошла бы гораздо раньше, — отмечает экономист. — И если бы прогресс был неизбежен, большинство стран мира сегодня были бы богатыми и процветающими».

История знает множество примеров, когда периоды интенсивных инноваций сменялись стагнацией или коллапсом. Древние города вроде Эфеса процветали и исчезали. Советский Союз быстро индустриализировался, но не смог адаптироваться к компьютерной эре.

Две фазы инноваций: исследование и эксплуатация

Ключевая проблема заключается в переходе между двумя фазами инновационного процесса. Фрей описывает первоначальную фазу «исследования», когда новые идеи рождаются в децентрализованной среде, где экспериментирование процветает. Успешные экономики затем переходят к «эксплуатации» — масштабированию технологий, снижению затрат и концентрации власти.

«Исследование процветает при децентрализации, — объясняет Фрей. — Эксплуатация процветает на концентрации и консолидации. Но чтобы перейти к следующему циклу, снова нужна децентрализация. И этот переход очень сложно осуществить».

ИИ на перепутье: концентрация против инноваций

Искусственный интеллект оказался в эпицентре этого хрупкого перехода. Ранние прорывы — от трансформеров до генеративного ИИ — появились благодаря открытым экспериментам в университетах и небольших лабораториях. Однако рыночная власть стремительно концентрируется.

Фрей констатирует: «OpenAI вместе с Microsoft контролируют около 70% рынка», при этом многие крупные технологические компании инвестируют в стартапы, которые в иной ситуации могли бы составить им конкуренцию. Возврат к консолидации может замедлить следующую волну прорывов и превратить ИИ в инструмент постепенной оптимизации, а не реальной трансформации.

Технологии, рожденные в открытых академических средах, теперь рискуют стать инструментом монополизации. Мы наблюдаем классический парадокс: чем успешнее становится ИИ, тем больше он концентрируется в руках немногих игроков, что в конечном счете может убить саму инновационную среду, которая его породила.

Ограничения масштабирования и необходимость новых подходов

Фрей критикует предположение, что масштабирование существующих моделей приведет к человеческому уровню интеллекта. «Многие до сих пор думали, что можно просто взять существующие модели и масштабировать их, — говорит он. — Это могло бы сработать в статичном мире, но мир постоянно меняется».

Экономист приводит пример, как даже сверхчеловеческие системы терпят неудачу при столкновении с незнакомыми ситуациями: недавно любители с ноутбуками обыграли топовые программы в го, используя новые стратегии. Для продолжения прогресса ИИ нужны свежие подходы и конкурентная децентрализованная среда.

Регулирование: благие намерения и непредвиденные последствия

Одно из самых серьезных предупреждений Фрея касается регулирования. Он признает необходимость некоторых защитных мер, например, вокруг обучающих данных и вредоносных применений. Однако считает, что излишне сложные правила могут непреднамеренно уничтожить мелких новаторов и укрепить позиции крупнейших компаний.

«Чем больше барьеров для входа, чем больше затрат на соответствие требованиям мы добавляем, тем выше риск монополизации технологии несколькими фирмами или даже одной фирмой», — предупреждает экономист.

Он указывает на опыт Европы с законами о защите данных: «Возьмем благонамеренное регулирование вроде GDPR. Веские причины заботиться о конфиденциальности данных есть, но мы должны смотреть на непреднамеренные последствия. Крупные технологические компании фактически смогли компенсировать затраты на соответствие, захватив большую долю рынка, в то время как некоторые небольшие фирмы испытывали трудности в конкуренции».

Предлагаемый Европейский закон об ИИ рискует повторить эту ошибку. Если разработка ИИ станет такой же дорогой и бюрократической, как фармацевтика, инновации замедлятся, а власть будет еще больше консолидироваться.

Геополитическая гонка: кто сохранит лидерство?

Напряжение между централизацией и децентрализацией также формирует геополитическую гонку в области ИИ. Исторически США лидировали, потому что поощряли конкуренцию и гибкие институты. Государственное финансирование поддерживало исследования, а антимонопольные действия открывали рынки для новых участников.

Фрей обеспокоен тем, что Америка теряет это преимущество: «Автономия американских университетов сокращается, финансирование через National Science Foundation урезано, ограничен доступ к талантам и иммиграция. Я гораздо больше беспокоюсь о Америке, чем когда писал книгу».

В то же время Китай централизует власть и ставит национальную безопасность выше роста, что также грозит стагнацией. Результатом становится неустойчивая гонка, в которой ни одна из сторон может не сохранить условия для устойчивых инноваций.

Реальная возможность: за пределами автоматизации

Многие организации используют ИИ в основном для автоматизации процессов и сокращения затрат. Фрей считает, что это не приведет к преобразующему росту: «Если ИИ означает, что мы делаем электронную почту и электронные таблицы немного эффективнее и упрощаем бронирование путешествий, преобразование не будет сопоставимо с электричеством или двигателем внутреннего сгорания».

Истинное процветание приходит от создания новых отраслей и выполнения ранее немыслимых вещей. Лидеры должны поощрять свои команды экспериментировать с ИИ для создания новых продуктов и услуг, а не просто оптимизировать существующие.

Это требует предоставления сотрудникам на всех уровнях автономии для тестирования и внедрения решений на основе ИИ. «Люди, которые проводят эксперименты, лучше всего понимают сами, что…»