Сооснователь Anthropic Джек Кларк призвал отрасль разработать «педаль тормоза» для ИИ
Сооснователь компании Anthropic Джек Кларк выступил с предупреждением о темпах развития искусственного интеллекта, отметив необходимость механизмов для замедления прогресса. Как сообщает BBC, Кларк видит риски в том, что технология приближается к точке автономного развития, где участие человека в процессе совершенствования систем станет минимальным.
В эфире программы Newsnight Кларк использовал автомобильную аналогию, подчеркнув, что сейчас индустрия ИИ обладает лишь «педалью газа». По его мнению, отсутствие инструментов контроля лишает общество возможности вовремя отреагировать на потенциальные угрозы, которые несут в себе все более мощные модели.
Особое внимание Кларк уделил автономности написания кода. Текущая версия чат-бота Claude уже на 80% состоит из программного кода, сгенерированного самой системой. Сооснователь Anthropic допускает, что переход к полной стопроцентной автономности в написании собственного кода возможен уже в течение ближайших двух лет.
Регулирование и исторические параллели
Джек Кларк проводит параллель между нынешним бумом ИИ и нефтяной лихорадкой начала прошлого века. Тогда обществу удалось создать регуляторную базу, которая позволила извлекать пользу из ресурса, не полагаясь исключительно на добрую волю владельцев корпораций. Аналогичный подход, по его словам, требуется и сегодня.
Любопытно, что несмотря на риторику о необходимости контроля, Anthropic недавно поддержала исполнительный указ президента США Дональда Трампа. Этот документ характеризуется достаточно мягким подходом к надзору, не обязывая компании проходить государственные проверки безопасности, что оставляет такие инициативы в зоне добровольных усилий разработчиков.
«Я беспокоюсь за своих детей, если мы как общество не начнем серьезный разговор о том, что означают продолжающиеся достижения ИИ. Здесь есть как потенциально огромные преимущества, так и серьезные риски», — Джек Кларк
Экономические последствия внедрения так называемых «агентов» — автономных ботов для выполнения рутинных задач — также вызывают опасения. На фоне массовых сокращений в технологическом секторе, которые компании часто объясняют эффективностью инструментов ИИ, Кларк советует молодежи делать ставку на гуманитарное образование и развитие любознательности.
Стремление Anthropic к публичному IPO при оценке в 1 трлн долларов плохо вяжется с разговорами о «тормозах». Мы видим классическую попытку усидеть на двух стульях: демонстрировать экспоненциальный рост для инвесторов и одновременно примерять мантию ответственного игрока.
Anthropic, основанная пятью выходцами из OpenAI в 2021 году, изначально позиционировала себя как компания, ориентированная на безопасность. Тем не менее, ни Anthropic, ни ее основные конкуренты — Google и OpenAI — пока не объявляли о планах по реальной приостановке исследований, несмотря на публичные опасения своих руководителей.
Кларк утверждает, что мотивация его выступлений — не маркетинг, а желание показать миру, что именно происходит внутри лабораторий. По его наблюдениям, современные системы уже меньше ограничены инженерными возможностями и больше — способностью людей генерировать качественные идеи для их применения.
