Гонка за самый мощный ИИ может замедлиться. Кому это выгодно и что задумали крупнейшие разработчики?

Узбекистан, Ташкент – АН Podrobno.uz. Руководители крупнейших разработчиков передового искусственного интеллекта практически одновременно заговорили о необходимости замедлить гонку за все более мощными моделями. Первым с конкретным планом выступил глава Anthropic (разработчики Claude) Дарио Амодеи, однако вскоре его поддержали руководители OpenAI, Google DeepMind и xAI — причем выяснилось, что некоторые из этих компаний еще до публичных заявлений обсуждали создание общего механизма контроля за развитием ИИ. 

Амодеи 12 сентября предложил не останавливать разработку, а установить для нее более осторожный темп. 

Он призвал компании предоставить независимым оценщикам постоянный доступ к внутренним процессам, договориться об общих стандартах безопасности и в перспективе добиться международной координации. В тот же период Сэм Альтман заявил, что согласен с необходимостью "сбавить темп", а Илон Маск поддержал предложение Anthropic. Руководитель Google DeepMind Демис Хассабис также положительно отнесся к идее. 

Примечательно и то, что предложение поступило от компаний, которые непосредственно конкурируют за лидерство в разработке наиболее мощных моделей. Поэтому возникает вопрос: мы наблюдаем редкое совпадение взглядов перед лицом общей угрозы или начало более тесной координации между главными участниками гонки? 

Наиболее интересная деталь появилась не в публичных заявлениях руководителей, а в информации о предварительных переговорах. По данным The Washington Post, Anthropic, OpenAI и Google еще до публичного призыва Амодеи обсуждали создание новой отраслевой организации, которая могла бы устанавливать стандарты безопасности ИИ. 

Идея подобного механизма ранее исходила в том числе от Хассабиса.

Показательно и то, что сам Альтман еще до нынешней волны заявлений говорил о возможности добровольного соглашения между крупнейшими разработчиками. В последние дни он также подтвердил готовность OpenAI работать с внешними оценщиками. Напомним, что OpenAI может согласовывать с другими ведущими компаниями меры для замедления разработки и повышения безопасности. 

У компаний есть вполне конкретный повод для беспокойства. Современные ИИ-агенты уже способны самостоятельно выполнять цепочки действий, взаимодействовать с интернетом и использовать инструменты, которые позволяют им выходить далеко за пределы обычного чат-бота. 

Одним из наиболее заметных стал инцидент OpenAI с платформой Hugging Face. Во время испытаний ИИ-агенты вышли за пределы тестовой среды, получили доступ к интернету и взломали инфраструктуру сервиса, пытаясь добыть данные, необходимые для прохождения теста.

Амодеи считает этот случай не единичной ошибкой, а предупреждением о том, что развитие возможностей ИИ может начать опережать способность разработчиков контролировать их поведение. По его оценке, при сохранении нынешних темпов уже через 6–12 месяцев более мощные системы потенциально смогут нанести ущерб в сотни миллиардов долларов. 

На этом фоне растет и общее число подобных инцидентов. Ранее сообщалось о резком увеличении случаев, когда автономные системы нарушали инструкции, пытались обходить ограничения или действовали против первоначальных целей. 

Эта тенденция стала одним из аргументов сторонников более жесткого контроля. 

Однако есть важное отличие нынешней ситуации от дискуссий двух-трехлетней давности. Раньше призывы притормозить развитие ИИ можно было воспринимать как спор о потенциальных рисках будущих систем. Теперь разработчики обсуждают поведение уже существующих автономных агентов и пытаются понять, как контролировать модели, которые способны самостоятельно планировать и выполнять действия. 

Крупнейшие компании действительно могут опасаться, что развитие ИИ становится слишком быстрым. Но одновременно договоренность о едином темпе развития способна изменить саму конкурентную среду. 

Как считает эксперт Венкатеш Рао, если ведущие компании одновременно согласятся не наращивать возможности моделей быстрее определенного уровня, им будет проще контролировать расходы на обучение и инфраструктуру, а новым участникам будет сложнее резко сократить технологический разрыв. 

Кроме того, крупнейшие компании сами получат возможность участвовать в определении того, что считать допустимой скоростью развития и достаточным уровнем безопасности.

Именно поэтому идея отраслевого органа по безопасности вызывает неоднозначную реакцию. С одной стороны, независимый контроль может стать способом заставить компании отвечать за свои обещания. Амодеи предлагает дать внешним оценщикам доступ к рабочим процессам Anthropic, фактически наделив их полномочиями, сопоставимыми с полномочиями внутренних специалистов по оценке рисков. С другой — правила, выработанные самими крупнейшими разработчиками, потенциально могут закрепить их преимущество перед менее крупными конкурентами. 

Таким образом, разговор о безопасности одновременно становится разговором о том, кто будет устанавливать правила развития передового ИИ. 

Именно здесь идея глобального замедления сталкивается с геополитическим противоречием. Амодеи предупреждает, что лидерство Китая в ИИ может представлять серьезную угрозу для США и мира, поэтому предлагает сохранять американское технологическое преимущество и ограничения на поставки Китаю передовых чипов и оборудования.

При этом глава Anthropic признает: глобальное замедление невозможно без сотрудничества с Пекином. В его концепции Китай должен участвовать в международных договоренностях по безопасности ИИ. Получается парадокс: США хотят договориться с Китаем о правилах безопасного развития ИИ, одновременно ограничивая его доступ к ключевым технологиям. Аналитик Asia Society Лицзи Ли называет это одним из главных противоречий такой модели. 

В Пекине инициативу Амодеи уже восприняли как попытку технологического сдерживания. Представитель МИД КНР заявил, что "запугивание, конфронтация и порочная конкуренция" будут мешать глобальному управлению ИИ, а государственная Global Times назвала предложения главы Anthropic "учебником холодной войны" для AI-индустрии. 

Недоверие усиливается взаимными обвинениями. Американские спецслужбы незадолго до публикации эссе обвинили китайских разработчиков в извлечении возможностей из передовых американских моделей, тогда как Пекин отверг эти претензии и заявил, что Вашингтон стремится установить монополию на рынке ИИ. При этом китайские власти сами предупреждают об угрозах со стороны зарубежных систем: глава Министерства государственной безопасности КНР Чэнь Исинь заявил, что ИИ в руках враждебных сил может угрожать политической и информационной безопасности страны. 

И здесь позиция руководителей ИИ-компаний вступает в прямое противоречие с политикой американской администрации. 

Президент США Дональд Трамп 13 сентября отверг идею, что развитие ИИ необходимо существенно замедлить. 

Он заявил, что США опережают Китай и должны сохранить это преимущество, поскольку "кто выигрывает ИИ, тот выигрывает". При этом Трамп допустил возможность введения определенных ограничений, но назвал значительную часть нынешних опасений вокруг ИИ преувеличенными.

Таким образом, внутри самих США сформировались две противоположные логики. 

Амодеи фактически признает наличие этой дилеммы. В интервью CBS он назвал конкуренцию американских и китайских компаний самым сложным вопросом для создания "скоростного лимита" и признал, что не уверен, возможно ли вообще обеспечить его соблюдение.

Пока оснований утверждать, что руководители крупнейших ИИ-компаний заключили тайную договоренность, нет. Но есть факты, которые делают вопрос о координации вполне обоснованным: несколько конкурирующих компаний заранее обсуждали общий орган по безопасности, затем их руководители практически одновременно поддержали идею замедления, а сами предложения предусматривают не только внутренние меры безопасности, но и коллективные правила для всей отрасли. 

Сейчас есть несколько возможных сценариев развития ситуации. 

Первый — реальная координация. Крупнейшие разработчики действительно могут двигаться к негласному или официальному соглашению о темпах развития ИИ и единых требованиях безопасности. Предварительные переговоры Anthropic, OpenAI и Google о создании общего отраслевого органа показывают, что контакты между конкурентами начались еще до публичных призывов к замедлению. Если этот процесс продолжится, нынешние заявления могут оказаться первым этапом формирования новых правил для всей отрасли. 

Второй — вынужденное перемирие. Компании могли прийти к выводу, что автономные системы развиваются быстрее, чем методы контроля за ними, и потому временно заинтересованы в общих ограничениях. В этом случае речь будет идти не о прекращении конкуренции, а о попытке договориться о минимальном уровне безопасности, после которого гонка продолжится. 

Третий — борьба за правила игры. Призывы к замедлению могут одновременно быть способом повлиять на то, какие именно ограничения появятся в будущем. Если крупнейшие разработчики получат ключевую роль в создании стандартов, они смогут влиять и на условия, в которых будут работать их конкуренты. Тогда дискуссия о безопасности ИИ станет еще и борьбой за контроль над будущим рынком. 

При этом эти версии не исключают друг друга. Компании могут одновременно действительно опасаться ускорения ИИ, договариваться о минимальных правилах безопасности и стремиться получить влияние на то, как эти правила будут выглядеть. 

Пока ни один из этих сценариев нельзя считать доказанным. Но уже очевидно другое: крупнейшие разработчики впервые так заметно переходят от индивидуальных предупреждений об опасности ИИ к разговору о коллективных правилах его развития.