Руководители крупнейших американских корпораций, специализирующихся на разработке искусственного интеллекта (ИИ) — OpenAI, Anthropic и SpaceX, — синхронно призвали к замедлению его развития. Корпорации обратили внимание на апокалиптические угрозы, связанные с быстрым прогрессом в этой области. Однако, по всей видимости, главным мотиватором для боссов ИИ-лидеров является не беспокойство о судьбах человечества, а куда более земной материальный интерес. Почему крупнейшие игроки рынка на словах выступают против развития этого рынка и в чем может быть их выгода, разбирались «Известия».

Пчелы против меда

Тревожные заявления от главы Anthropic Дарио Амодеи по поводу угроз стремительного подъема ИИ мало кого удивляют. С этой позицией он выступал и год, и два назад. Куда интереснее то, что в этот раз с ним солидаризировались руководители OpenAI, Google DeepMind. И что совсем уже удивительно — поддержал и гендиректор SpaceX Илон Маск, который в этой индустрии всегда имел «особое мнение». Даже инвесторов впечатлило такое единогласие. На короткий период времени акции ведущих компаний сектора, которые бьют рекорды по рыночной стоимости (особенно с учетом мизерных прибылей или, наоборот, серьезных убытков), даже потеряли в цене в ходе торгов на NASDAQ.

На самом деле расчет здесь довольно тонкий и очевидный. Основная цель кампании по «замедлению» — принудить государство, в первую очередь, конечно, американское, ввести строгое регулирование отрасли. Если правительство на законодательном уровне признает ИИ технологией, несущей смертельную опасность, следующим шагом станет внедрение барьеров.

Среди предлагаемых мер неизбежно окажутся обязательное государственное лицензирование дата-центров, требования по проведению аудитов безопасности перед каждым релизом и введение строгой юридической ответственности за любые непредвиденные действия нейросетей.

Для корпораций уровня OpenAI (за которой стоят бездонные бюджеты Microsoft) или Anthropic (субсидируемой Amazon и Google) траты в сотни миллионов долларов на юристов, аудиторов и отделы комплаенса являются рутинными операционными издержками. Для небольших независимых стартапов, академических лабораторий и проектов с открытым исходным кодом такие требования станут убийственными. Речь идет не только о независимых разработчиках, но и китайских компаниях, об опасности опенсорсной модели которых американская и европейская пресса в последние месяцы писала довольно много. Сложные бюрократические процедуры нивелируют все их современные преимущества. В идеале, конечно, планируется не ограничиваться только США, а через процедуры комплаенса распространить сдерживание на все страны, которые много торгуют и взаимодействуют с Америкой.

Неудобные вопросы

Дискуссии о том, что ИИ уничтожит человечество через пять или 10 лет, корпорациям выгодны и по множеству других причин. Например, отвлечь внимание конгрессменов и регуляторов других стран от вполне приземленных юридических проблем бигтеха.

Гигантам хайтека регулярно приходится отвечать на неудобные вопросы. На каком основании алгоритмы обучались на защищенных авторским правом материалах (включая многомиллиардные иски от The New York Times, гильдий писателей и художников)? Как решается проблема несанкционированного использования персональных данных сотен миллионов людей? Что делать с монополизацией рынка вычислительных мощностей? Обсуждать «риск восстания машин» на слушаниях в сенате США гораздо безопаснее для капитализации, чем отвечать на юридически каверзные вопросы о проблемах интеллектуальной собственности и обеспечивать выплаты миллиардных компенсаций правообладателям.

Деньги говорят

Позиция ИИ-боссов выглядит особенно двусмысленно при сопоставлении их публичных заявлений с реальными корпоративными стратегиями. Ни одна из упомянутых компаний ни на день не остановила закупку чипов и тренировку следующих поколений моделей. Напротив, глава OpenAI Сэм Альтман продолжает искать на Ближнем Востоке и в Азии триллионы долларов на строительство гигантских кластеров.

Характерна история с калифорнийским законопроектом SB 1047. В 2024 году политики штата попытались перейти от абстрактных бесед к делу, предложив ввести прямую юридическую ответственность для разработчиков за катастрофический ущерб от их алгоритмов. OpenAI официально выступила против этого документа, подключив весь свой лоббистский ресурс. Как только государство попыталось внедрить реальные механизмы наказания для бизнеса, энтузиазм корпораций в сфере «безопасности» мгновенно испарился.

Инициатива по лицензированию таит в себе еще одну юридическую уловку. Передавая государству право выдавать разрешения на запуск моделей, корпорации делят с ним ответственность.

Если в будущем сертифицированная правительством нейросеть будет использована злоумышленниками для написания вредоносного кода или взлома финансовой инфраструктуры, разработчики получат идеальный аргумент для защиты в суде. Они смогут заявить, что модель прошла все установленные государством тесты, получила лицензию, а следовательно, вина лежит на самом регуляторе. Жесткий контроль в данном случае выступает в роли страхового полиса и индульгенции от многомиллиардных коллективных исков. К этому добавляется мощный пиар-эффект: компании позиционируют себя как ответственных визионеров, готовых пожертвовать прибылью ради блага планеты.

Фото: ИЗВЕСТИЯ/Сергей Лантюхов

На этой неделе аналитик Кевин Басс провел аудит финансов Anthropic и выяснил, что «независимая» организация METR, которая должна, по замыслу корпоративных лидеров, проверять продукты компании на безопасность, является крупным инвестором в компанию Амодеи. Замысел выглядит безупречно: о том, может ли ИИ от той или иной фирмы погубить человечество, будет судить де-факто подконтрольная им организация. «Для своих всё, для чужих — закон».

Реакция и перспективы

Идея искусственного торможения американской технологической индустрии предсказуемо натолкнулась на резкое неприятие у нынешней администрации. Президент США Дональд Трамп охарактеризовал призывы к замедлению как откровенное вредительство. С точки зрения консервативного истеблишмента, развитие ИИ — это гонка вооружений. Любые нормативные акты, ограничивающие американский бизнес, воспринимаются как прямой саботаж национальной безопасности.

Опасения американских политиков имеют под собой железобетонное основание: Пекин замедляться не собирается. Китайские корпорации (Baidu, Alibaba, Tencent) в последние месяцы совершили мощный рывок, наводнив глобальный рынок качественными и дешевыми решениями с открытым исходным кодом. Для КНР разговоры о паузе в США звучат как приглашение занять лидирующие позиции на рынках Глобального Юга. Попытка американских корпораций выстроить регуляторные барьеры внутри США приведет к тому, что центр развития технологий окончательно сместится в сторону Азии.

Фото: ИЗВЕСТИЯ/Эдуард Корниенко

 

Экономическая модель современного бигтеха исключает возможность реальной паузы. Индустрия функционирует за счет колоссальных инвестиций. Только в текущем году на закупку оборудования и строительство дата-центров выделены сотни миллиардов долларов.

Инвесторы оценивают капитализацию технологического сектора США в триллионы, исходя из ожиданий безостановочного, экспоненциального роста возможностей нейросетей. Настоящая физическая остановка разработок хотя бы на полгода вызовет эффект домино. Рынок осознает, что новые продукты не появятся в срок, а доходы от подписок не покроют расходы на электричество и чипы. Стоит также учитывать, что на ИИ и смежных индустриях фактически держится весь американский фондовый рынок. Если у них начнется спад, всё остальное просто развалится.

Именно поэтому никаких реальных остановок серверов не предвидится. Письма с предупреждениями об апокалипсисе продолжат публиковаться, руководство корпораций будет призывать к созданию комиссий и комитетов. Под прикрытием этих дискуссий ИИ-мейджоры продолжат перекраивать мировой рынок, стараясь устанавливать максимально выгодные для себя правила.

Дмитрий Мигунов