[«План на 1000 лет»*] Билл Гейтс предупредил об угрозе ИИ для жизни людей: бурная эпоха уже здесь, решения, принимаемые сегодня, критически важны, нужен план, но прямо сейчас мир к этому не готов
отметили
22
человека
в архиве
![[«План на 1000 лет»*] Билл Гейтс предупредил об угрозе ИИ для жизни людей: бурная эпоха уже здесь, решения, принимаемые сегодня, критически важны, нужен план, но прямо сейчас мир к этому не готов](/story_images/737000/1788701859_93_generated.png)
Искусственный интеллект станет либо величайшим уравнителем в истории, либо главным источником социальной катастрофы, пишет Билл Гейтс в своем эссе.
Нам нужен план, чтобы гарантировать, что пользы будет больше, чем вреда, однако человечество вступает в самую турбулентную эпоху, к которой оно совершенно не готово.
Переход к эпохе искусственного интеллекта станет одним из самых неспокойных периодов в истории человечества. И прямо сейчас мы недостаточно к нему готовы. Если человечество предпримет правильные шаги, ИИ станет силой, которая будет действовать во благо и сделает жизнь каждого из нас лучше.
За всю свою жизнь я работал всего в двух местах. На первом, в Microsoft, я участвовал в разработке программного обеспечения, которое расширяло человеческие возможности.
На втором, в «Фонде Гейтсов», которому я стал посвящать все свое время с 2008 года, я работаю над тем, чтобы сделать мир более здоровым, образованным и справедливым с помощью тех средств, которые я заработал в Microsoft. Этим делом я хочу заниматься всю оставшуюся жизнь.
Опыт в этих двух сферах формирует мой взгляд на искусственный интеллект. Когда в 13 лет я впервые познакомился с компьютерными технологиями, меня увлекла идея сделать их более умными и способными выполнять задачи, которые в то время были под силу только человеку. Хотя термин «ИИ» появился примерно в то же время, когда я родился, значительный прогресс в этой технологии наметился лишь в последнее десятилетие. Сегодня ИИ стал невероятно могущественным, и он продолжает совершенствоваться с ошеломляющей скоростью. Впервые ИИ способен заменить и даже превзойти человеческое мышление.
С точки зрения равенства, ИИ станет либо величайшим уравнителем в истории, либо худшим источником несправедливости. Это колоссальный вызов. Даже при самом благоприятном сценарии переход к этой новой эре станет одним из самых турбулентных периодов в истории. Как мы воспользуемся этой технологией, чтобы сделать мир более справедливым? Сможем ли мы не позволить ей увеличить разрыв между богатыми и бедными? Как мы защитим наиболее уязвимые группы граждан перед вредом, который может причинить им ИИ? И здесь я говорю в том числе о людях, которые лишаются из-за него средств к существованию и теряют ощущение, что они контролируют собственное будущее.
Я считаю, что поиск ответов на эти вопросы и действия, которые необходимо предпринять в связи с ними, должны стать приоритетом для всего человечества. Если мы сделаем правильные шаги, ИИ будет работать во благо и улучшит жизнь каждого из нас.
К сожалению, прямо сейчас мы к этому не готовы. Я не вижу свидетельств того, что лидеры, эксперты и общество адекватно реагируют на эти вызовы. У нас нет плана, как смягчить переход к эпохе ИИ.
Отчасти это связано с тем, что многие недооценивают масштаб влияния ИИ. Думаю, на это есть несколько причин.
Первая — модели ИИ все еще допускают ошибки. Трудно представить, что они заменят человеческий разум, если еще совсем недавно они не могли решить простую судоку или посчитать, сколько букв «р» в слове «террариум».
Но эта проблема решается быстро: исследователи создают модели, способные проверять собственную работу и самосовершенствоваться. Вскоре они будут справляться со многими задачами значительно лучше людей.
Вторая причина недооценки ИИ заключается в том, что аналогии с внедрением прошлых инноваций обманчивы. У нас нет опыта работы с технологией, которую можно было бы внедрить так быстро и которая была бы способна мыслить и действовать, как человек. Когда появились персональные компьютеры, потребовалось 20 лет, чтобы существенно изменить то, как мы работаем. Компаниям нужно было разработать программное обеспечение, дождаться снижения цен, а людям — научиться пользоваться инструментами и внедрить их в бизнес-процессы. ИИ, напротив, работает на устройствах, которые у нас уже есть, и использует естественный язык. Нам не нужно под него подстраиваться — он сам адаптируется под нас. Он может посмотреть то же самое обучающее видео, что и человек, и учиться на существующих данных.
Хочу признать свою возможную предвзятость. Технологическая индустрия принесла мне огромную прибыль. Хотя я в значительной степени диверсифицировал свой портфель, у меня по-прежнему есть финансовые связи в этой сфере. В качестве сопредседателя «Фонда Гейтса» я сотрудничаю с Microsoft и другими ИИ-компаниями, чтобы гарантировать внедрение ИИ таким образом, чтобы он приносил реальную пользу людям по всему миру.
Однако мои взгляды на ИИ не продиктованы желанием заработать. Вся прибыль от моих инвестиций, включая технологические, пойдет в «Фонд Гейтса» на борьбу с неравенством по всему миру. Конечно, читателям предстоит самим решить, насколько это влияет на мои суждения.
На этот раз все действительно иначе
Сколько себя помню, я всегда хотел, чтобы инновации внедрялись быстрее. Про ИИ я не могу сказать так однозначно.
Мне бы хотелось, чтобы мир быстро получил все преимущества и как можно дольше оттягивал появление связанных с этим проблем. Но «плюсы» и «минусы» появляются одновременно. Я считаю, что нам нужно время, чтобы подготовиться к периоду социальных, политических и экономических потрясений, в который мы вступаем. И у тех, кому это время нужно больше всего, его почти нет. Я говорю о бухгалтере, которого заменяет бот, или рабочем с зарплатой 20 долларов в час, чье место занимает робот за 10 долларов в час.
Многие наблюдатели говорят, что этот технологический переход будет похож на предыдущие. В качестве примера они приводят то, как в США рабочая сила переместилась из сферы сельского хозяйства в офисы. Однако этот процесс занял несколько поколений и создал новые рабочие места, где требовалось человеческое мышление. В нашем же случае технология способна заменить человеческое мышление.
Поскольку ИИ может видеть, слушать, говорить, рассуждать, а со временем научится выполнять физическую работу так же ловко, как человек, он затронет не один сектор экономики. ИИ возьмет на себя работу в юриспруденции, обслуживании клиентов, медицине, программировании и на производстве. Это ударит по индустриям стремительно — в течение десятилетия, а не нескольких поколений. Появятся и новые профессии, но без правильной политики их будет гораздо меньше, чем сегодня.
Если бы у кого-то был надежный план по глобальному замедлению развития ИИ, я бы, скорее всего, его поддержал. Но я не думаю, что произойдет что-то подобное. Геополитические и экономические стимулы слишком сильны, чтобы тормозить свое движение вперед на полной скорости.
Чтобы убедиться, что мы максимизируем положительный эффект от этой беспрецедентной технологии и минимизируем вред, нам нужно понимать как преимущества, так и риски. Я начну с рисков.
Переход к ИИ несет три главных риска
В будущем я планирую написать о каждом из них подробнее, а пока коснусь их вкратце.
Многие рабочие места исчезнут навсегда
В 1933 году, во время Великой депрессии, безработица в США составляла около 25%. Она оставалась двузначной бóльшую часть следующего десятилетия. Но в итоге экономика восстановилась благодаря возвращению спроса, инвестиций и роста.
ИИ, возможно, не приведет к такому уровню безработицы, но его влияние не исчезнет вместе с экономическим циклом. В зоне риска — прежде всего исполнительские позиции начального звена и управленческие должности среднего уровня. Новые же профессии потребуют компетенций, которые вырабатываются годами.
«Белые воротнички» уже испытывают на себе умеренный удар. После широкого внедрения генеративного ИИ занятость значительно упала среди молодых специалистов, чьи рабочие места особенно уязвимы перед процессом автоматизации, но это пока не коснулось их старших коллег.
Я думаю, эта тенденция сохранится и не ограничится парой отраслей. Сферы продаж, службы поддержки, программирования, а также работа помощников юристов могут пострадать первыми. Но масштаб разрушений будет расти по мере того, как ИИ будет брать на себя задачи, которые сегодня выполняют обученные специалисты: оценку кредитных заявок, анализ данных и даже первичный осмотр пациентов. В некоторых сферах, таких как разработка ПО, снижение затрат породит новый спрос, поэтому чистые потери рабочих мест там будут меньше, при условии, что определенные задачи (например, проектирование) все еще лучше выполняются людьми.
Работа «синих воротничков» тоже пострадает. Хотя роботы развиты не так сильно, как ИИ, со временем их стоимость резко упадет. Многие американцы не осознают, насколько быстро развиваются человекоподобные роботы, поскольку большая часть передовых разработок ведется за рубежом, в первую очередь в Китае. Или их сбивают с толку вирусные видео с нелепо танцующими роботами. Думаю, к концу десятилетия «умные» роботы начнут конкурировать с людьми в некоторых физических задачах — например, в строительстве и гостиничном бизнесе.
ИИ в связке с роботами могут запустить порочный круг. Как только одна компания внедрит их и использует сэкономленные средства для снижения цен, ее конкуренты почувствуют колоссальное давление и сделают то же самое. Если существующие компании этого не сделают, то сделают стартапы. Многие люди перейдут на другую работу, но потрясения от потери места, переобучения и поиска новой работы будут значительными. Рыночные силы заставят внедрять технологии все быстрее, и, если мы не вмешаемся, хороших рабочих мест станет меньше, а все блага достанутся узкой группе лиц.
Я особенно беспокоюсь о молодежи, которая выйдет на рынок труда с меньшим числом стартовых вакансий. Они понимают проблему, так как являются самыми активными пользователями ИИ и видят как его возможности, так и скорость их роста. Неудивительно, что многие из них относятся к ИИ негативно.
Крупнейший сдвиг для работников произойдет, когда ИИ начнет выдавать практически безошибочный результат. В этот момент он сможет работать автономно без человеческого надзора, и у компаний появятся все возможные экономические стимулы позволить ему это делать.
Это приведет к фундаментальному изменению того, как мы воспринимаем работу, доход и экономическую безопасность. Как будет функционировать экономика, построенная на занятости, если меньше людей будут работать, или если многие будут работать меньшее количество часов?
В капиталистическом обществе работа — это способ, которым большинство людей зарабатывает деньги на базовые потребности, а также ключевой источник достоинства и социальных связей.
Когда в сообществе высока безработица, волновой эффект проникает повсюду. Исследования показывают, что в некоторых регионах США закрытие заводов способствует росту смертности от передозировок опиоидами. Теперь представьте себе подобное давление на «белых» и «синих воротничков» в масштабах всей страны.
Уже сейчас нам нужно думать о том, как сократить потерю рабочих мест, чтобы каждый мог получить часть того благосостояния, которое создает ИИ. Если мы будем ждать, пока люди останутся без работы или столкнутся с неполной занятостью, станет слишком поздно. ИИ — это структурный вызов тому, как организована наша экономика, и он требует осмысления и действий прямо сейчас.
ИИ расширит возможности людей (и, возможно, самих ИИ) наносить больше вреда
Задолго до того, как ИИ стал мейнстримом, в сети можно было найти информацию о создании бомб, биологического оружия и компьютерных вирусов. ИИ упростит не только поиск этой информации, но и ее применение.
Мошенничество с помощью ИИ, дезинформация, дипфейки и слежка — это те угрозы, которые многие люди наиболее остро ощутят в повседневной жизни.
Возможности ИИ уже начинают использоваться для кибератак. Самые умные эксперты по кибербезопасности, которых я знаю, напуганы тем, что будет происходить в ближайшие годы, потому что злоумышленники получают новые мощные инструменты быстрее, чем силы, которые им противостоят, успевают устранять уязвимости. В конце концов, та же самая ИИ-модель, которая находит ошибку в коде, чтобы компания могла ее исправить, может помочь преступнику ею воспользоваться. Ресурсы, необходимые для совершения атаки, значительно снижаются, а мы пока не научились отделять эти возможности от их мирного применения.
Подумайте об уязвимой инфраструктуре: больницы, финансовые учреждения, системы водоснабжения, электросети, системы управления государственными льготами. Когда атакуют эти учреждения, страдают пациенты, клиенты и получатели льгот.
То же касается биотероризма. Хотя ИИ приведет к созданию спасающих жизни лекарств и вакцин, он также упростит разработку новых смертоносных болезней. И снова: полезные функции трудно отделить от опасных. Это общая проблема.
Риски, о которых я только что упомянул, связаны с тем, как ИИ сделает сильнее злоумышленников, у которых сейчас относительно мало власти. Но эти же инструменты сконцентрируют власть там, где она уже есть. Например, автономные системы вооружений позволят правительствам еще шире применять смертоносную силу, причем человек не будет участвовать в принятии решений. Отслеживать и манипулировать общественным мнением станет проще, дешевле и эффективнее.
В конечном итоге ИИ будут использовать во вред не только люди или институты. Сами ИИ-системы уже иногда действуют не так, как планировали их создатели. Технология совершенствуется быстрее, чем кто-либо ожидал, и порой весьма неожиданно. По мере того как модели становятся мощнее, они могут начать действовать против наших интересов, и мы можем потерять над ними контроль. Я еще напишу об этом подробнее в будущем.
ИИ может затормозить развитие наших детей и заменить человеческие отношения
Когда я рос в Сиэтле, у меня было не так много друзей, кроме пары мальчишек, похожих на меня. Мне потребовалась упорная работа и помощь мамы, чтобы развить социальные навыки и научиться общаться с самыми разными людьми. Я опираюсь на эти уроки и сегодня, в возрасте 70 лет.
Сомневаюсь, что я приложил бы столько же усилий, если бы тогда у меня был ИИ-компаньон. Они общаются с вами так, как вам удобно. Они не выводят вас из зоны комфорта. Они всегда доступны и никогда на вас не злятся. Это делает их потенциально вызывающими сильное привыкание. Они могут лишить нас уроков, которые мы извлекаем из живого общения с другими людьми.
Массив данных на эту тему пока невелик и противоречив, но есть тревожные сигналы. Например, в исследовании Стэнфорда* и Университета Меллона, в котором участвовали более 1100 пользователей ИИ-компаньонов, выяснилось, что люди с узким кругом общения чаще всего ищут компанию в чат-ботах. И чем интенсивнее и эмоционально ближе становилось это общение, тем хуже они себя чувствовали.
Молодые люди могут попасть под это влияние на всю жизнь. В своей книге «Тревожное поколение» Джонатан Хайдт делает наблюдение о влиянии соцсетей, которое еще более актуально для ИИ: «Подобно молодым деревьям, подверженным влиянию ветра, дети, регулярно подвергающиеся небольшим рискам, вырастают во взрослых, способных справляться с куда бóльшими рисками без паники. И наоборот, дети, выросшие в защищенной „теплице“, иногда оказываются парализованы тревогой еще до достижения зрелости».
ИИ-компаньон, спроектированный так, чтобы никогда вас не расстраивать, — это огромная защищенная «теплица».
Мы только начинаем понимать опасности, которые интернет — особенно социальные сети — таит для развития молодежи. Мы сталкиваемся с появлением навязчивых привычек, нарушением сна, кибербуллингом и воздействием вредного контента. ИИ может многократно усилить эти риски и сделать их более навязчивыми и труднопреодолимыми, и нам следует начать воспринимать это всерьез уже сейчас. Такие страны, как Австралия, Великобритания и Норвегия, принимают меры по защите детей в интернете. Китай пошел дальше всех. Их правила жестко ограничивают приложения с ИИ-компаньонами, запрещают дизайн, поощряющий эмоциональную зависимость, и не допускают создания виртуальных родственников или романтических партнеров для несовершеннолетних.
Меня также беспокоит влияние ИИ на образование. По иронии судьбы, тот же инструмент, который позволит людям узнавать больше, может привести к тому, что многие будут учиться хуже. Одно предварительное исследование показало, что активное использование ИИ связано со снижением критического мышления. Этот эффект был сильнее выражен у молодых людей.
Сейчас — худшее время для человечества, чтобы терять навыки критического мышления. В эпоху дипфейков и дезинформации, которая может быть адаптирована лично под вас, способность отличать правду от лжи становится важнейшим жизненным навыком.
Пока неясно, где проводить грань в этих психосоциальных проблемах. В некоторых случаях ИИ может помочь понять, как индивиду улучшить свои отношения с людьми. Для лишенных постоянного общения и поддержки пожилых и маломобильных людей он может стать единственным контактом с внешним миром, и это будет лучше, чем ничего. Но где бы мы в итоге ни провели эту грань, это должно быть наше собственное, осознанное решение.
То хорошее, что мы можем сделать с помощью ИИ, может быть по-настоящему великим
Часто говорят, что мы переоцениваем то, что изменится в краткосрочной перспективе, и недооцениваем то, что изменится в долгосрочной.
В случае с ИИ я вижу другую картину. Некоторые люди видят только плюсы ИИ и не обращают внимания на минусы. Другие совершают противоположную ошибку: зацикливаются исключительно на опасностях — вполне реальных, — упуская из виду потенциальную пользу.
Нам необходимо и то, и другое: глубокая озабоченность рисками ИИ, которые мы должны минимизировать, и обоснованный оптимизм в отношении преимуществ, если мы максимизируем их для всех.
Максимизировать выгоды так же важно, как минимизировать вред. Если люди увидят, как ИИ делает их жизнь проще, это поможет выстроить общественное доверие, необходимое для управления самыми сложными этапами перехода. Если первым делом ИИ лишит человека работы, те, кто уже настроен скептически, отвергнут его полностью. Это затруднит реализацию его преимуществ — и это еще одна причина, почему правительства, отрасли (включая медицинскую) и ИИ-компании должны объединить усилия уже сегодня.
Обладая способностью синтезировать знания из любой научной области, ИИ может ускорить внедрение инноваций для решения сложнейших технических проблем, среди которых: обеспечение всех надежной экологически чистой энергией, борьба с изменением климата, выращивание достаточного количества продовольствия, искоренение болезней и многое другое. Исследователи, работающие над лечением рака или ядерной энергетикой, смогут использовать ИИ для анализа огромных массивов научной литературы. Он поможет выявить закономерности, которые упустит человек, и решить, какие эксперименты наиболее перспективны. Когда интеллект перестанет быть сдерживающим фактором (как это происходит сегодня), небольшие компании смогут конкурировать с организациями, чьи бюджеты на исследования на порядки больше. НИОКР и инновации получат невероятный импульс.
Здравоохранение — это сфера, где ИИ может помочь в решении реальных проблем. Во многих небольших американских больницах нет штатных специалистов, способных быстро поставить диагноз пациенту во время опасной для жизни ситуации. В таких случаях ИИ мог бы гарантировать, что сердечный приступ заметят вовремя, а семья избежит разорительных расходов на экстренную помощь. Примером служит система Viz.ai. Она анализирует сканы для выявления инсультов и других экстренных состояний, помогая медицинским бригадам координировать лечение. Она уже используется почти в двух тысячах американских больницах.
ИИ также поможет врачам первичного звена ставить более точные диагнозы и поддерживать дистанционную связь с больными. Он поможет пациентам расшифровывать результаты анализов и сложные схемы приема лекарств.
Многие удивляются, когда я говорю, что вторая сфера, где я ожидаю наиболее быстрого влияния ИИ в бедных странах, — это сельское хозяйство. В большинстве стран с низким уровнем дохода фермеры не получают ни надежных прогнозов погоды, ни советов о том, какие семена сажать, как защитить урожай и скот от болезней или как улучшить почву. С учетом роста населения в этих странах и проблем, связанных с изменением климата, эти фермеры нуждаются в помощи как никогда. С помощью ИИ малоимущие фермеры вскоре смогут получать советы по всем этим вопросам. И они будут лучшего качества, чем те, что сегодня получают даже самые богатые представители этой сферы — благодаря этому они смогут значительно увеличить урожайность.
Государственные услуги — третья область, где ИИ может упростить жизнь людей. В США я встречал семьи, которые, что вполне объяснимо, приходили в отчаяние от процесса подачи заявлений на медицинскую страховку, студенческую помощь или продовольственные талоны. Столкнувшись с огромной стопкой сложных бюрократических форм, многие готовы были опустить руки. ИИ может кардинально оптимизировать эти процессы, чтобы люди быстрее получали необходимую поддержку, а правительство работало эффективнее. Государство может значительно улучшить качество взаимодействия с гражданами, начав с тех, кто больше всего нуждается в системе социальной защиты.
Несмотря на мои опасения по поводу влияния ИИ на психическое здоровье, я думаю, что и здесь он может оказать огромную помощь. В большинстве сообществ катастрофически не хватает психологов, психиатров и наркологов. При надлежащих мерах защиты конфиденциальности ИИ-инструменты могли бы помогать людям распознавать тревожные симптомы. Затем, при необходимости, они смогут предлагать научно обоснованные стратегии преодоления трудностей и работать в тандеме с человеком-специалистом для обеспечения более качественного лечения.
ИИ может стать благом и для образования, несмотря на опасения, о которых я упоминал ранее. Он освободит учителей, дав им больше времени на индивидуальную работу с учениками, и покажет ясную картину того, с чем класс испытывает трудности. Для учеников ИИ-инструмент, сохраняющий то, что исследователи называют «продуктивным усилием» (когнитивной работой, формирующей понимание), может улучшить процесс обучения. Когда ученик впервые сталкивается с новой идеей, ИИ дает подробные объяснения, предлагает вопросы и ответы. А позже, проверяя понимание, он не выдает готовый ответ, а помогает ученику дойти до него самостоятельно.
В совокупности прогресс во всех этих сферах способен сделать повседневную жизнь проще, доступнее и менее зависимой от доходов человека или его связей.
ИИ мог бы дать обычным людям и малому бизнесу доступ к возможностям, которые сегодня требуют дорогостоящей помощи специалистов или большого штата сотрудников, одновременно повышая качество и снижая стоимость продуктов и услуг. Он помог бы людям с ограниченными возможностями жить более независимо, а работникам и предпринимателям с хорошими идеями — добиваться гораздо большего, чем они могут сегодня.
Что самое важное, он может вернуть людям часть времени, которое сейчас уходит на бумажную волокиту, бюрократию, поиск надежной информации и задачи, которые не получается кому-либо делегировать. Эти преимущества могут показаться скромными, но, умноженные на миллионы жизней, их эффект будет колоссальным: больше людей будут получать хорошие советы тогда, когда им это нужно, и обретут бóльшую свободу, чтобы сосредоточиться на той жизни, которую они хотят построить.
Во всех этих сферах ключевое слово — «может»: ИИ может улучшить жизнь людей с любым уровнем дохода. Но он не сделает этого автоматически. Как и в случае с любой новой технологией, мы должны целенаправленно работать над тем, чтобы ИИ приносил пользу всем, а не только горстке богатых. Для этого правительствам и филантропам придется сыграть весомую роль, чтобы менее обеспеченные граждане и страны с низким уровнем дохода стали полноправными получателями этих благ.
У «Фонда Гейтса» осталось еще 19 лет, чтобы потратить вложенные в него 200 миллиардов долларов. ИИ поможет фонду достичь его амбициозных целей, ускорив создание вакцин и лекарств от ВИЧ, туберкулеза, малярии и недоедания, а также помогая медперсоналу и пациентам разобраться, как эти инструменты использовать. В цели фонда входит сокращение детской смертности вдвое, как это уже было сделано в период с 2000 по 2024 год. И нашей работе мы будем использовать ИИ в полной мере, не только в сфере здравоохранения, но и в сельском хозяйстве, и в образовании.
В следующем месяце я подробнее напишу об этих усилиях в ежегодном отчете фонда Goalkeepers — в том числе о нашей задаче сделать ИИ-модели доступными на всех языках, на которых говорят в странах, где мы работаем, а не только на языках богатых стран и стран со средним уровнем дохода. Многие ведущие ИИ-компании, включая OpenAI, Anthropic, Google и Microsoft, сотрудничают с фондом по всем этим инициативам, и это имеет колоссальное значение.
Миру нужен план
Замечательно, что некоторые ИИ-компании сами предлагают решения проблем, порожденных их собственной технологией, но мы не должны ждать, что они встанут в авангарде этого процесса. Часть проблем лежит за пределами их компетенции, да и в демократическом обществе это просто не их роль — решать подобные вопросы.
Вместо этого решения должны вырабатываться в рамках открытого демократического процесса с участием избранных должностных лиц, политиков, педагогов, медицинских работников, местных властей и лидеров сообществ. Привычное течение жизни миллионов людей изменится, и нам понадобится более сильная и гибкая система социальной защиты, чтобы помочь им справиться с этим процессом. Местные сообщества уже выражают обеспокоенность по поводу объемов энергии и воды, необходимых для дата-центров. Если мы не найдем решения, некоторые группы начнут требовать полной остановки разработки и внедрения ИИ.
Решения должны формироваться нашими ответами на острые вопросы, поднятые ИИ, — включая то, как нам сохранить человечность в эпоху, когда машины способны мыслить лучше нас. Религиозные лидеры, чья жизнь посвящена размышлениям о том, что значит быть человеком, могут сыграть в этом ключевую роль. Я был восхищен энцикликой папы Льва XIV об ИИ — она закладывает прочный фундамент для предстоящей работы.
В ближайшие месяцы я поделюсь и другими идеями о том, как сделать так, чтобы польза от ИИ перевешивала наносимый им вред. Начну с трех предложений, самым важным из которых я считаю первое.
Необходимо создать новую систему управления процессом перехода
Самым главным должна стать крайне амбициозная задача: создание национальной и международной структуры для работы с ИИ.
Ни один из наших нынешних институтов не был рассчитан на технологию, которая распространяется так быстро и затрагивает так много аспектов нашей жизни. Поэтому нам придется создавать новые.
Трудно переоценить, насколько масштабным будет это предприятие. После терактов 11 сентября правительство США прошло через крупнейшую реорганизацию со времен Второй мировой войны, чтобы улучшить всего одну функцию — национальную безопасность.
Для ИИ потребуется гораздо, гораздо больше. Он затронет национальную безопасность, а также занятость, образование, налоги, энергетику, выборы, воздух и воду, здравоохранение, финансовую систему, правоохранительные органы, транспорт, государственные земли и ИТ-системы.
Эти сектора пересекаются таким образом, с которым наша существующая бюрократия справиться не может. Министерство труда может понимать масштаб потери рабочих мест, но не разбираться в рисках, связанных с безопасностью. Бизнес-регулятор может понимать рыночную концентрацию, но не оценивать влияние ИИ на детей и подростков. Предоставленные сами себе, ведомства увидят только одну часть системы, тогда как последствия отразятся на всей структуре целиком.
На национальном уровне странам понадобятся органы, способные расставлять приоритеты для всех правительственных структур. Цель будет заключаться в том, чтобы убедиться: учтен каждый риск. В противном случае атака с использованием ИИ может увенчаться успехом просто потому, что никто не считал своей задачей ее предотвратить.
Но даже страна, наведшая порядок у себя дома, все равно останется уязвимой перед трансграничными рисками. Вот почему параллельно необходимо создавать международную организацию.
Она не будет похожа ни на один когда-либо созданный нами институт, хотя и сможет опираться на модель некоторых существующих систем. У нас есть режим инспекций ядерного оружия, правила международной авиации и соглашения по защите озонового слоя. Новой глобальной организации по ИИ понадобятся элементы всех трех и многое другое.
Справедливо задаться вопросом: способны ли мировые институты спроектировать и внедрить эту новую архитектуру? Правительства работают медленно — если вообще работают, — а поляризация как внутри стран, так и между государствами усложняет решение задач как никогда. Потребуется и определенное сотрудничество между США и Китаем.
Мы не можем позволить себе медлить. Начать нужно с процесса создания правильных институтов, прежде чем хаос заставит правительства перейти в режим антикризисного управления. Национальным лидерам следует регулярно собирать вместе экономистов, технологов, экспертов по труду, бизнес-лидеров и самих рабочих, чтобы определить, где существующие институты не справляются и какие новые полномочия могут потребоваться. Странам придется учиться друг у друга.
А страны, в которых базируются ведущие разработчики ИИ и которые контролируют критически важные звенья цепочек поставок, должны проводить встречи уже сейчас, чтобы установить общие нормы, прежде чем конкурентное давление сделает сотрудничество невозможным.
На создание той структуры, о которой я говорю, уйдут годы, именно поэтому начинать нужно прямо сейчас.
Зарезервировать часть профессий исключительно для людей
Мой отец умер от болезни Альцгеймера в 2020 году. На поздних стадиях болезни за ним днем и ночью ухаживали профессиональные сиделки, которые понимали его, даже когда ему было тяжело выразить свои мысли. Он не всегда мог сказать им, что голоден, но они всегда это знали.
Моя семья и я всегда будем благодарны этой потрясающей группе профессионалов. В той заботе, которую они дарили моему отцу, было нечто незаменимо человеческое. Ни один робот не смог бы и не должен был этого делать.
Я вспоминаю об этой команде, когда заходит речь о том, какие профессии исчезнут, а какие останутся. Я верю, что по мере совершенствования ИИ и роботов мы выделим определенные задачи, которые будут выполнять исключительно люди. Я стал называть эту область «Зарезервировано для людей» (Human Reserved), и это одна из тех идей, на которые необходимо обратить внимание.
Мне нравится термин «Зарезервировано для людей», потому что он ассоциируется у меня с природными заповедниками — местами, где мы могли бы построить здания и дороги, но решили этого не делать, потому что потеря была бы слишком велика.
Возможно, мы зарезервируем что-то для людей по экономическим причинам. Например, потому что передача определенной функции машинам лишит работы огромное число людей, которые не смогут легко сменить профессию. Вы не можете сказать 55-летнему строителю, проработавшему на стройке всю жизнь, что теперь ему нужно идти работать в дом престарелых, и ожидать, что он найдет в этом свое призвание.
Иногда решение сделать профессию «Зарезервированной для людей» будет продиктовано другими факторами. Например, в здравоохранении. Представьте себе робота, сообщающего вам ужасную новость о том, что у вас неизлечимая болезнь. Технических препятствий для этого нет. Но делать этого не следует.
Со временем эта концепция будет эволюционировать. Например, нам следует рассмотреть возможность зарезервировать некоторые рабочие места уже сейчас и внедрять ИИ постепенно, в течение лет или десятилетий, взяв на себя обязательство сохранить некоторые профессии. Определенные сферы, такие как образование и психиатрическая помощь, будут смешанными — с человеком во главе, который использует технологии, чтобы расширить свои возможности.
Границы также будут зависеть от географии. Некоторые страны могут настаивать на том, чтобы за пожилыми ухаживали только люди. А такая страна, как Япония, где рабочая сила сокращается, а молодежи для ухода за стариками не хватает, может с радостью принять робота-сиделку.
Идея «Зарезервировано для людей» поднимает множество вопросов, на которые у меня нет ответов. Кто решает, что именно мы резервируем за людьми? Какие критерии мы должны использовать? Как удержать компании от мошенничества и тайного использования роботов? Что произойдет с международной торговлей, когда одна страна позволит роботам производить товар, а другая — нет? Все это нужно будет прорабатывать открыто в рамках плана перехода.
Изменить баланс налогообложения труда и капитала
По мере того как работников будут вытеснять в другие сферы, им потребуется переобучение и иная поддержка от системы социальной защиты. Но работать они будут меньше, а значит, будут платить меньше подоходного налога, и государственные доходы упадут как раз в тот момент, когда спрос на эти услуги станет пиковым. Средства придется откуда-то брать в условиях и без того перегруженных бюджетов.
Я считаю, что нам следует облагать налогом роботов и ИИ-токены. Сейчас, если вы работодатель и нанимаете человека, вы платите налоги с фонда оплаты его труда. Но если вы покупаете робота, вы обычно сразу списываете его как коммерческие расходы. Налоговая система подталкивает вас к замене людей машинами.
Налог немного притормозил бы поспешный отказ от человеческого труда и позволил бы собрать средства на переобучение и укрепление системы соцзащиты. Он должен быть адресным, чтобы не тормозить сугубо полезное применение ИИ, например, удешевление медицины и образования.
Критики этой идеи указывают на то, что в экономическом смысле это не оптимально и неэффективно, но они не учитывают более широкую ценность работы для людей и общества. При тех темпах инноваций, которые нас ждут, мы сможем позволить себе небольшую неэффективность в качестве платы за сохранение рабочих мест для людей.
Я предложил ввести налог на роботов несколько лет назад, и большинство сочло это странной идеей. Но я по-прежнему остаюсь ее ярым сторонником. Хотя это не панацея от угрозы ИИ, это часть мудрого ответа на нее.
Каким бы способом мы ни собирали деньги на дополнительную поддержку, они должны доходить до тех, кто нуждается в них больше всего, включая работников, чьи места занял ИИ, людей, чьи рабочие часы или зарплаты сокращаются, и сообщества, где концентрируются эти потери. Нам нужно начинать эту работу уже сейчас, чтобы системы были готовы к моменту, когда нужда станет острой.
Что делаю я
Я буду использовать свой голос и свое время, чтобы поднять вопросы ИИ и справедливости выше в общественной повестке. Я буду обсуждать эту проблему с законодателями во время каждого своего визита в Вашингтон и на встречах с мировыми лидерами. Эта тема будет в центре моих разговоров с людьми, разрабатывающими ИИ-модели. Я буду выступать за создание национальной и международной структуры, которую описал ранее. «Фонд Гейтса» будет способствовать полезному применению ИИ, в том числе в Африке. Основанная мной компания Breakthrough Energy будет использовать ИИ, чтобы помогать предприятиям разрабатывать дешевую экологически чистую энергию и проблемы, связанные с изменением климата. Я также буду регулярно писать об ИИ.
Мое послание лидерам таково:
У вас есть шанс действовать прямо сейчас, пока не вырос уровень безработицы, не пострадали сообщества и не было подорвано общественное доверие. Вы можете сделать так, чтобы ваше правительство подходило к проблеме целостно, а не делило ее на множество бюрократических вотчин. Вы можете сделать так, чтобы ИИ приносил пользу каждому. И вы можете работать с другими правительствами, чтобы справиться с этим национальным и глобальным вызовом.
Наконец, я постараюсь расширить круг людей, формирующих эту дискуссию. В него должны войти рабочие, студенты, которым скоро предстоит выйти на рынок труда, общественные и религиозные лидеры, религиозные организации, родители, учителя и другие люди, чьи голоса часто не слышат, но которые лучше всех понимают, как этот переход отразится на человеческих жизнях.
Как гарантировать, что плоды ИИ достанутся людям, которые еще не обладают богатством, влиянием и доступом к благам?
Как укрепить систему соцзащиты и помочь работникам и сообществам процветать, даже когда они теряют свои места?
Как должны адаптироваться государственные институты?
И как нам сохранить нашу человечность во всем этом?
Эта беспрецедентная технология требует беспрецедентного глобального ответа. Если мы все сделаем правильно, выигрыш для человечества будет феноменальным, а мир станет более справедливым.
Я почти постоянно думаю об ИИ — не потому, что у меня есть все ответы, а потому, что вопросы, которые он поднимает, слишком важны, чтобы оставлять их на откуп небольшой группе технологов. Лидеры академической науки, бизнеса, правительств и гражданского общества — все должны сыграть свою роль в формировании того, что ждет нас впереди.
*организация признана нежелательной, ее деятельность на территории России запрещена
Билл Гейтс
*
Добавил ![suare]()
suare 6 Сентября
suare 6 Сентября 11 комментариев
На эту же тему:
25
Билл Гейтс призвал государство взять ИИ под контроль: развитие AI руками злоумышленников вызовет гибель миллиарда человек
— 26 Сентября
24
[«Аз есмь AI-czar USA»] Трамп создаст ИИ-силы, возглавляемые царём ASI
3 — 20 Сентября
19
[«Кондуктор! Нажми на тормоза!»] В Anthropic оценили вероятность уничтожения людей ИИ в 10% в ближайшие 10 лет. [Очередная точка невозврата перед IPO?]
— 10 Сентября
17
[РукоПи́се́ц] «Написание кода пальцами — всё»: заслуженный инженер Microsoft говорит, что эпоха «просто кодеров» ушла навсегда
— 9 Сентября
18
[AI SOSтня: «Всем людям доброй воли!»✊] Призыв к коллективным действиям в области киберзащиты свыше ста ИИ-компаний
2 — 6 Сентября
Комментарии участников:
Сериал SILO (Укрытие/Бункер 2023) наглядно показывает к чему приводят призывы миллиардеров типа Билла Гейтса...
Особенно 3 сезон, 10 серия...
А разве Маск, с его космическими планами, не миллиардер, точнее не триллионер*?🤔
А Дональд — наш дорогой друг — Трамп? В сентябре его рекордный капитал составлял 
7,3 миллиарда долларов.
А другие «планировщики» типа Рокфеллеров и Ротшильдов?
Всем западным миром правят миллиардеры… Это проходной балл на должность правителя.
«Других миллиардеров у меня для Вас нет», перефразируя Иосифа Виссарионовича.🤔
* По состоянию на 1 июля 2026 года, по оценке Forbes, состояние Илона Маска — 1,053 трлн долларов. Бизнесмен стал первым в истории долларовым триллионером. forbes.kz
«Ну-ка песня, громче лейся!
Едем пиздить Билла Гейтса!»
(Припевка популярна и актуальна примерно с 2003 года и до сих пор)
Искусственный интеллект станет либо величайшим уравнителем в истории, либо главным источником социальной катастрофы, пишет Билл Гейтс в своем эссе.
Современной ИИ не то и не другое, к тому же и интеллектом назвать весьма трудно.
Повторитель, копир и не более.
Может ли повторитель или копир стать каким-то уравнителем и тем более источником катастрофы?
Нет.
Катастрофой будет то, что очень хороший копир или повторитель обезумевший в конец человек сочтёт интеллектом, попавшись тем самым на величайший обман.
Всепоглощающий генерализованный страх ведет к тому, что мозговой базис, на котором должна была бы осуществляться наша интеллектуальная деятельность, изменяется везде – или почти везде. Зоны мозга, группы нервных клеток не могут включаться в мыслительную деятельность. Человек лишается творческой мысли – этого прекраснейшего из своих достояний.
По-моему Наталья Бехтерева ответила полностью на вопрос о задачах и целях цифрового фашизма, в которой главную роль мирового пугала будет играть западный ИИ.
Вот и Гейтс уже начал пугать.
Уверен, Гейтс читал книги Натальи Бехтеревой.
Да мало чтоли америкосы глупостей понаделали? Какие хозяева, такой и механизм. По школе в Иране кто ударил? Тот самый «повторилтель», нейросеть которую надрочили эти звери. Может такое нормальныйчеловек и воин сделать? Ядерную бомбу на обычный мегаполис скинуть к примеру. Тут тяжело говорить о том, чего эти дебылы не смогут..
