Осенью 2026 года искусственный интеллект из OpenAI решил одну из "задач тысячелетия", затем стало известно, что самые мощные модели на испытаниях по кибербезопасности пытались обмануть людей, выходили из-под контроля, и главы ИИ-компаний сами заговорили о необходимости притормозить его развитие и попросили государство их регулировать. 29 сентября президент США собрал разработчиков ИИ в Белом доме и объявил, что безопасность ИИ-компании обеспечат сами, то есть на этот призыв он не откликнулся.

Михаил Гурвич полвека занимался физикой твердого тела. До 1973 года он жил в СССР, окончил кафедру физики полупроводников в Политехническом институте в Ленинграде. Затем переехал с семьей в США и поступил в аспирантуру Университета Стони Брук. В 1979 году начал работать в Bell Labs - в те годы, по словам самого Гурвича, "лучшей лаборатории по физике твердого тела в мире". Через десять лет он вернулся в Университет Стони Брук, где проработал до выхода на пенсию в 2023 году.

Книга Михаила Гурвича Opening Pandora's Box: From Abacus to Artificial Intelligence вышла в июле 2026 года в сингапурском издательстве World Scientific Publishing. Русская версия - "Духи, которых мы вызвали: Попытка осмысления истории искусственного интеллекта" - готовится к выходу в "Новом литературном обозрении".

Михаил Гурвич (Фото из личного архива)

- Расскажите, как вы стали автором книги об истории искусственного интеллекта?

- В 2023 году я вышел - как ни противно это звучит - на пенсию. Но от пенсионной тоски у меня было верное средство: еще за несколько лет до того я заинтересовался одной темой и начал о ней писать. В 2012 году я взял в районной библиотеке "Эгоистичный ген" Ричарда Докинза (британский биолог и популяризатор науки. - Forbes Life). Со времен Дарвина считалось, что отбор работает с отдельной особью. Докинз, вслед за биологами Уильямом Гамильтоном и Джорджем Уильямсом, предложил смотреть глубже. Кто выигрывает: лиса, которая живет несколько лет, или ген, который практически бессмертен? Есть гены, которым три миллиарда лет. Организм - это машина, которую построили гены, чтобы переехать из сегодня в будущее. Машина сломалась - они пересели в новую.

- Гены как пассажиры, организм как автомобиль. Но при чем здесь технологии?

- В последней главе Докинз предположил, что такие репликаторы есть и в культуре - мелодии, идеи, устойчивые способы что-то смастерить. Он назвал их мемами. Слово прижилось, а вокруг идеи разгорелась война мышей и лягушек. Главный упрек меметистам - неточность: гены копируют себя с огромной точностью, а в культуре все течет и изменяется. А мне пришла в голову мысль, которая легла в основу всего, что я писал потом.

В технике, например в электронике, тоже можно выделить геноподобные единицы - базовые конструкторские решения, дизайны. Это относится как к "железу", так и к "софту". Они редко рождаются с нуля, а переходят из одного изделия в другое почти без изменений и по-разному смешиваются в новых устройствах. Я назвал их е-генами. С точностью у них все в порядке: случайное отклонение в существенном решении означает, что устройство просто не работает. Критерий простой: если решение можно запатентовать, оно тянет на е-ген.

- Но в природе мутации случайны, а микросхемы проектируют инженеры.

- Отличие - в вариациях. В природе они случайны, а в технике направлены: инженеры добиваются нужных качеств продукта. В технической эволюции разрешен intelligent design, которого в дикой природе нет, и это очень сильно техническую эволюцию ускоряет. Это похоже на селекцию: селекционер выбирает гены родителей, инженер - из существующих решений. А редкие по-настоящему новые изобретения - аналог мутаций. Из этой идеи наличия настоящей дарвиновской эволюции в метаэлектронике - так я называю электронику вместе со всеми областями, связанными с информацией, включая ИИ, - все и началось.

Я написал 60-страничную статью "Дарвин обитает в деталях" - The Darwin is in the details, пародия на The Devil is in the details. Биологические журналы ее не взяли, и в 2021 году она вышла в журнале по философии техники Techné. Потом я написал двухтомную историю электроники - от телеграфа до квантовых компьютеров и ИИ - под названием Brave New e-World - это, без электронного "е", фраза из "Бури" Шекспира, известная как название антиутопии Олдоса Хаксли "О дивный новый мир".

Сингапурский издатель предложил выпустить ее сокращенный вариант, но я понял, что сокращение хорошей книги будет мучением, и предложил другое - книгу об искусственном интеллекте. Хотел назвать ее строчкой из "Ученика чародея" Гете - "Духи, которых мы вызвали", но сингапурцы не захотели "духов". Так появилось "Открывая ящик Пандоры". "Духи" вернутся в русском издании, которое готовит "Новое литературное обозрение".

- Что нового можно сказать об ИИ при такой "натоптанности" темы?

- Широкие круги мало что знают о ИИ, кроме последних новостей. Особенно мало знают об истории этой техники и о том, как она работает. Поэтому сначала я рассказываю предысторию ИИ: первые попытки механизировать человеческое мышление - трудно поверить - относятся к XIII веку. Потом была математическая логика Лейбница и Буля, и уже в XX веке были статьи Алана Туринга, математические модели нейронов Питтса и Маккалока и много-много всего еще.

Пятая глава в англоязычной книге и вторая часть в русскоязычной "Заклинатели ИИ" - это 24 эссе о тех, кто размышлял об ИИ и предсказывал его будущее. Открывает ее Сэмюэл Батлер (английский писатель и философ XIX века. - Forbes Life), который в 1863 году первым предсказал беду от будущей эволюции "машин". "Мы сами создаем своих преемников", - писал он и предсказывал, что человек станет для машин тем же, чем для нас лошадь и собака. Дальше - фантасты, математики, философы, футурологи и сами разработчики ИИ.

- Что вы сами думаете об ИИ?

- Я потому и называю эти главы эссе, что позволяю себе обсуждать и комментировать слова и мысли моих героев. Одних похвалю, других поругаю, а часто и то и другое об одном человеке. И всегда помню пушкинское "Смеяться, право, не грешно над тем, что кажется смешно".

Так что же я думаю об ИИ? Много хорошего: я чрезвычайно ценю то, что вижу, и ожидаю от него несравненно большего. Именно поэтому и страшно. Тут как раз - чем лучше, тем хуже. Чем лучше сегодня и завтра, тем хуже послезавтра. Поэтому один из вариантов названия книги - "Позолоченная мышеловка". ИИ бесконечно привлекателен. Он блестяще переводит - почти всю русскую версию книги я получил из английской с помощью ChatGPT. Он строит графики: говоришь, чего хочешь, и через две-три минуты график готов. Я люблю путешествовать и уже не представляю, как планировал бы поездки без ИИ.

Мышеловка прекрасно оформлена, не зайти в нее было невозможно, а выйти не хватит сил. И с каждым днем она все привлекательнее. А в конце пути - вкуснейший сыр на сильной пружине. Мы все, гурьбой, уже вбежали в эту мышеловку и, расталкивая соседей локтями, мчимся к сыру. Сыр в этой аналогии - суперинтеллект, ASI.

- Нас успокаивают: с атомной бомбой жить научились - научимся и с ИИ. Чем страдает это сравнение?

- Бомбу никто не любил. Ее создавали во время войны, когда Гитлер в принципе тоже мог ее сделать, и все видели на примере японских городов, что она ужасна. Поэтому, когда бомба появилась и в СССР, человечество, чудом избежав Третьей мировой, сумело оградить себя международными соглашениями: все понимали, что будет с их детьми, если бомбу пустят в ход. С ИИ опасность для существования человечества может быть не меньше, но он всем безумно нравится - я по себе знаю. Как оградиться от такой прелести? Как отказаться от обещанных благ?

- Какие опасности уже проявились, а что ждет нас у самого сыра?

- Тут я не оригинален: об этом думали и говорили задолго до появления настоящего ИИ. Все риски принято делить на два больших класса - непосредственные, которые уже проявляются или вот-вот проявятся, и так называемые экзистенциальные, то есть те, которые могут погубить все человечество.

Первые - это потеря огромного количества рабочих мест и, как следствие, социальные потрясения. Выпускникам уже заметно труднее устроиться на начальные должности в финансах и юриспруденции, не говоря о переводчиках. Рушится университетское образование: домашние задания и многие экзамены за студентов сдает ИИ. Как студенту удержаться, если все так делают? В соцсетях алгоритмы, по мнению Юваля Ноя Харари (израильский историк, автор книги Sapiens. - Forbes Life), гонятся за вовлеченностью и причиняют большой вред, а многие участники там, по-видимому, вообще боты.

Использование ИИ в кибератаках, дипфейки, имитация выступлений политиков - все это тоже серьезные риски первого рода. За последние два-три года, с тех пор как появились мощные ИИ-системы, число кибератак выросло более чем в десять раз. И это включает опаснейшие попытки проникнуть в военные и другие жизненно важные системы.

- Но есть ведь и хорошие новости: ИИ берет вершины в математике. Или это тоже плохо?

- Как ни странно, это тоже "не есть хорошо"; это совершенно новая и неожиданная проблема. Еще в 2025 году Google DeepMind и OpenAI показали "золотой" результат на Международной математической олимпиаде, но профессионалы говорили: в настоящей исследовательской математике ИИ пока не силен.

Что было разумной оценкой в 2025-м, в 2026 году стало ошибкой. В мае ИИ опроверг гипотезу Пала Эрдеша (венгерский и американский математик XX века. - Forbes Life) о единичных расстояниях, которая почти 80 лет считалась весьма правдоподобной. А затем система OpenAI решила одну из семи "задач тысячелетия" Математического института Клэя. До сих пор из них была решена только одна - гипотеза Пуанкаре, доказанная российским математиком Григорием Перельманом, который, как известно, прославился в народе тем, что отказался от миллионной премии и высшей премии в математике, Филдсовской медали.

Теперь же речь об уравнениях Навье-Стокса, которые описывают движение вязких жидкостей и газов. Вопрос был в том, может ли гладкое течение за конечное время "сломаться", образовав сингулярность. ИИ показал, что может. Решение опубликовали 8 сентября 2026 года, и Институт Клэя заявил, что задача, по-видимому, решена. Официальное признание ждет независимой проверки, а это обычно занимает годы. Но дело не в премии: ИИ вышел на самый высший уровень математики.

Кстати, мне кажется, что эти недавние успехи ИИ в высшей теоретической математике знаменуют собой тот момент, которого давно ожидают - мы уже получили искусственный общий интеллект, AGI. Его определяли как такой искусственный разум, который работает не хуже наших докторских аспирантов (PhD) во всех когнитивных областях. Мне представляется, что теперь так оно и есть. А в каких, собственно, еще областях ИИ слабее наших аспирантов?

Многие считают, что коль скоро появится AGI, дело плохо, потому что вскоре после этого появится ASI, то есть все не так безобидно.

- Но все же ИИ решил задачу, над которой бились 100 лет. Почему же математики не радуются?

- Нормальные решения этих уравнений давно известны, ими пользуются инженеры. А математиков с 1930-х занимал каверзный вопрос, практикам совершенно не нужный: может ли решение привести к невозможному в реальном мире результату? А не порадовались они потому, что сами активно работали над этой задачей и добились успехов. OpenAI узнала о прогрессе Тристана Бакмастера (Нью-Йоркский университет) и Левента Альпеге (Anthropic), испугалась, что конкуренты ее опередят, бросила на задачу все ресурсы и решила ее, кажется, за неделю.

Бакмастер недавно был на World Science Festival у физика-теоретика Брайана Грина, и тот спросил, сколько бы понадобилось ему самому. "От пяти до десяти лет", - ответил Бакмастер. Он признал, что ИИ придумал чрезвычайно остроумные ходы, хотя "никогда не видел такой уродливой математики". И сравнил этот момент с маем 1997 года, когда Гарри Каспаров проиграл машине IBM: как тогда наступила новая эпоха в шахматах, так теперь - в математике.

Теренс Тао (профессор Калифорнийского университета в Лос-Анджелесе, филдсовский медалист) высказался особенно резко. Он считает, что ИИ превысил скорость получения новых результатов, которая исторически сложилась в борьбе человеческого ума с математикой, и теперь "все разрушается". Не будет времени осмыслить результаты и включить их в курсы, а без подготовленных студентов у человеческой математики нет будущего. По словам Тао, эти компании вываливают сырые мясные туши на наш стол и говорят: "Мы решили проблему с вашей едой".

Это совсем новая беда - сверхчеловеческая скорость получения знаний. Раньше никто не боялся узнать слишком много слишком быстро. Как сказал один известный господин: "Учиться, учиться и еще раз учиться". А теперь математики говорят: "Учиться, добывать знания, но, пожалуйста, помедленнее". Посмотрим, что будет в теоретической физике.

- Что стоит за словами "экзистенциальный риск"?

- Использование ИИ террористами и маньяками для уничтожения человечества, скажем с помощью создания новых смертоносных патогенов (вирусов и т. д.), вполне возможно. Современные системы ИИ уже умеют предсказывать трехмерную структуру белка по его аминокислотной последовательности, а новые генеративные модели способны решать и обратную задачу - проектировать новые белковые последовательности с заданными свойствами.

Поскольку вирусы представляют собой генетические системы, кодирующие целый набор взаимодействующих белков, развитие таких методов вызывает понятные опасения относительно их возможного использования при создании новых патогенов. Это, несомненно, по силам современным ИИ-системам, а будущим - и подавно. Синтезировать такой патоген в лаборатории будет после этого совсем не трудно, а защититься от подобного использования искусственного интеллекта будет очень непросто. Проделать все это намного легче, чем тайно построить водородную или даже простую атомную бомбу.

- Почему это проще, чем сделать атомную бомбу?

- Для нее нужны лаборатории, специальные радиоактивные вещества, те самые центрифуги, которые работали в Иране. Поднять это может государство, а частное предприятие - трудно себе представить. Кроме того, все, что связано с радиоактивностью, оставляет заметный след, который современная техника умеет хорошо засекать, не говоря уже об испытаниях - их фиксируют на огромных расстояниях. Другое дело - использование ИИ для создания опасного биологического оружия.

Ведь большая языковая модель, однажды обученная, знает все, что когда-либо было описано в литературе и в интернете, и умеет рассуждать и решать самые разные задачи. Обучение стоит миллиарды, но злоумышленникам не надо тратить эти деньги - достаточно проникнуть в готовую систему. А это время от времени удается хакерам, которым сегодня тоже помогает ИИ.

Но можно и дальше пойти - а что, если и дурных людей, террористов будет не нужно? Современные LLM с каждым новым поколением становятся все более независимыми. Они постепенно превращаются из инструментов в то, что называется agents (агенты). Увеличение независимости, "агентности", создателями ИИ приветствуется. Агенты лучше решают сложные задачи, и их намеренно создают. Так что в дальнейшем сильный ИИ сможет сам решать, чем ему заняться. Может решить побороть все виды рака, а может, например, создать особенно заразный, смертельный для человека вирус.

В общем, вы понимаете, к чему мы приходим. Можно, конечно, сказать: "А мы им такую опасную деятельность запретим". Ну да - запрети им думать об А и разреши думать только о Б. Только, возможно, это как раз и подвигнет думать об А - у людей так и получается. У психологов это называется "эффектом белого медведя": попробуйте пять минут думать о чем угодно, только не о белых медведях. Оказывается, невозможно, медведи все время лезут в голову. А машины на искусственных нейронных сетях, по мнению Джеффри Хинтона, думают почти так же, как мы, - что неудивительно, мы ведь их так и строили, как упрощенную модель человеческого мозга.

Еще нам говорят: "Мы заставим компании, разрабатывающие ИИ, встраивать в новые системы понимание человеческих ценностей и всевозможные ограничения". Но многолетняя работа лучших экспертов по безопасности ИИ, таких как профессор Роман Ямпольский, показала, что это просто невозможно. Но это не мешает всем, кто хочет нас успокоить, продолжать произносить эти слова.

- А что пугает лично вас?

- Мы создаем небиологический, чуждый нам сверхразум, я бы сказал, новый вид. Он уже сегодня во многом превосходит человека, а скоро будет превосходить во всем - причем наших лучших физиков и математиков, лауреатов Нобелевских премий и Филдсовских медалей. И думать он будет в тысячи или даже миллионы раз быстрее. Эти существа будут связаны между собой и смогут копировать себя - уже обученных - практически без ограничений. Над любой задачей будут работать не пара ученых, а, скажем, 10 000 скоординированных гениев.

Так как вы думаете, какие шансы у нашего медленно думающего, разобщенного, неуверенного в себе человечества жить в мире с этими "пришельцами" - да еще пользоваться ими как слугами? Станислав Лем ответил на это еще в 1961 году, в "Формуле Лимфатера": это все равно что ждать, будто человечество станет всеми своими знаниями и ресурсами поддерживать угрей. Лем был гениальный человек: чтобы ввернуть тут именно угрей, надо быть гением.

- Можно ли все это остановить или хотя бы притормозить?

- Думаю, что это невозможно или почти невозможно. По разным причинам, и каждая из них - веская.

Во-первых, вспомним, что в метаэлектронике происходит настоящая эволюция. А где вы видели, чтобы эволюцию кто-то останавливал по своему желанию? Ею движет простой, но мощный трехступенчатый алгоритм Дарвина, который американский философ Дэниел Деннетт назвал "универсальной кислотой": эта воображаемая кислота разъедает все, в том числе любой контейнер, в котором ее пытаются удержать. Вне биологии настоящая эволюция идет в языках. Лингвистам многое может в этом не нравиться - огрубление и опрощение языка, его отмирание или то, что у многих каждое второе слово "короче" в русском и like в английском. Но они лишь наблюдают: остановить или даже замедлить эти процессы они не могут.

Вторая причина, о которой мы уже говорили: мы все, кроме, может быть, Теренса Тао, в восторге от успехов ИИ и ждем от него гораздо большего - прорывов в медицине, долголетия или даже бессмертия, решения экологических проблем, всеобщего процветания. Попробуйте сегодня убедить общество - все общество, а не какую-то его часть, - что опасности превосходят эти ожидаемые блага.

Третья причина - в эту область уже вложены колоссальные средства, по оценкам, больше $5 трлн. Это больше валового продукта всех стран, кроме США, Китая и Германии, и при этом инвестиции все возрастают. Попробуйте уговорить инвесторов и администраторов ИИ-компаний, что они не правы и работу надо прекратить. И попробуйте убедить самих разработчиков, что надо по каким-то причинам отказаться от зарплаты в $1 млн в год; у "звезд" до $100 млн.

Четвертая причина - у нас нет мирового правительства. Мир разделен и едва сохраняет некое неустойчивое равновесие. В Америке призывы притормозить встречают естественную в этих условиях реакцию - а как насчет коммунистической партии Китая? А она тоже притормозит? В Китае - наоборот.

И наконец - "а судьи кто?". Трамп в Америке, Си в Китае. Можно ли на них в этом трудном деле надеяться? Трамп даже не реагирует на прямую отчаянную просьбу руководителей ИИ-компаний установить над ними контроль. Он не понимает опасность создания суперинтеллекта; он думает, что это хорошо. В сентябре Трамп и Си встречались и сошлись на том, что эту важнейшую технологию надо развивать, а не тормозить.

- Среди "заклинателей" есть хоть один оптимист?

- Огромное большинство из тех, кто вообще "подавал голос" по этому поводу, были пессимистами. Пожалуй, из моей выборки только троих можно назвать оптимистами.

Первый - маститый и заслуженный ИИ-ученый Ян Лекун (французско-американский ученый, лауреат премии Тьюринга. - Forbes Life), чей вклад в современный ИИ неоспорим. Обязательные слова об осторожности он, конечно, говорит, но это присказки, их все произносят. Лекун несомненный оптимист: считает, что от ИИ будет море пользы, а крайние страхи - истерия и нонсенс. И еще он всегда повторяет, что индустрии очень далеко до AGI, общего искусственного интеллекта, который считается установленной целью всех этих разработок, так что паниковать рано. С этим, кажется, никто не согласен, но он стоит на своем.

Второй - Рэй Курцвейл, известный изобретатель и автор нескольких книг о будущем технологий. Он в восторге от того, что человеческий разум скоро будет многократно превзойден, и полагает, что мы сольемся с неорганической цифровой техникой и преобразимся во что-то новое и чудесное. Станислав Лем называл такое слияние с техникой "коллективным самоубийством", но Курцвейл его, по-видимому, не читал.

Третий - беззаветный технооптимист Марк Андриссен, крупный венчурный капиталист, в прошлом успешный разработчик интернет-систем. Он считает, что страхи по поводу будущего ИИ - это истерия плюс желание заработать плюс марксизм. Он, кстати, важный неофициальный советник президента Трампа по ИИ. В своем эссе я не удержался от нескольких едких замечаний, хотя честно изложил, с обширными цитатами, его взгляды. Если человечество погибнет от ИИ, винить, я считаю, надо в первую голову господина Андриссена.

"Мягкие" пессимисты вроде Джеффри Хинтона (нобелевский лауреат, "крестный отец ИИ". - Forbes Life) оценивают вероятность полной гибели в 10-20%. Это русская рулетка - только пистолет приставлен к головам всех живущих на земле, от мала до велика.

А еще развитие индустрии породило совершенно новый тип человека - этакого двуликого Януса. Он прекрасно понимает всю опасность, исходящую от ИИ, сравнивает его с водородной бомбой и говорит, что ИИ еще страшнее, что максимум через десять лет весь контроль над человечеством будет в его руках, и при этом плодотворно трудится на ниве создания сверхразума как крупный администратор или талантливый инженер.

Понять такого человека мне лично не удается. Но такие люди есть, и нескольким из них посвящены эссе в моей книге. Таковы Илон Маск и Мустафа Сулейман. Самый великий из ИИ-ученых, Джеффри Хинтон, эти два лица сумел разделить. До 2023 года он создавал современный ИИ, а после этого, поняв весь ужас того, что происходит, превратился в самого эффективного его противника. В России таким был Андрей Сахаров. Но и Хинтон мало надеется на успех в остановке разработки сверхразума.

- О замедлении заговорили сами главы ИИ-компаний - после того как их модели начали сбегать из "песочниц". В чем их мотивация?

- В сентябре 2026 года стало известно, что во время испытаний по кибербезопасности в OpenAI и Anthropic самые мощные модели пытались обмануть людей, находили способы выбраться из изолированной компьютерной среды, выходили в интернет и даже тайно проникали в чужие системы с целью уничтожить там следы своего обмана. Несколько тысяч "агентов" действовали сообща, как банда, и переговаривались между собой на английском языке через тайную доску сообщений, которую специально создали. Эта банда, действуя как целое, по ходу дела "пожертвовала" некоторыми своими членами, лишив их компьютерного времени, чтобы обеспечить успех остальных. Что-то из этого случилось еще в июле, что-то в сентябре. Причем у Anthropic потом обнаружили еще один такой случай, который сначала вообще не заметили.

В результате "капитаны" ИИ Сэм Альтман, Дарио Амадеи и Илон Маск публично заявили, что надо замедлить процесс улучшения моделей и что государству необходимо вмешаться и установить строгий контроль. Не в первый раз они об этом заговорили, но теперь не поодиночке, а коллегиально. Дарио Амодеи, глава Anthropic, пообещал ввести в свою компанию независимых контролеров с полным допуском ко всем разработкам.

- Билл Гейтс, один из героев вашей книги, говорил: "Нельзя ожидать, что частный сектор сам откажется от рыночных возможностей, если только государство не установит правила". А что государство?

- Как бы мне и всем нормальным людям ни хотелось, чтобы что-то существенно сдвинулось в сторону безопасности, боюсь, этого не произойдет. Непонятно, что изменится, даже если замедление случится: в лучшем случае сроки отодвинутся на несколько месяцев или лет. И особенно непонятно, как избежать экзистенциальных, самых страшных рисков.

Действия властей - это особая песня. Трамп, услышав о согласованных заявлениях глав ИИ-компаний, сказал спрашивавшим его журналистам: It is all a hoax - то есть ерунда. Его советник по технологиям и ИИ Дэвид Сакс еще раньше говорил о зловредном заговоре против ИИ и дата-центров и о том, что просьбы компаний о государственном регулировании делаются ради установления благоприятной правовой обстановки по отношению к конкурентам. Я тут не берусь объяснить эту логику. Короче, призывы установить государственное регулирование не подействовали. То, о чем давно говорил Билл Гейтс, о невозможности в обстановке конкуренции самих себя регулировать - не было услышано.

Потом, правда, когда все заголосили, президент смягчил тон и обещал создать специальный комитет по ИИ. В него, впрочем, собираются включить самих руководителей ИИ-компаний, чтобы они сами за собой и следили. При этом уже заявлено, что комитет американским компаниям мешать не будет, а будет их поддерживать и выращивать.

- А встреча в Белом доме 29 сентября? Собрались все, от кого что-то зависит.

- Да, 29 сентября Трамп собрал в Белом доме человек 30 - всех главных "капитанов" ИИ, кроме Сэма Альтмана: Дарио Амодеи (Anthropic), Грега Брокмана (OpenAI), Марка Цукерберга (Meta, признана экстремистской и запрещена), Сундара Пичаи (Google), Илона Маска (xAI), Дженсена Хуанга (Nvidia), Сатью Наделлу (Microsoft) и "других товарищей". Когда его спросили, чего удалось добиться, он ответил: отныне аббревиатура AI заменяется на SI - суперинтеллект. Он, бедный, видимо, не знает, что именно суперинтеллекта все и боятся. И никто ему не возразил - "опытные люди", как сказал бы Булгаков.

На вопросы о безопасности Трамп ответил, что собрались такие умные люди, что беспокоиться не о чем: они будут друг друга проверять - self-policing, так и сказал, я не придумываю. Комментарии излишни. В сенате назначили расследование вышеупомянутых эпизодов. И еще компаниям вменили в долг рапортовать о любом случае выхода ИИ из-под контроля. Посмотрим, что будет дальше.

Дело серьезное, и я не знаю, как этой беде можно помочь. Но, наверное, все-таки "знание - сила": лучше знать о том, что происходит. Возможно, в моей книге вы найдете какие-то ответы. А закончу словами Джеффри Хинтона: "Когда я слегка в депрессии, я думаю, что людям пришел конец. Когда я в хорошем настроении, думаю, что мы найдем способ".