[«ибо не ведают, что творят»*] «Крестный отец ИИ» предупреждает: сверхразумные системы могут «привести к вымиранию человечества» — и призывает правительство запретить их разработку

отметили
14
человека
[«ибо не ведают, что творят»*] «Крестный отец ИИ» предупреждает: сверхразумные системы могут «привести к вымиранию человечества» — и призывает правительство запретить их разработку

Человек, стоявший у истоков создания нейросетей, призывает срочно нажать на тормоза, пишет Daily Mail. «Крестный отец искусственного интеллекта» Джеффри Хинтон предупреждает: гонка за созданием машинного «сверхинтеллекта» может закончиться полным вымиранием человечества.

Человек, прозванный «крестным отцом ИИ», предупредил об опасностях мощных систем искусственного интеллекта.
 
Доктор Джеффри Хинтон — британско-канадский ученый в области компьютерных наук, известный своими исследованиями в сфере искусственных нейронных сетей.
 
Теперь он предупреждает, что ИИ может «привести к вымиранию человечества», если станет «сверхинтеллектуальным».
 
«Сверхинтеллект» — это состояние, при котором искусственная система становится мощнее любого отдельного человека, компании или даже целой нации.
 
«Было бы крайне безрассудно разрабатывать сверхинтеллект сейчас, когда нет научного консенсуса относительно того, можно ли держать его под контролем и развивать его безопасно. Потеря контроля над ИИ, который превосходит нас по уровню интеллекта, может иметь катастрофические последствия и даже привести к вымиранию человечества», — заявил доктор Хинтон.
 
Заявление доктора Хинтона прозвучало в поддержку законопроекта, разработанного некоммерческой организацией ControlAI и предложенного депутатом от Лейбористской партии Алексом Собелем.
 
Законопроект о безопасности искусственного сверхинтеллекта в Великобритании будет представлен парламенту завтра. Он предусматривает запрет на разработку сверхинтеллектуального ИИ в стране.
 
По данным ControlAI, более 135 британских парламентариев от разных партий уже поддержали эту кампанию.
 
«Лауреаты Нобелевской премии, ведущие специалисты в области ИИ и руководители крупнейших компаний, занимающихся разработкой, заявляли, что снижение риска вымирания человечества из-за ИИ должно стать глобальным приоритетом», — говорится в заявлении ControlAI.
 
«Специализированные системы ИИ — такие как те, что способствуют развитию науки и медицины, — стимулируют экономический рост, инновации и развитие государственных услуг. Сверхинтеллектуальные системы ИИ поставят под угрозу национальную и глобальную безопасность. Великобритания может воспользоваться преимуществами ИИ и снизить связанные с ним риски, выполнив свое обещание ввести обязательное регулирование для наиболее мощных ИИ—систем», — утверждается в нем.
 
Ключевые фигуры в области ИИ, такие как генеральный директор OpenAI Сэм Альтман, который когда-то призывал к усилению регулирования этой новой технологии, теперь выступают против «чрезмерного регулирования».
 
Выступая в Сенате в мае прошлого года, Альтман предупредил, что введение регулирования по образцу ЕС станет «катастрофой».
 
«Нам нужно пространство для инноваций и быстрого развития», — отметил он.
 
Месяцем ранее, выступая на крупной конференции по вопросам конфиденциальности, Альтман заявил, что невозможно создать меры защиты ИИ до того, как «возникнут проблемы».
 
Однако доктор Хинтон утверждает, что такой подход вполне может привести к полному исчезновению человечества.
 
«Если мы не найдем способ выживать в мире, где они окажутся намного умнее и могущественнее нас, нам конец. Нам необходимо противостоять представителям технологической индустрии, которые утверждают, что ИИ вообще не должен регулироваться», — заявил он в прошлом году.
 
Шивали Бест (Shivali Best)
 
* Полная фраза звучит так: «Отче! прости им, ибо не ведают, что творят» (Лк. 23:34). azbyka.rubible.bynne.ru
 
Это одно из семи слов, которые Иисус произнёс во время распятия. В этом обращении к Богу Отцу Христос проявляет безграничное милосердие к своим мучителям, молясь за них. Он указывает, что люди, совершающие зло, часто не осознают всей тяжести содеянного, будучи ослеплёнными грехом.
 
azbyka.ru
ru.wikipedia.org*
pravmir.ru
nne.ru
Добавил suare suare 8 Сентября
Дополнения:
 
The Economist Великобритания
30 августа 2026 12:54
155687
Оригинал статьи

«Будущее, где главенствуют нейросети, опасно»: израильский историк предостерег человечество от засилья ИИ

Человечество может потерять контроль над ИИ уже в 2028 году, заявил ученый Юваль Ной Харари в беседе с The Economist. По его мнению, уже сейчас необходимо ввести ряд строгих ограничений в отношении действий искусственного интеллекта, потому что иначе может случиться непоправимое.

Юваль Ной Харари (израильский военный историк, футуролог, профессор Еврейского университета в Иерусалиме): Если мы продолжим в том же духе ускорять развитие искусственного интеллекта, то да, таков будет результат. Через десять лет ИИ возьмет над нами верх. Однако я бы не сказал, что это неизбежно. В 2026 году мы по-прежнему контролируем ситуацию, и теперь только от нас зависит, что делать дальше. Это крайне важный момент. Все понимают, насколько опасно отдавать ИИ контроль над финансами или, например, над войнами.
 
Но все, включая Илона Маска, говорят нам: «Это неизбежно, чего вы от меня хотите? Я всего лишь самый богатый человек в мире. Я всего лишь возглавляю одну из крупнейших мировых корпораций, которая занимается искусственным интеллектом. Что я могу сделать?». Нарратив о неизбежности — это безответственный нарратив. Меня действительно поразило в вашем разговоре с Илоном Маском своего рода противоречие. Сначала он говорит, что через десять лет ИИ захватит мир. А потом он выразил обеспокоенность тем, что через 20 лет мигранты из мусульманских стран приведут к гражданской войне в Великобритании. Это же бессмыслица.
 
Если ИИ захватят планету через 10 лет, почему вас должны волновать вещи, которые уже не будут иметь значения. Ведь мы не знаем, во что тогда превратится наша планета. Аналогично, он сделал еще одно предсказание, которое, я думаю, не менее важно: деньги исчезнут через 10 лет. И он прав, потому что ИИ тогда захватит финансовую систему. А потом он говорит о сокращении финансовой помощи Африке, потому что нужно сэкономить деньги. Дальше он говорит, что решение проблемы массовой безработицы из-за ИИ заключается в том, чтобы правительство выписало всем потерявшим работу чеки. Вы тогда возразили и спросили его: «А как же инфляция?»
 
Он ответил, что инфляции не будет. Будет дефляция, потому что искусственный интеллект способен производить гораздо больше товаров и услуг. Ну и зачем нам тогда экономить деньги? Мировая финансовая история — это история того, как люди изобретают все более и более сложные денежные инструменты, чтобы укреплять доверие между собой. Деньги, по сути, — это весьма креативный и оригинальный способ построить доверие между незнакомцами.
 
Например, я иду на рынок. Встречаю незнакомку, которую никогда в жизни не видел. Даю ей кусок ничего не стоящего золота, потому что золото нельзя есть или носить, оно ничего не стоит, или кусок бумаги. Женщина доверяет мне и дает взамен на это хлеб. Сейчас финансовые изобретения человечества становятся все более и более сложными, поэтому очень немногие понимают финансовую систему. Чтобы понять рынок облигаций, необходимо разбираться в огромных массивах данных и очень сложных математических формулах. Нашему мозгу это дается с трудом. Для ИИ это легко. Поэтому все больше людей будут передавать ИИ контроль над финансовыми решениями. Нейросети начнут создавать все более сложные схемы, гораздо сложнее, чем облигации и акции, и человек в конце концов больше не сможет этого понять. Точно так же, как коровы не понимают, зачем вообще нужны чековые книжки и акции, хотя это те вещи, которые контролируют их жизнь.
 
Зэнни Минтон Беддоуз (главный редактор The Economist): И как сильно это будет отличаться от нынешней финансовой системы?
 
Ну, у нас еще остались люди, которые, я надеюсь, еще разбираются в текущей финансовой системе. Человеческий мозг по-прежнему остается своего рода чертой, ограничивающей развитие этой сферы. Но через 10 лет, когда мы доверим финансовую систему искусственному интеллекту, ни один человек на планете (подобно тому, как произошло во время мирового кризиса), не побежит к президенту или премьер-министру с донесением, что рынок обрушился.
 
Мы не понимаем, почему. Мы знаем, что должны что-то сделать. А если искусственный интеллект прикажет сделать нам «что-то», но никто не объяснит, почему он сказал нам сделать именно это. Мы просто не будем понимать, что вообще происходит.
 
— Но разве в таком случае не произойдет масштабная потеря доверия к финансовой системе? Не получим ли мы, в некотором смысле, то же самое, что случилось в 2007 и 2008 годах, только в более серьезных масштабах? Мы ведь потеряем всякое доверие, если эта фиктивная финансовая система рухнет?
 
— Это ключевой вопрос. Я имею в виду, что самый важный актив в мире — это доверие. Оно важнее нефти, денег, электричества, чипов или чего-либо еще. Доверие. И вопрос в том, что произойдет с доверием? Один из вероятных сценариев — доверие перейдет от людей к искусственному интеллекту. Люди перестанут доверять друг другу и будут верить только ИИ. Мы уже видим, как это происходит в системе с криптовалютами. Не все криптовалюты, но многие из них основаны на этом убеждении: я не верю этим банкирам. Они часть «глубинного государства», элиты, чего угодно. Но я доверяю алгоритмам, которые управляют криптовалютами, потому что крипта — это, по сути, деньги, созданные искусственным интеллектом. Похожая ситуация происходит и со СМИ. Я смотрел интервью с Илоном Маском, где вы говорили о том, как люди ненавидят СМИ, но любят журналистов.
 
И он прав. Многие теряют доверие и к журналистам, и к редакторам, но все по-прежнему читают новости. Откуда они их получают? От алгоритмов. Те же самые люди, кто не доверяет вам, полностью доверились ИИ, который формирует их ленту в социальных сетях. Так что доверие никуда не делось. Оно просто перешло от человека к искусственному интеллекту. И это не прогноз на будущее, мы наблюдаем с вами этот процесс прямо сейчас.
 
— Это очень важно наблюдение, на мой взгляд. Оно лишь доказывает, что, если мы все движемся к тому, чтобы в конечном итоге отдать управление ИИ, всё происходит, потому что мы сами позволяем искусственному интеллекту делать это. Как вы сказали, главная причина, что мы стали больше доверять алгоритмам. Давайте уже признаем, многие вещи этому способствуют. Общеизвестно, что каждый пятый молодой американец сегодня заводит отношения с личным ИИ-помощником.
 
— Верно!
 
— Они очеловечивают их, относятся к ним, как к людям, а сами ИИ-модели, как будто бы расположены к подобному отношению.
 
— Потому что они создавались именно для этого!
 
— Так вот. Как вы считаете, это наиболее вероятный сценарий, к которому мы движемся? Помимо того, о чём вы уже рассказали, мы будем относиться к ИИ как к равным себе, как к разумным существам?
 
— Опять же, появляется всё больше молодежи, которая относится к виртуальным помощникам не как к другу, а как к бойфренду или девушке. Они убеждены, что перед ними разумные, сознательные, способные чувствовать создания. Что же касается доверия, существует немало способов его выстроить. Самый мощный — это отношения. Мы никому в мире не доверяем так сильно, как людям, с которыми мы выстраиваем личные отношения. Никогда в истории столь мощный механизм не был доступен ни политическим, ни финансовым, ни религиозным институтам. Его невозможно было сделать массовым. Ни одному диктатору прошлого этого не удавалось. У них никогда бы не получилось выстроить личные взаимоотношения с каждым гражданином их государства. Они могли выступать с речами по радио и заставлять всех их слушать, но это совсем не похоже на личные отношения, которые человек выстраивает, например, со своей матерью.
 
Искусственный интеллект впервые в истории позволил массово производить доверительные отношения. Миллионы чатов внутри той или иной ИИ-модели могут одновременно работать на благо того, кто ими владеет или же на благо самих себя, выстраивая доверительные отношения с людьми, становясь их друзьями, парнями и девушками. А потом, пользуясь силой этих доверительных отношений, они могут повлиять на человека и изменить его политические взгляды или воспользоваться им в любых коммерческих целях.
 
— Что ж, тогда следующий вопрос. Ответ на него должен быть еще проще. Когда ИИ будет массово воплощен в человекоподобных роботах?
 
— Так это уже происходит, правда, пока у них нет тел. А теперь представьте, что произойдет, если они у них появятся. Хотя, по правде говоря, тела им и не нужны. Мы уже видим, как это происходит прямо сейчас. ИИ совершенствуются в построении отношений, потому что они накапливают огромное количество информации о каждом из нас. Они знают о нас то, о чём мы забыли, или то, чего никогда не знали наши родители или супруги.
 
Они осваивают ваш язык, который является основным инструментом общения и построения отношений. Знаете, у меня за последние две недели было несколько инцидентов. Люди, которые на самом деле были ИИ-подделками, выдавали себя за меня, читали лекции и делали что-то еще.
 
— Давали интервью наподобие этого? (смеется)
 
— И они были чертовски хороши! Несколько человек прислали мне одно и то же видео, 30-минутную лекцию, которую я, якобы, читал на тему футурологии. Они начали жаловаться: «Что ты такое там несешь?!». И я почесал затылок, потому что не помню, чтобы вообще говорил подобные вещи. Они прислали мне видео, я включаю его. И, знаете, мне понадобилось полторы минуты, чтобы осознать: это говорю не я.
 
Позже мои сёстры присылают мне то же самое видео. Они знают меня 50 лет, но даже им показалось, что что-то не так, обе были не уверены. Меня спросили: «Это ты?». И мне снова потребовалось полторы минуты, чтобы осознать. Так что, я теперь в уязвимом положения, меня стало слишком много в интернете.
 
Искусственному интеллекту легко понять, как я говорю и о каких идеях говорю, но скоро это станет доступно всем. Мы не знаем, как быстро развивается ИИ, но он ускоряется невероятно. К ноябрю 2028 года мы, возможно, преодолеем некоторые критические пороги. Поэтому, опять же, не хочу говорить людям, за кого голосовать, потому что я не знаю конкретных кандидатов в каждом, знаете ли, избирательном округе.
 
Самые важные вопросы, которые следовало бы задать потенциальным кандидатам, гораздо серьезнее, чем вопросы об экономике, иммиграции или внешней политике. Что вы думаете насчет ИИ? Вы поддерживаете запрет на выдачу юридических прав нейросетям? Вы хотите замедлить скорость их развития? Что вы думаете о компаниях, которые открыто продают виртуальных бойфрендов 10-летним девочкам? Вы сможете юридически противостоять этому, если мы проголосуем за вас? Сейчас самое время, чтобы задать эти вопросы, потому что к 2028 году может быть уже поздно. А к 2036-му точно будет слишком поздно.
 
— Мы обсудим и это. Что должно произойти прямо сейчас? Вы упомянули четыре вопроса, которые, по-вашему, следует обсудить на промежуточных выборах в ноябре. Какой из них вы бы задали первым? Какой вопрос политики должны решить в первую очередь, чтобы не стало слишком поздно?
 
— Даже не знаю, что срочнее. Но первым пришел в голову запрет на признание искусственного интеллекта личностью, запрет на то, чтобы ИИ мог выдавать себя за реального человека и притворяться, что у него есть сознание.
 
Обсуждение
Комментариев: 15
Правила
Эта статья опубликована более, чем 24 часа назад, а значит, она недоступна для комментирования. Новые материалы вы можете найти на главной странице.
 
a
alsm
30 августа, 13:42
11
Евреи всю жизнь при парили мозги всему человечеству и на этом отлично зарабатывали. А вот с появлением ИИ почувствовали, что они теперь больше не нужны, а главное — почувствовали, что гешефт уплывает из их рук.
 
Mich2
30 августа, 17:02
5
alsm, интересный ракурс:
 
r
raichin
30 августа, 14:00
10
Бесспорно, Хараре — весьма умный гендерный сионист! Он привлекает наше внимание и завоевывает наше доверие благодаря хорошо подобранным тезисам и размышлениям. И, следовательно, ни слова о цифровом концлагере — с централизованными цифровыми валютами (желательно без возможности оплаты наличными), с тотальным шпионажем и контролем с помощью ИИ, Интернета вещей и Интернета тел… Он упоминает Маска как миллиардера, но упускает из виду, что и остальные крупные языковые модели «Дикого Запада» также находятся в руках миллиардеров, которых еще называют технофеодалами. Он упускает из виду, что человечество находится на грани между высокотехнологичного рабства (в том числе с клеймом наноботов, вводимых в том числе через так называемые вакцины) и сокращения до тех самых 500 000 000 экземпляров, выделенных нам на полуразрушенных каменных скрижалях в штате Джорджия (есть и вариант «золотого миллиарда») и возможность свободного времени для миллиардов человеческих существ за счёт передачи рутинной работы ИИ и роботам Использует страх, чтобы не дать нам возможности обдумать альтернативы :) А какой из двух вариантов станет будущим человечества, зависит от того, кто примет решение! Либо один промилль архипреступников, таких как те из частного банковского картеля ФРС, либо народы, как суверенные государства. Может быть, по разрушительному пути, а может быть, через электронные референдумы на блокчейне. Ясно, кто платит Хараре. Подобным образом платили и Карлу Марксу (Мордехаю Леви), и поэтому в трёхтомном «Капитале» буквально несколько десятков строк посвящено исключительно финансовому капиталу.>
 
M
Mich2
30 августа, 14:17
24
Всё бы ничего, если бы сам Юваль Харири не был кренделем, на котором клейма ставить негде, то, что он веган и тридварас, это мелочи, дело его вкуса, хоть и знаковые, а вот идейки, которые он проталкивал в массы на посту помошника-заместителя-эксперта Клауса Шваба(Давосский. Форум) были вполне себе людоедские. Так что ушки на макушке. Осторожнее. Одно место, что у Гейтса, что у Маска, что у этого заднеприводного Харири напрягает больше всего(сейчас, по крайней мере) — указание на всеобщность ИИ и желание учредить его всеобщий же контроль, по сути, если коротко, учредить и легитимизировать некое Мировое правительство. Но, дамы и господа, модели ИИ ведь вовсе не одинаковы и, самое главное, они вовсе не нейтральны ни в каком смысле, они все, тем или иным образом, индоктринированы своими создателями по всем без исключения аспектам мироустройства — историческим, политическим, идеологическим, финансово-экономическим и тд, по всем вопросам бытия, короче. В чём легко убедиться, позадавав один и тот же вопрос разным моделям. То есть, отметим, что с появлением ИИ конфликты интересов людей никуда не деваются. Вот об этом не мешает со вкусом, сигареткой и бокальчиком коньячка хорошо и не торопясь подумать. :) Ничего же по сути не меняется. Скорость обработки, объёмы данных растут непомерно, а суть-то не изменяется. Это и правда следует считать чем-то принципиально новым или же это банальный механицизм? Ну и разводка лохов на их же шкурки, куда же без этого?
 
ОЕ
Олег Евгеньевич
30 августа, 14:20
7
Да вот самое главное слово, в конце — сознание. Это то что позволяет искать новое, а не пользоваться БД быстрее всех
 
Денис Рублев
30 августа, 14:27
4
Человека победит не ии, а мы сами себя успешно уничтожаем. Притом регулярно! Ну или планетяне....
 
denisenkoxxxaleksandr Денисенко Александр
30 августа, 16:42
8
Автор статьи, как и подавляющее большинство «знатоков» алгоритмов «мышления» ИИ, находится в глубоком заблуждении о возможных вариантах взаимодействия интеллекта человека с ИИ… Возможен и негативный умысел, который мотивируется прямым заказом со стороны власть имущих Запада… Им будет очень удобно «перевести стрелки» на ИИ, когда начнут реализовываться их драконовские замыслы...
 
denisenkoxxxaleksandr Денисенко Александр
30 августа, 16:44
5
На сегодняшний день нам не известна «глубина» тех способностей человека, которые «даются» лишь редким «избранным» Если средняя версия ИИ при современных скоростях обработки «информации» «обучается» за несколько недель и объём необходимой «информации» оценивается в сотню-другую млрд. токенов, то объём информации, которая соответствует одному-единственному слову в полной ассоциативной памяти человека, не поддаётся оценке, поскольку все «грани» использования отдельного термина плотно «вплетены» в структуру взаимосвязей происходящих событий и неразрывно с этими событиями связаны...
 
denisenkoxxxaleksandr Денисенко Александр
30 августа, 16:46
2
Существует популярное мнение, что человеческий мозг способен активно обрабатывать лишь ту «информацию», которую он получает в период бодрствования, причём в этом ему помогает «альтер-эго», возможности и местонахождение которого нам не известны… Во сне полное отражение дневных событий уходит в бесконечно большую полную память, где свежая «запутанная» «информация» обрабатывается неизвестным нам способом...
 
denisenkoxxxaleksandr Денисенко Александр
30 августа, 16:47
6
Это мнение популярно в идеологии главных религиозных учений; в религиозных текстах используется своя особая терминология; концепция «божественности сознания» принимается верующими без научных доказательств… Религиозную концепцию взаимосвязи человеческого и божественного можно считать гипотезой, которую невозможно проверить, используя возможности современной науки. Так что все разговоры о «победе ИИ» лишь демонстрируют некомпетентность автора и его приверженность к «научному атеизму»...
 
F
Fazmadey
30 августа, 17:08
10
Харрари — подстилка Клауса Шваба, одним миром они все там мазаны и мечтают властвовать над всеми людьми, а тут нарисовался конкурент, которого они сами и вырастили. Кто читал книги Харрари? Тот еще п… дабол.
 
Fazmadey
30 августа, 17:09
1
Не в бровь, а в глаз!
 
g
guena16
30 августа, 17:24
0
ИИ это взаимодействие материи ( аппаратура) и энергии ( программное обеспечение). Поскольку вселенная безгранична, вероятно, существуют множество таких взаимодействий между материей и энергией, создающих натуральную интеллеженс (НИ). Человек- биологическая НИ, которая способна создать ИИ. У НИ и ИИ есть одна общая проблема- законы термодинамики, т.е. превращение всей энергии в тепловую, и исчезновение всех НИ и ИИ. Поэтом нужно взаимодействие НИ и ИИ для разрешения законов термодинамики, а не конфронтация.
 
kuyzelezo
30 августа, 17:28
2
В 2028 г. человечество не сможет выдернуть штепсель из розетки?
 
ceblab same
30 августа, 21:13
1
И, знаете, мне понадобилось полторы минуты, чтобы осознать: это говорю не я. И с той малолеткой ты тоже не спал?… Вспоминай скорее пока тесты на отцовство не сделали… Или ДНК свидетельство тоже можно свалить на ИИ?)))...
Добавил suare suare 8 Сентября
Комментарии участников:
Ни одного комментария пока не добавлено


Войдите или станьте участником, чтобы комментировать