Футуролог ​рассказал Грефу о последствиях абсолютной транспарентности

отметили
25
человек
в архиве
Футуролог ​рассказал Грефу о последствиях абсолютной транспарентности
Человечество движется к полной транспарентности, считает Ник Бостром. На гражданское общество это, по его мнению, окажет положительные последствия, однако в деспотичном государстве тоталитаризм так может только укрепиться.

Шведский философ и футуролог Ник Бостром рассказал о возможных последствиях абсолютной транспарентности, к которой в связи с развитием современных технологий и интернет-пространства движется мир. ​Об этом он порассуждал на пленарной сессии на первом международном конгрессе по кибербезопасности в Москве. Модератором дискуссии выступил глава Сбербанка Герман Греф, трансляция мероприятия велась на официальном канале форума на YouTube.

В ходе обсуждения этого вопроса Греф обратился к Бострому с вопросом, не сыграла ли в условиях повышенных киберугроз история интернета, «созданного из соображений безопасности, злую шутку с человечеством» и не перестанет ли в связи с этим интернет через пять—десять лет существовать в узнаваемом для нас виде.

«Я очень удивлюсь, если это произойдет», — отреагировал на это шведский футуролог, заметив, что с точки зрения более широких последствий само по себе возникновение государства было связано с возникновением письменности, а далее уже появилась пишущая пресса. «Возможно, интернет трансформирует политическую систему и культуру, но у нас нет науки, которая могла бы это изучить», — предположил Бостром.

«Мы входим в неизвестное, в пространство с неизвестной размерностью. И у нас очень ограниченные возможности этим управлять», — добавил он, заметив также, что еще одним большим аспектом этого процесса является «переход к транспарентному миру». «В связи с этим улучшаются способности людей анализировать информацию, но [идущие параллельно с этим] обсуждения средств и систем слежения [за людьми] концентрируются на очень узком участке — между безопасностью [и свободой]», — подчеркнул Бостром.

С точки зрения аргументов против расширения слежки за людьми, которая является одним из последствий движения к транспарентности, ​ по его мнению, — политический аспект. «Тоталитарным государствам не должно стать легче предотвращать восстания, потому что они могут таким образом подавить восстания в зародыше», — заметил шведский футуролог, добавив, что в то же время, если благодаря слежке власти смогут предотвратить теракт, «это хорошо». «А если появится техническая инновация, которая позволит уничтожить мир — сделать бомбу и совершить атомный взрыв, — это ужасно», — сказал Бостром. В таком случае в конце концов, по его мнению, «может появиться черный шар, который сможет стирать с лица земли целые города». «В противном же случае [будет] тотальная слежка», — уверен шведский философ.

 
«Мы сами способствуем этой слежке», — парировал Греф. Транспарентность, по мнению главы Сбербанка, «это неизбежно». ​«Я думаю, что в физическом пространстве транспарентность будет расти — мобильные камеры становятся дешевыми. Но в криптографии — более тяжелый случай», — заметил на это Бостром.

«Если представить абсолютную транспарентность, в цифре и в физическом мире она будет неравнозначна», — уверен он. «Если вы начнете [движение к ней] с гражданского общества, все будет хорошо. Если вы начнете с деспотизма, он может только укрепиться», — считает футуролог.

Под новые условия, как заметил также Бостром, могут подстроиться и социальные нормы. «[Например], могут быть введены штрафы за публикацию «грязного белья», его должно стать меньше», — считает философ. «Если люди будут думать, что все это может стать публичным, среднестатистический человек станет считать, что он должен стать более добропорядочным», — добавил он. В деспотичном же обществе, по мнению Бострома, транспарентность может подавлять оригинальные идеи. «Мы сейчас мало понимаем, что происходит в обществе и как это будет развиваться», — заключил эксперт.​

Ник Бостром — шведский футуролог, профессор факультета философии Оксфордского университета, а также основатель и директор оксфордского Института будущего человечества, который изучает глобальные риски, связанные с развитием технологий, в том числе искусственного интеллекта. В 1998 году Ник​ Бостром основал Всемирную ассоциацию трансгуманистов (Humanity+), выступающую в поддержку исследований, связанных с усилением человеческого интеллекта, физических способностей и улучшения качества жизни. В 2004 году он стал сооснователем Института этики и новых технологий. Журнал Foreign Policy несколько лет назад включил его в список 100 главных мыслителей планеты. По версии журнала Prospect Бостром является самым молодым среди топ-15 ведущих мыслителей мира.

Среди прочего Ник Бостром высказывался в поддержку теории симуляции, по которой человечество либо вымрет до достижения «постчеловеческой» фазы (гипотетической фазы жизни человечества, когда привычный образ жизни кардинально изменится под влиянием развития искусственного интеллекта и биотехнологий), либо запустит симуляцию собственной эволюционной истории с помощью цифровых технологий, либо уже существует в такой симуляции.
 
Авторы: Евгения Маляренко, Евгения Баленко.

Добавил suare suare 6 Июля 2018
проблема (3)
Комментарии участников:
bee_e
+2
bee_e, 6 Июля 2018 , url

И у нас очень ограниченные возможности этим управлять», — добавил он, заметив также, что еще одним большим аспектом этого процесса является «переход к транспарентному миру». В связи с этим улучшаются способности людей анализировать информацию,

Нет ли тут загогулины: ограничение возможностей — улучшение способностей?

И вообще, разве в связи с развитием технологий могут улучшаться способности человека в отношении чего-либо?

Имя_Фамилия
+3
Имя_Фамилия, 6 Июля 2018 , url

способности, вряд ли.  Доступность   информации  да.  В детстве я обожал  бибилиотеки.  Там  можно было  найти  необычные книги.  Особенно  если  они  сильно поношенные — значит  часто читают. Впрочем  и  новыми  нельзя брезговать. Студентом  ознакомился с  принципами  работы каталогов — библиотек.  А сейчас все  на расстоянии  клика.  Нужно  только  обладать  определенным  критическим  взглядом  и  перепроверять  информацию  в разных  источниках. Но скорость  в сотни  раз  увеличилась. 

waplaw
+4
waplaw, 6 Июля 2018 , url

Искусственный интеллект и прочая, прочая цифровизация серьезно сужает обычные права граждан. Можно уже утверждать, что сейчас создаются новые правила поведения для граждан и эти правила и права, в отличие от обычных* устанавливаются не обществом, а узкой группой лиц (специалисты по ИИ пр.) находящихся в прямом подчинении и сильной зависимости (материальной и моральной) у ещё более узкого круга лиц (их начальников и хозяев).

Таким образом получается, что новые всё более ограниченные и ущемленные правила обычного поведения уничтожают обычное право*.

Примеров возникновения новых ограничений в виде новых правил поведения и умирания традиционных огромное множество. Достаточно подумать о новых способах идентификации личности при оказании различных финансовых или государственных услуг.

Вот и получается, что все мы подпадаем под влияние очень узкой группы лиц и они будут регулировать, и даже управлять нашим поведением в повседневной жизни.

Лично меня это напрягает, т.к. уверен, что по старой доброй традиции, которая как раз останется и вытеснена не будет, технократия избавит от всех этих цифровых неудобств бюрократический аппарат, включая его социальную часть в виде, например, следователей, прокуроров, судей, врачей, инспекторов, и т.д., и весь контроль будет направлен на потребителей товаров и услуг.

* (Обычное право) — исторически сложившийся традиционный источник права и правила поведения.

bee_e
+2
bee_e, 6 Июля 2018 , url

Не только ИИ (хотя его не существует, лишь одно название), но и вообще любая технология создает ограничение человеку, его поведению, мышлению, творчеству.

waplaw
+2
waplaw, 6 Июля 2018 , url

Конечно не только ИИ. Я так и написал специально два раза «прочее, прочее».

А про технологии могу сказать, что не все технологии ограничивают личное пространство человека и создают ограничения. Некоторые новые технологии наоборот расширяют личное пространство и возможности, ограничивают лишь те, что связаны с идентификацией личности и невозможны к употреблению без такой идентификации и речь идёт о том, что некоторые традиционные правила поведения эти технологии изменят коренным образом, а точнее вовсе их ликвидируют. Например наличный расчёт вымирает и его заменяет новый с новыми правилами. Обычная прогулка по городу приобретает новые правила поведения. Вы скоро не сможете инкогнито перемещаться. Всё под контролем и контроль будет в руках у узкой группы лиц.

bee_e
+1
bee_e, 6 Июля 2018 , url

Это все понятно, кроме вот этого: " Некоторые новые технологии наоборот расширяют личное пространство и возможности"

Будьте добры пример (а то как бы не было это иллюзией, самоообманом т.е.). Спасибо.

fakenews
+1
fakenews, 6 Июля 2018 , url

во, можешь же, когда хочешь и реально на вещи смотреть.

У Лема в «Сумма технологий» подробно эти моменты разбираются. Книга 40 лет назад написана, а старикан почти все проблемы предугадал.

Имя_Фамилия
+1
Имя_Фамилия, 8 Июля 2018 , url

вообще то печатное  дело в свое  время так же с узило  слова  гражадан.  До печатных  текстов, все было в  малочисленных  рукописях и  устных преданиях (нет  свидетеля — нет  события). А печатные документы — размножили  и  закрепили  информацию. Тем  самым  в некотором  смысле ограничили  свободу маневра отдалеьным  личностям. 

Нужно принять  и  адаптироваться к новой  цифровой реальноти.  И  если вести  жизнь  и  дела  в рамках  новых  цифровых  реалий то по их законам, соблюдая информационную  гигиену. А если  мутить — то не бояяться, а использовать  новые возможности.  Так  то я смотрю  хакеров совсем  не  пугает  новая  цифровая реальность ;)

bee_e
+1
bee_e, 6 Июля 2018 , url

С этим я согласен, но никак ни с тезисом «улучшения способностей»

fakenews
+1
fakenews, 6 Июля 2018 , url

возможности расширяются определенно, если раньше было нереально ослеживать и анализировать такие потоки данных, то сейчас это можно делать в реальном времени.

взять тот же футбол, сколько параметров трекают для каждого игрока? и сколько пробежал, сколько мячем владел, процент успешных пасов и т.д. и наверняка на них датчики стоят. И все это сильно помогает тренерам при разработке стратегий игры. Футбол сейчас и 20 лет назад 2 большие разницы, теория сильно шагнула вперед и возможности расширились.

suare
0
suare, 6 Июля 2018 , url

Управление — всегда ограничение, сужение горизонта возможного, способного, нормирование, контроль.

Вынужденное ограничение возможности управлять процессом, контролировать его целенаправленно  приводит к стихийному, хаотическому расширению горизонта возможностей и  потенциала способностей.

Это заметно уже на примере поколения 7-. Они гиперактивны, дифицитовнимательны, сверхпереключаемы, мультизадачны, мультикоммуникативны, инфотехнологичны, интерфейсоинтуитивны, ультралюбознательны и абсолютно бесстрашны в постижении границ своих способностей и возможностей окружающего их мира.

И здесь возникает масса проблем и прежде всего:

«Мы входим в неизвестное, в пространство с неизвестной размерностью.… обсуждения средств и систем слежения [за людьми] концентрируются на очень узком участке — между безопасностью [и свободой]»

Норберт Винер

Кибернетика или управление и связь в животном и машине Глава IV. Обратная связь и колебания

В неврологическую клинику приходит больной. Он не парализован и, получив приказание, может двигать ногами. Тем не менее он страдает тяжелым недугом. Он идет странной, неуверенной походкой и все время смотрит вниз, на землю и на свои ноги. Каждый шаг он начинает с рывка, выбрасывая вперед сначала одну, потом другую ногу. Если ему завязать глаза, он не сможет стоять, он шатается и падает. Что с ним?


Приходит другой больной. Пока он неподвижно сидит на стуле, кажется, что у него все в порядке. Но если предложить ему папиросу, то при попытке взять ее рукой он промахнется. Затем он столь же тщетно качнет руку в обратном направлении, потом опять вперед, и, наконец, его рука станет совершать лишь быстрые и бесцельные колебания. Дайте ему стакан воды, и он выплеснет всю воду, прежде чем сумеет поднести стакан ко рту. Что с ним?


Оба больные страдают разными формами так называемой атаксии. Их мышцы достаточно сильны и здоровы, но они не могут управлять своими движениями.

Первый больной страдает спинной сухоткой. Часть спинного мозга, обычно воспринимающего ощущения, повреждена или разрушена поздними осложнениями от сифилиса. Поступающие сигналы притуплены или даже полностью пропадают. Рецепторы в суставах, сухожилиях, мышцах и подошвах его ног, обычно сообщавшие ему о положении и движении ног, не посылают сигналов, которые центральная нервная система могла бы принять и передать, и чтобы получить информацию о положении своего тела, больной должен полагаться на глаза и органы равновесия внутреннего уха. Физиолог на своем языке скажет, что больной потерял значительную часть проприоцептивных и кинестетических [c.162] ощущений.

Второй больной не потерял проприоцептивных ощущений — у него повреждение мозжечка, и он болен так называемым мозжечковым, или интенционным, тремором. По-видимому, функция мозжечка — соразмерять мышечную реакцию с проприоцептивными сигналами, и если эта соразмерность нарушена, одним из следствий может явиться тремор.

 

Винер Норберт

Человек управляющий

ГЛАВА Х

НЕКОТОРЫЕ КОММУНИКАТИВНЫЕ МАШИНЫ И ИХ БУДУЩЕЕ

В этой работе мы предположили, что механизм самопроизвольного дей­ствия является механизмом обратной связи, и соответствен­но мы искали в человеческой самопроизвольной деятельно­сти те черты расстройства, которые проявляют механизмы обратной связи, когда они перегружены.

Простейший тип расстройства — это колебания в процес­се выбора цели; это колебание происходит только в случае активно вызванного процесса. Это явление довольно близко к имеющему место у человека явлению, известному как це­левое дрожание, например, когда пациент протягивает руку за стаканом воды, его рука дрожит все сильнее и сильнее и он не может поднять стакан.

У человека встречается и другой тип дрожания, который в известных отношениях диаметрально противоположен це­левому дрожанию. Он известен как болезнь Паркинсона и знаком всем нам как параличное дрожание у стариков. Здесь у пациента дрожание проявляется даже во время отдыха; а фактически, если болезнь не слишком сильна, — только во время отдыха. Когда пациент пытается выполнить опреде­ленную задачу, это дрожание прекращается настолько, что жертва болезни Паркинсона в ее ранней стадии может быть даже преуспевающим глазным хирургом.

Все мы трое связывали болезнь Паркинсона с обратной связью, несколько отличной от обратной связи, связанной с достижением цели. Для того чтобы успешно достичь цели, различные, прямо не связанные с целенаправленным движе­нием сочленения должны находиться в таком состоянии уме­ренного тонуса, или напряжения, чтобы должным образом поддерживать конечное целенаправленное сокращение мус­кулов. Для этого необходим механизм вторичной обратной связи, местом которого в мозгу, повидимому, не является мозжечок, представляющий собой центральный управляю­щий пост механизма, расстройство которого вызывает целе­вое дрожание. Этот второй род обратной связи известен как обратная связь, регулирующая положение.

Математически можно показать, что в обоих случаях дро­жания обратная связь является чрезвычайно большой. Те­перь, когда мы рассматриваем обратную связь, имеющую важное значение в болезни Паркинсона, то оказывается, что самопроизвольная обратная связь, регулирующая основное движение, действует в направлении, противоположном обрат­ной связи, регулирующей положение, поскольку дело каса­ется движения органов, регулируемых этой последней обрат­ной связью. Поэтому наличие цели вызывает ослабление чрезмерного усиления обратной связи, регулирующей положение, и вполне может установить ее ниже уровня дрожа­ния. Теоретически эти вещи мы знали очень хорошо, но до недавнего времени мы не пытались создать рабочую модель. Однако в дальнейшем возникла потребность создать демон­страционный аппарат, который действовал бы в соответ­ствии с нашей теорией.

bee_e
+1
bee_e, 6 Июля 2018 , url

Ну винера то я знаю неплохо, также как и Неймана, Поспелова, Минского, Саймона и Ньюэлла ))

И управление не всегда ограничение, а еще и достижение (цели, полноты, оптимума и др.), т.е., расширение. Вот контекст — это да, всегда ограничивает, и сам ограничен по-определению.

А управление все же нет. Лошадью, например.

suare
0
suare, 6 Июля 2018 , url

Мундштук, поводья, оглобли, сбруя, объезжание.

Да ей о пошевелиться в контакте с человеком невозможно.

Человека «объезжают» с рождения, а вот если возможности объезжать ограничены, кто знает что он сам по себе начнёт вытворять без социального контроля?



Войдите или станьте участником, чтобы комментировать