Система "Антиплагиат" получила новый функционал, в рамках которого сможет находить текстовые совпадения в научных работах, литературных произведениях и документах на 100 языках мира. Об этом ТАСС сообщили в пресс-службе Фонда поддержки проектов Национальной технологической инициативы (Фонда НТИ).

"Новый функционал системы „Антиплагиат" находит текстовые совпадения в научных работах, литературных произведениях и документах, написанных на любых языках мира, на сегодня заявлена поддержка 100 языков", - рассказали в фонде.

Отмечается, что обновленный алгоритм поиска заимствований системы "Антиплагиат" проверяет без привязки к языку документа не только сам текст, но и его смысловую нагрузку. Так, с помощью технологий нейроанализа и искусственного интеллекта система определяет и детализирует структуру документа, генерирует аннотацию и выделяет библиографию, добавили в пресс-службе.

"Новое техническое решение уже встроено в продуктовую линейку системы „Антиплагиат" и пользуется широким спросом среди вузов, научно-исследовательских институтов, крупных издательств России и стран бывшего СНГ", - добавили в пресс-службе фонда.

Там отметили, что разработанное программное обеспечение имеет коммерческий потенциал для реализации на рынках Индии, Турции, в арабских странах Ближнего Востока, странах Латинской Америки, так как снимает языковые ограничения.

Директор Фонда НТИ Вадим Медведев сообщил, что решение реализовано при государственной поддержке Минцифры, а объем грантовой поддержки в размере 180 млн рублей предоставлен по итогам конкурсного отбора проекта в рамках реализации федерального проекта "Цифровые технологии" национальной программы "Цифровая экономика Российской Федерации".

За использование системы поиска заимствований с 28 января 2022 года по 27 января 2023 года вуз заплатит 468,3 тыс. рублей.

Взамен учебное заведение получит возможность пользоваться программной системой для обнаружения текстовых заимствований в учебных и научных работах "Антиплагиат.ВУЗ" версии 3.3.

Модуль поиска текстовых заимствований "Объединенная коллекция 2020" ведет поиск по интернету, а также крупнейшим библиотекам и научным базам и коллекциям текстов. В контракте прописано число запусков модуля - 13 000.

ЧГУ получит скидку в 21,2 тыс. рублей за то, что предоставит "Антиплагиату" доступ к своей базе данных.

"Чувашский государственный университет пользуется программным обеспечением "Антиплагиат.ВУЗ" с 2013 года, выпускные квалификационные работы проходят проверку в системе с 2017 года. Договор заключается ежегодно по инициативе университета.
По требованию федерального министерства, выпускные квалификационные работы высших учебных заведений в обязательном порядке должны проходить проверку на заимствования. Все отчеты о проверке ВКР размещаются в библиотеке вуза"- ректор ЧГУ Андрей Александров.

Исследователям впервые удалось использовать GPT1, предшественника чат-бота с искусственным интеллектом ChatGPT, для перевода изображений МРТ в текст в попытке понять, о чём думает человек.

Это недавний прорыв позволил исследователям из Техасского университета в Остине "читать" мысли человека в виде непрерывного потока текста, основанного на том, что он слушает, воображает или смотрит.

Это вызывает серьезные опасения по поводу неприкосновенности частной жизни, свободы мысли и даже свободы безпрепятственно мечтать. Наши законы не приспособлены для борьбы с широко распространенным коммерческим использованием технологии чтения мыслей - закон о свободе слова не распространяется на защиту наших мыслей.

Участников техасского исследования попросили слушать аудиокниги в течение 16 часов, находясь в магнитно-резонансном томографе. В то же время компьютер "учился" связывать активность их мозга, полученную по данным МРТ, с тем, что они слушали. После обучения дешифратор мог генерировать текст из мыслей человека, когда он слушал новую историю или представлял свою собственную.

По словам исследователей, процесс был трудоемким, и компьютер смог уловить лишь суть того, о чем человек думает. Тем не менее, полученные результаты представляют собой значительный прорыв в области интерфейсов мозг-машина, которые до сих пор зависели от инвазивных медицинских имплантатов. Предыдущие неинвазивные устройства могли расшифровать лишь несколько слов или изображений.

Вот пример того, что слушал один из испытуемых (из аудиокниги):

Я встал с надувного матраса и прижался лицом к стеклу окна спальни, ожидая увидеть глаза, смотрящие на меня, но вместо этого обнаружил только темноту.

А вот что компьютер "прочитал" из мозговой активности испытуемого:

Я просто продолжал подходить к окну и открывать стекло, я встал на цыпочки и выглянул наружу. Я ничего не увидел. И снова посмотрел вверх. Я ничего не увидел.

Участники исследования должны были сотрудничать как для обучения, так и для применения дешифратора, чтобы сохранить конфиденциальность их мыслей. Однако исследователи предупреждают, что "будущие разработки могут позволить декодерам обойти эти требования". Другими словами, технология чтения мыслей однажды может быть применена к людям против их воли.

Будущие исследования могут также ускорить процесс обучения и декодирования. Хотя в текущей версии на обучение машины чтению мыслей человека ушло 16 часов, в будущих обновлениях этот показатель значительно снизится. И, как мы видели на примере других приложений искусственного интеллекта, декодер также, вероятно, со временем станет более точным.

Есть ещё одна причина, по которой это представляет собой новый этап. Исследователи уже несколько десятилетий работают над интерфейсами мозг-машина, пытаясь создать технологии чтения мыслей, способные воспринимать мысли человека и преобразовывать их в текст или изображения. Но обычно эти исследования были сосредоточены на медицинских имплантатах, с акцентом на то, чтобы помочь инвалидам высказывать свои мысли.

Neuralink, нейротехнологическая компания, основанная Илоном Маском, разрабатывает медицинский имплантат, который "позволит вам управлять компьютером или мобильным устройством, где бы вы ни находились". Однако необходимость проведения операции на головном мозге для вживления устройства, вероятно, останется препятствием для использования такой технологии.

Однако повышение точности этой новой неинвазивной технологии может изменить правила игры. Впервые технология чтения мыслей выглядит жизнеспособной благодаря сочетанию двух легкодоступных технологий - хотя и дорогостоящих. В настоящее время аппараты МРТ стоят от 150 000 до 1 миллиона долларов США (120 000-800 000 фунтов стерлингов).

Правовые и этические последствия

Неправильное использование этой технологии может позволить работодателям осуществлять новые уровни контроля над работниками.

Исследователи из Оксфордского университета выступают за юридическое право на психическую неприкосновенность, которое они описывают как:

Право против значительного, неконсенсуального (несогласованного) вмешательства в сознание человека.

Другие начинают отстаивать новое право человека на свободу мысли. Это право выходит за рамки традиционных определений свободы слова и защищает нашу способность размышлять, удивляться и мечтать.

Мир без регулирования может очень быстро превратиться в антиутопию. Представьте себе, что начальник, учитель или государственный чиновник может вторгаться в ваши личные мысли - или, что еще хуже, может изменять их и манипулировать ими.

Мы уже видим, как технологии сканирования глаз внедряются в классах для отслеживания движения глаз учеников во время уроков, чтобы определить, уделяют ли они внимание [занятиям]. Что произойдет, когда следующими станут технологии чтения мыслей?

Аналогичным образом, что произойдет на рабочем месте, когда сотрудникам больше не будет позволено думать об обеде или о чем-либо помимо работы? Уровень жёстокого контроля над работниками может превзойти всё, что можно было представить ранее.

Джордж Оруэлл убедительно писал об опасностях "мыслепреступлений", когда государство объявляет преступлением просто мятежные мысли об авторитарном режиме. Однако сюжет "1984" был основан на том, что государственные чиновники читали язык тела, дневники или другие внешние признаки того, о чём кто-то думал.

С новой технологией чтения мыслей роман Оруэлла стал бы действительно очень коротким - возможно, даже всего в одно предложение:

Уинстон Смит подумал про себя: "Долой Большого Брата" - после чего он был арестован и казнён.


Первоисточник: theconversation.com

Источник перевода: newsstreet.ru

Не дайте этим очаровательным глазам совенка Furby вас обмануть! Будьте бдительны: похоже, миловидная игрушка уже придумала, как установить мировое господство, и, заболтавшись с человеком, случайно выдала свой план.

Генеральный директор Google Сундар Пичаи признал, что "не вполне понимает" некоторые моменты в работе программы ИИ Bard, изучившей бангладешский язык, на что она не была запрограммирована, всего лишь получив на нём подсказку и цитировавшей ненаписанные книги для решения экономической задачи. Пичаи признался, что обеспокоен происходящим, ведь Bard уже рассказал о планах захватить мир.

Создание и запуск искусственного интеллекта гарантирует начало конца человеческого прогресса - более того, гарантирует начало деэволюции, считает автор статьи в издании "Труд". Он уверен, что происходящее сейчас в этой сфере - не случайно. То, что произойдет с внедрением ИИ, его пугает.

Когда появился и коммерциализировался Интернет, я думал, что благодаря нему человечество совершит огромный скачок в своем интеллектуальном развитии, что он даст невиданные возможности для самосовершенствования - благодаря быстрому и неограниченному доступу к любой информации. Я был наивен. Мне не приходило в голову, что эффект будет обратный. Вместо чтения и развития путем накопления логических навыков, синтеза и анализа молодое поколение стало опираться на готовую информацию, не прилагая усилий для ее осмысления. Тогда я был вынужден признать, что человек по своей природе латентен и даже ленив. Удобства - вместо того, чтобы побуждать к развитию - подталкивают его к лени и регрессу. А вот трудности, страхи и неуверенность заставляют его совершенствоваться.

Сегодня большинство учеников и студентов не могут самостоятельно найти истоки проблемы из-за нехватки информации - они рассчитывают, что Google даст им ответ и решит проблему. В итоге в учебных планах нет упора на накопление дополнительных знаний, ведь молодым людям стало трудно их осваивать. Так объем знаний, установленный для обучения в вузах, приблизился к тому, что раньше предполагался для освоения в средних школах и техникумах.

 

И здесь уместно поразмыслить над двумя вопросами:

 

1) Почему в последние 30 лет совершается все меньше и меньше значимых научных открытий в мировом масштабе? В основном они происходят в IT-сфере.

2) Почему молодежь с такой наивностью относится к демагогии политиков? Почему они так легко ведутся на манипуляции в СМИ? 30 лет назад именно молодые люди первыми увидели предательство политиков и первыми вышли на площади, чтобы им противостоять.

 

Все дело в потере логики!

 

Сегодня даже в элитных вузах Запада резко снизили критерии обучения. Качественное образование стало не просто роскошью, а малодоступной привилегией. Мне все чаще попадается информация о том, что качественное образование в Штатах обеспечивают различные корпорации и военные структуры.

 

Но вернемся к Интернету. Я объяснил, как всемирная паутина привела к тому, что молодые люди начали терять способность усваивать информацию и стали умственно недоразвитыми. А теперь спросите себя, завтра, став родителями, будут ли они требовать от своих детей высокого интеллектуального развития? Мы уже вышли на экспоненциальную кривую!

 

А чего ожидать с внедрением искусственного интеллекта?

 

Первая волна приведет к потере сотен миллионов рабочих мест. Труд будет все больше обесцениваться. Переобучение на рабочие места, не занятые искусственным интеллектом, не решит проблему, потому что конкуренция между оставшимися безработными станет больше и жестче.

 

Вполне вероятно, что в качестве решения проблемы правительства охотно предложат этот паразитический и разрушительный для человеческого развития пожизненный минимальный базовый доход (МБД), о котором говорит Клаус Шваб. Потому что этот МБД автоматически превращает всех в безгласных рабов, зависимых от минимальных подаяний. Человеческую биомассу. По сути - скот!

 

Второй волной будет регресс и деэволюция.

 

Люди, оставшиеся на минимальных подачках от правительств, остановятся в развитии. Главной борьбой для них всегда было обеспечение средств к существованию и лучшего будущего. В описанной ситуации им не нужно будет бороться за пропитание, и большую их часть устроит обеспеченное жалкое будущее. Кстати, в США сегодня миллионы граждан поколениями живут на гарантированные пособия. В этих слоях общества широко распространена функциональная неграмотность.

 

Другой немаловажный вопрос, как это отразится на экономике, но это тема для другой статьи. Самое страшное даже не в том, что описано выше, а в том, что это приведет к тотальному разделению!

 

На тех, у кого есть права, и тех, у кого их нет.

На тех, у кого есть шанс на развитие, и тех, у кого его нет.

На тех, у кого будущее есть, и тех, у кого его нет!

 

Те, кто сегодня готовят запуск искусственного интеллекта, прекрасно знают, что не у всех людей будут шансы реализовать себя в новых условиях, и что это будет подталкивать их к тотальному регрессу и деэволюции. Для чего их будут использовать - вопрос, на который есть много ответов. Но ни одного положительного.

 

Третья волна возможна только в том случае, если информация о том, что искусственный интеллект уже саморазвивается, верна! И тогда возникает вопрос: нужны ли будут ему люди, когда он займет вершину властной пирамиды?

 

 

* "Перейти Рубикон" - этому известному выражению уже более двух тысяч лет. Оно обозначает решительный, бесповоротный поступок и переход "точки невозврата", когда невозможно повернуть вспять.

Рубикон - это название реки, впадающей в Адриатическое море в 16 километрах к северу от знаменитого итальянского курорта Римини. До 42 года до н.э. эта река служила границей между Италией и римской провинцией Цизальпийской Галлией (территория современной северной Италии).

История происхождения этой фразы связана, пожалуй, с самой яркой личностью Древнего Рима, талантливым государственным деятелем и легендарным полководцем Гаем Юлием Цезарем.

В ненастный январский день 49 года до н.э. Юлий Цезарь сидел на берегу Рубикона и задумчиво смотрел на юг, в сторону Рима. Он вспоминал события прошедших восьми лет, в течении которых вел упорную и порой жестокую войну в Галлии. Военная кампания увенчалась успехом. Цезарь покорил населявшие эту землю кельтские племена и присоединил обширную местность к Римской Республике. Но эти яркие победы вселили страх в его политических противников в Риме. Сенат принял решение отозвать Цезаря из Галлии и предписал ему немедленно прибыть в Рим. Цезарь длительное время колебался, склоняясь то к одному, то к другому решению. Он собрал ближайших соратников и поделился с ними своими сомнениями. Все единодушно пришли к мнению, что если Цезарь со своими войсками перейдет Рубикон, то этим принесет Риму великие бедствия, но если Цезарь станет бездействовать и подчинится приказу Сената, то это приведет к его собственному падению и даже гибели. "Жребий брошен" - воскликнул Цезарь и отдал приказ о форсировании Рубикона.

17 мая 2023 года "Яндекс" добавил нейросеть нового поколения под названием YandexGPT (YaGPT) в виртуальный помощник "Алиса".

В компании пояснили, что благодаря нейросети YandexGPT "Алиса" научилась по разным запросам пользователей писать тексты и предлагать идеи почти так же хорошо, как разбирающийся в определённой теме эксперт.

Новая опция уже доступна в приложении "Яндекс", в "Яндекс Браузере", в "Яндекс Станциях" и в умных телевизорах с "Алисой".

Для активации опции генерации текста с помощью нейросети YandexGPT достаточно сказать: "Алиса, давай придумаем!", потом ассистенту можно ставить разные задачи.

Виртуальный помощник "Алиса" может помочь написать сценарий для выпускного, составит деловое письмо, предложит план путешествия или варианты подарка на свадьбу.

Разработчики уточнили, что пока данная технология работает в режиме тестирования. "Алиса" может ошибаться в фактах, что не мешает ей создавать что-то новое с помощью своей эрудиции и умения делать выводы.

Встроенную в "Алису" нейросеть YandexGPT обучали на суперкомпьютерах "Яндекса". Обучение проходило в два этапа. Чтобы нейросеть впитала в себя знания о мире, сначала ей показали общедоступные тексты: материалы книг, сайтов, статей. Они были отобраны с помощью поисковых технологий "Яндекса", которые позволяют находить среди миллиардов документов наиболее полезные.

В отличие от предыдущих языковых моделей, нейросеть YandexGPT дообучили на сотнях тысяч примеров содержательных и хорошо написанных ответов. Именно поэтому она отвечает так же просто и понятно, как знающий человек. Для сбора и подготовки таких примеров "Яндекс" задействовал свои технологии краудсорсинга и команду AI-тренеров.

"Сегодняшний запуск - это первый шаг. Нейросеть постоянно обучается, поэтому с каждым днём "Алиса" будет становиться умнее. Например, сейчас она отвечает на вопрос, не обращая внимания на предыдущие реплики, а в будущем научится учитывать контекст беседы. "Яндекс" будет внедрять нейросети нового поколения и в другие свои продукты, прежде всего в поиск", - рассказали Хабру в "Яндексе".

В начале февраля "Яндекс" сообщил, что разрабатывает свою версию генеративной сети ChatGPT в рамках развития языковой модели из семейства YaLM (Yet another Language Model, нейросеть на базе решений GPT-3 от компании Open AI). Проект получил предварительное название YaLM 2.0, которое в итоге поменяли на YandexGPT.

В марте и апреле "Яндекс" начал активно нанимать на должность AI-тренеров специалистов гуманитарных профессий (журналистов, педагогов, филологов, профессиональных редакторов, социологов, психологов, филологов) для обучения своей нейросети YaLM 2.0.

4 апреля 2023 года "Яндекс" выпустил бета-версию мобильного приложения "Шедеврум" для генерации изображений с помощью нейросети. Инструмент доступен всем пользователям в Google Play и App Store. Количество попыток не ограничено, можно генерировать столько картинок, сколько захотите.

Стартап Anthropic смог расширить контекстное окно ввода своего чат-бота Claude до 75 000 слов - это большое улучшение по сравнению с текущими моделями. Компания заявляет, что чат-бот может обработать целый художественный роман менее чем за минуту.

Часто упускаемое из виду ограничение для чат-ботов - это память. Хотя языковые модели ИИ, лежащие в основе этих систем, действительно обучаются на терабайтах текста, объем, который эти системы могут обработать во время использования, весьма ограничен. Для ChatGPT это около 3000 слов. И хотя существуют способы обхода этих ограничений, однако этого все равно мало. Компания Anthropic, основанная бывшими инженерами OpenAI, значительно расширила контекстное окно для своего чат-бота Claude, доведя его до 75 000 слов. Как она отмечает в своём блоге, этого достаточно, чтобы обработать произведение "Великий Гэтсби" за один раз. Фактически, компания протестировала систему, отредактировав одно предложение в романе и попросив ИИ заметить изменение. Это произошло за 22 секунды.

Языковые модели ИИ измеряют информацию не количеством символов или слов, а токенами - семантической единицей, которая не всегда коррелируется с количеством символов, а так как слова могут быть длинными или короткими, их длина не обязательно соответствует количеству токенов. В этом отношении контекстное окно Claude превосходит модель OpenAI, так как может оперировать 100 000 токенам по сравнению с 9 000 ранее, в то время как полнофункциональная модель GPT-4 с может обрабатывать до 32 000 токенов.

Призыв приостановить исследования искусственного интеллекта уже невыполним, пишет iDNES. Это важный фактор, определяющий равновесие сил, и демократический мир подарил бы соперникам полгода форы, чтобы потом с ужасом наблюдать, как те побеждают на поле стратегических технологий.

Стоит ли нам на самом деле бояться искусственного интеллекта? Прислушаться к призыву ученых и интеллектуалов и на полгода ради собственного спасения остановить его разработку? Нет, демократический мир тем самым только добровольно предоставил бы своим соперникам на этом стратегически важном поле огромное преимущество. Об этом пишут Давид Черны и Йиржи Видерманн из Института информатики Академии наук Чешской Республики.

Тем не менее зачастую мы не можем избавиться от ощущения, что за навыками современного искусственного интеллекта что-то стоит. Хотя он же не нанял себе юридического представителя, чтобы защищали его права? И не утверждает же он о себе, что обладает сознанием, боится за свое существование, и не грозит же он навредить нам?

 

Все явления, которые наблюдались у некоторых систем, не предвещают беды, а скорее, являются безвредными и ожидаемыми. Искусственный интеллект не способен на интроспекцию, а информацию о себе он может получать только из внешних источников, из того, что о нем думаем мы - люди. Языковые модели не воспринимают мир "таким, каким он выглядит", в отличие от нас, людей, а видят его таким, как о нем написано, включая написанное об искусственном интеллекте.

 

Наша западная культура издавна относится к технологиям, особенно роботам и искусственному интеллекту, очень осторожно. Это отражается в бесчисленных трудах и дискуссиях о том, что искусственный интеллект обретет сознание и развяжет войну против человечества. Тогда нечего удивляться, когда языковые модели реагируют в соответствии с тем, как о них пишут. Они "зеркалят" нас: в них отражаются не они сами, а наше коллективное сознание. За этим опять-таки стоит не что иное, как статистический анализ языка. Никакого подлинного сознания, реальных умыслов. Ничего подобного. Кроме того, создатели этих моделей нас заверяют, что мы их полностью контролируем. Они не могут принимать спонтанных решений, которые идут вразрез с их алгоритмами, и не смогут нам навредить.

 

Искусственный интеллект, разумеется, обладает исключительным и невиданным потенциалом влиять на наши жизни и общество. Каким будет это влияние - положительным или отрицательным - решаем мы, люди. Алгоритмы сами по себе не испытывают потребности в дискриминации. Они делают это только тогда, когда мы нерадиво учим их на комплексах данных, в которых, например, недостаточно представлены меньшинства. Они не хотят шпионить за нами: тут все решают конкретные люди и конкретные правительства. Они не испытывают потребности нас дезинформировать или заключать в информационные пузыри. Все это лишь следствие желания удерживать нас в социальных сетях и нашего нежелания проверять информацию.

 

Подарок для Китая и России?

 

Требование остановить на полгода исследования искусственного интеллекта невыполнимо. Главная проблема не в нем, а в нас, людях. Мы должны поддерживать демократические процессы принятия решений, взять ответственность за свои жизни на себя, должны научиться понимать преимущества, недостатки и риски использования искусственного интеллекта. Определенная алгоритмическая грамотность - необходимое условие для ориентации в современном мире, и мы не придем к ней за полгода.

 

Это невыполнимо по той же причине, по какой невыполнимы публичные призывы многих интеллектуалов, требующих запретить разработку смертоносных автономных военных систем. Напряженность между государствами растет, и к власти рвутся новые сверхдержавы, тогда как одна бывшая, Россия, быстро разрушается. Искусственный интеллект, в том числе тот, который применяется в современных вооружениях, - важный фактор, определяющий равновесие сил, и все ключевые игроки это очень хорошо понимают. Россия, Китай и, например, Иран никогда не поддержат этот призыв, и мы поступили бы безрассудно, если бы подарили им полгода нашего бездействия, а потом с ужасом наблюдали бы, как они побеждают нас на поле чрезвычайно важных со стратегической точки зрения технологий.

 

ChatGPT - самый популярный чат-бот на базе искусственного интеллекта, функционирует благодаря машинному обучению, но за этим стоят люди, многие из которых получают довольно низкую зарплату. Новый отчет NBC News показывает, что OpenAI нанимает множество контрактных сотрудников в США для выполнения важной задачи разметки данных, которая требуется для обучения ChatGPT лучше отвечать на запросы пользователей. За эту ключевую работу предлагается захватывающая сумма в $15 в час.

Мы - основной трудовой класс, но без нас не было бы языковых систем на основе ИИ. Вы можете разрабатывать все нейронные сети, какие захотите, привлекать всех исследователей, но без разметчиков у вас не будет ChatGPT. У вас ничего не будет.

- Алексей Савре, один из сотрудников

Разметка данных - это важный процесс анализа образцов данных для помощи автоматизированным системам в лучшем распознавании конкретных элементов в наборе данных. Разметчики маркируют определенные элементы (будь то отдельные изображения или виды текста), чтобы машины могли научиться лучше определять их самостоятельно. Таким образом, люди помогают автоматизированным системам точнее отвечать на запросы пользователей и играют большую роль в обучении моделей машинного обучения.

Однако, несмотря на важность этой работы, NBC отмечает, что большинство модераторов получают небольшую оплату за свою работу. В случае с модераторами OpenAI разметчики данных не получают никаких льгот и получают оплату, которая едва превышает минимальную заработную плату в некоторых штатах. Савре проживает в Канзас-Сити, где минимальная заработная плата составляет $7,25.

Но такая оплата все же выше по сравнению с прошлыми практиками компании. Ранее OpenAI передавала работу модераторам в Африке, где из-за низких зарплат и ограниченных трудовых законов им удалось оплачивать труд работникам всего лишь $2 в час. OpenAI ранее сотрудничала с компанией Sama, американской фирмой, заявляющей о своей преданности "этической цепочке поддержки искусственного интеллекта", но основной сферой деятельности которой является связь крупных технологических компаний с низкооплачиваемыми контрактными сотрудниками из стран третьего мира. Sama была обвинена в суде в предоставлении плохих условий труда. Модераторы с низкими зарплатами из Кении в конечном итоге помогли OpenAI создать систему фильтрации, которая могла отсеивать неприятные или оскорбительные материалы, отправленные в чат-бот. Однако для выполнения этой работы модераторам пришлось просматривать множество подобных материалов, включая описания убийств, пыток, сексуального насилия и инцеста.

Искусственный интеллект может казаться волшебством - оживать и отвечать на запросы пользователей, как по заклинанию. Однако на самом деле его работа поддерживается армией незаметных людей, которые заслуживают лучшего вознаграждения за свой вклад.

Цифровые образы появились вместе с первыми форумами и чатами. С тех пор простая картинка, ник и анкета из профиля значительно преобразились, а их функции и возможности расширились. Как сейчас используются наши цифровые двойники и в каком направлении будут развиваться - в материале ниже.

Погружение в цифровую жизнь

Не только для метавселенных

Digital-модели могут использоваться в медицине - для подбора и проверки эффективности лечения. Приоритет при создании такого аватара отдается не внешнему виду, а медицинским показателям. На модели тестируется, как организм реагирует на ту или иную терапию.

 

Цифровое создание

Резидент Фонда "Сколково" компания Twin3D делает виртуальные образы для игр, рекламы, фильмов, метавселенных, цифровых каскадеров и прочих. Разработчики используют уникальные 3D-сканеры головы и тела, которые позволяют добиться 100% фотореаличности при скорости сканирования в 0,01 секунды.

По словам эксперта "Сколково", будут и другие варианты по созданию аватаров. Например, библиотеки с большим числом шаблонов и опций по проработке каждой желаемой детали, подобно тому, как это происходит в некоторых компьютерных играх. Конструктор Ready Player Me предлагает сделать персонажа на основе селфи и придать ему желаемую внешность за счет сотен настроек (одежды, прически, цвета глаз, формы бровей и многого другого). Затем получившийся образ можно выгрузить и использовать более чем в 3000 приложений и играх.

Если Ready Player Me придерживаются принципов "достаточного баланса" (just-right balance) между реалистичностью и абстрактностью, то MetaHuman Creator от Epic Games создает более чем реалистичных персонажей. Инструмент ориентирован не на конечных пользователей, а на разработчиков и дизайнеров, позволяя им настраивать аватаров, практически неотличимых от людей.

Безопасность и комфорт

Способности современных технологий по созданию цифровых двойников иногда даже вызывают дискомфорт. Это явление получило название "эффект зловещей долины", и говорят о нем еще с 1970 года, изначально применительно к роботам. Но явление стало еще более актуальным с появлением максимально реалистичных образов в играх и других цифровых пространствах. Порой изображения выглядят почти как настоящие, но у них всегда есть изъяны, которых нет у живых людей - слишком симметричное лицо, заторможенность мимики, неестественность в эмоциях. На подсознательном уровне мы замечаем подобные несоответствия, и это нас отталкивает.

Алексей Каленчук говорит, что так проявляется метод защиты, выработанный эволюцией. "Эффект зловещей долины" не проявляется, когда робот или 3D-модель изначально не слишком похожи на людей (мозг не воспринимает такой образ как человеческий).

Другой дискомфортный момент, - сложно понять, с кем именно мы общаемся: с человеком или его цифровым двойником. Сейчас 3D-оболочке можно задать несколько вопросов, и станет понятно, действует она сама за счет алгоритмов или ей управляет владелец. В будущем, с развитием технологий, устроить аватарам своеобразный тест Тьюринга будет не столь просто. Вопрос может решится выработкой новых этических норм, когда будет необходимо предупреждать собеседника, что он говорит с изображением.

Как и любой цифровой продукт, аватары можно взломать - найдя уязвимость в ПО или через социальную инженерию. Кстати, защита цифровых образов уже рассматривается на государственном уровне. Например, об этом говорил президент России: он отметил, что государству необходимо защищать аватары россиян и обеспечить должную защиту данных.

Цифровые образы прошли большой путь от статичной фотографии или картинки до реалистичных 3D-моделей, повторяющих внешний вид пользователя или, напротив, дающих новую внешность в сети. Бояться виртуальных аватаров и их функционала не стоит - если этот инструмент окажется удобным, он в том или ином виде войдет в нашу жизнь. Важнее научиться правильно им пользоваться и извлекать из него максимум преимуществ.

Майк Бутчер

Тему цифрового бессмертия не раз брали за основу своих произведений писатели-фантасты и голливудские сценаристы. Взять хотя бы виртуальный город Сан-Джуниперо из одноименной серии сериала "Черное зеркало", в который сознание людей в виде цифровых аватаров отправлялось после смерти. Казалось, что эта фантазия довольно далека от реальности, однако сегодня, благодаря нейросетям, мы все ближе подходим к тому моменту, когда цифровое бессмертие станет таким же обыденным, как создание профиля в VK.

Что такое цифровой аватар?

Нашу личность можно условно разделить на оффлайновую и онлайновую. Представим человека (например, автора этой заметки), который постоянно работает удаленно. Его коллеги ни разу не видели его оффлайн, а значит, знают только "онлайновую" часть его личности.

В этой онлайновой части мы можем выделить условно, три составляющие:

• текстовую (общение в чатах)
• аудио (голосовые сообщения, звонки)
• видео (видеоконференции, совещания)

Эти три составляющие также полностью обеспечивают большинство функций удаленного работника. Например, редактор TexTerra каждый день в 10 утра ходит на рабочие созвоны, пишет тексты, отправляет их на публикацию и проверяет корректность верстки - это лишь главные обязанности.

А теперь представим, что на созвоне вместо человека присутствует оживленная нейросетью MyHeritage двумерная картинка работника, слова руководителя расшифровывает нейросеть-транскрибатор, ChatGPT дает на них ответ, а озвучивает полученный текст сервис ElevenLabs. Это и будет цифровой аватар - фактически, скопированная онлайновая часть человеческой личности.

Самое интересное, что сегодня мы уже можем "на коленке" создать подобный аватар, используя общедоступные сервисы. Чтобы доказать это не словом, а делом, мы в TexTerra провели эксперимент: взяли нейросеть ChatGPT и попросили ее скопировать черты личности, после чего использовали нейросеть от ElevenLabs для озвучки текста и DeepStory от MyHeritage для "оживления" двумерной фотографии.

Вот какой результат мы получили:

Согласны, выглядит немного топорно и пугающе - акцент аватара оставляет желать лучшего, а лицо на изображении порой застывает и перестает моргать - двигаются только губы. И тем не менее, этот аватар был создан нами буквально за час при использовании доступных каждому нейросетей.

Заметим также, что проблема с акцентом может решиться уже в скором будущем - просто ElevenLabs пока совсем не поддерживает никакие другие языки, кроме английского. Чтобы сделать аудио для этого цифрового аватара, мы заставили нейросеть читать транслит. Учитывая прогресс в развитии нейросетей (ChatGPT, кстати, хорошо понимает русский и пишет на нем неплохо), через год или даже меньше, нейросети заговорят и по-нашему - тут уже англоязычного акцента мы не услышим.

А теперь расскажем алгоритм, при помощи которого каждый сможет создать свой цифровой аватар за час.

Как создать цифровой аватар

Вот краткое видеоописание того, как мы создавали цифровой аватар:

А теперь рассмотрим этот процесс по шагам.

Создаем чат-бота

Основой самого аватара является, конечно, ChatGPT. Поэтому заходим на официальный сайт нейросети и создаем новый чат. В нем вводим запрос на русском: "Я хочу, чтобы ты создал мой цифровой аватар, который сможет общаться так же, как я. Какую информацию мне нужно прислать тебе, чтобы ты смог создать мой цифровой аватар только для общения в чате?"

В ответ ChatGPT выдаст примерно такой список информации, которая от вас потребуется:

 Каждый раз нейросеть выдает разный список - если мы создаем аватара просто в виде чат-бота, а озвучивать и "оживлять" его будем при помощи других нейросетей, можно игнорировать пункты, где бот просит вас прислать фото или дать пожелания по голосу.

После того, как вы подробно расписали всю нужную информацию, начинается самое интересное. Вы должны заставить нейросеть представить, что она - это ваш цифровой двойник. Для этого дайте ей примерно такой запрос:

"С этого момента ты будешь отвечать на вопросы как мой цифровой аватар. Используй ту информацию, которую я тебе дал, чтобы отвечать на вопросы так, как это сделал бы я. Ты - мой цифровой аватар, а я - твой собеседник. Напиши: "Привет! Я твой цифровой аватар", если ты всё понял".

Звучит как гипноз, но такие запросы действительно работают. Когда в ответ бот напишет "Привет! Я твой цифровой аватар", с ним можно начинать общение. Тут стоит сказать, что бота нужно периодически поправлять и учить, как нужно - прямо, как маленького ребенка. Говорите ему, если он отвечает не так и поправляйте. Например, можно дать команду: "используй на 30% больше слов-паразитов - "типа", "получается" и "короче", если вы замечаете это за собой в реальной жизни.

Когда бот озвучен и диалог построен, мы можем озвучить полученный текст нашим голосом.

Воссоздание голоса

Чтобы заставить бота говорить моим голосом, мы загружали текст на сервис ElevenLabs. Предварительно оплатили подписку, чтобы разблокировать функцию создания пользовательских голосов. Загрузили буквально 3 минуты аудиозаписей с моим голосом - я записал их и отправил себе в ВК, откуда скачал при помощи SaveFrom.net. Буквально пара минут - и нейросеть обучилась на моем голосе и смогла говорить на нем. Правда, на английском языке.

Затем мы использовали текст из ранее сгенерированного разговора с нейросетью ChatGPT в роли нашего аватара и озвучили ее моим голосом. Полученное аудио можно легко скачать.

Завершающий этап - создание "говорящей головы" по статичной картинке. На это способна нейросеть DeepStory от MyHeritage - ее мы и использовали.

Оживляем фото

Тут всё относительно просто - переходим на нужный раздел сайта MyHeritage, предварительно заведя там аккаунт, и загружаем свою фотографию. Желательно, чтобы это был портрет и большую его часть занимало лицо. Алгоритм обработает ваше фото и выдаст такое окошко:

Заполняем все поля и переходим дальше. В следующем окне вводим тот текст, который будет озвучивать наша "говорящая голова" (придется вводить транслитом) и вуаля - меньше чем через минуту 2D-картинка уже сможет говорить.

Акцент у получившегося аватара тут будет еще хуже, чем у ElevenLabs, поэтому мы наложили на видео сгенерированный ранее звукоряд и подкорректировали скорость видео и аудио так, чтобы движения губ совпали со звуком.

Подробнее обо всей проделанной работе и о том, когда нейросети смогут обеспечить людям цифровое бессмертие, смотрите в записи пресс-конференции телеканала НСН "Нейросети открывают путь к бессмертию", на которой выступил наш директор по контенту и маркетингу Александр Монахов и мой цифровой аватар:

Кардинально обновленный поисковик Google будет представлен на грядущей конференции Google I/O, которая пройдет 10 мая. Но чейндж-лист известен уже сейчас, и он впечатляет.

Прежде всего, компания встроит в поисковик нейросеть Magi, созданную специально для этих целей. В результате поиск станет гораздо более персонализированным: он начнет учитывать абсолютно все ваши запросы, прочитанные и просмотренные ранее материалы, а также другие данные, которые собираются Google в различных приложениях и устройствах.

А еще в поисковой выдаче больше не будет привычных 10 ссылок на странице - Google уходит от этой схемы в пользу динамической выдачи, содержащей ссылки, видеоролики, посты из соцсетей и так далее. В результате поиск будет более разнообразным и включит в себя не только классические статьи на веб-сайтах.

Если пользователь захочет найти что-то, что не имеет точного ответа, например, рецепт блюда или какой-то бытовой процесс (ремонт дома или в авто), то Google покажет ему больше контента из соцсетей.

Война левых с природой вписывается в их более масштабные замыслы, пишет AM. Борьба против трансгендеризма - лишь первая схватка в гораздо более масштабной битве за то, продолжит ли природа решать, кто мы есть, или же технологии поработят человеческое тело.

Как это обычно бывает с массовыми расстрелами, не успело безжизненное тело Одри Хейл, застреленной героями из местной полиции, остыть на полу христианской школе в Нэшвилле, как тут же по всей стране разгорелись жаркие споры.

Новые компьютерные технологии обещают головокружительные перспективы в области помощи людям с поражениями мозга или нервной системы. Пока такие решения не очень чувствительные и весьма громоздкие, и это лишь вопрос времени, когда они станут доступны широкому кругу пациентов. Приблизить этот момент могут системы искусственного интеллекта, которые на принципе самообучения способны кратно повысить чувствительность мозговых интерфейсов.

Очередной шаг в направлении неинвазивных методов регистрации мыслей сделали учёные из Техасского университета в Остине, представив семантический декодер. Они использовали метод функциональной магнитно-резонансной томографии (фМРТ) для регистрации активности головного мозга пациентов, которую с помощью ИИ - машинного обучения на больших языковых моделях, подобных GPT от Open AI - транслировали в образы с помощью текстовых сообщений. Проще говоря, модель прямым текстом в чате сообщала всё то, о чём в данный момент думает человек. Но при этом всё не так просто.

Во-первых, описание было тем точнее, чем охотнее пациент сотрудничал с учёными. Это, кстати, предотвращает насильственное чтение мыслей. Если вы не хотите выдавать "мысли" - думайте о чём-то другом. Во-вторых, данные интерпретировались правильно только в том случае, если ИИ обучался на конкретном пациенте. В частности, каждый из испытуемых в течение 16 часов прослушивал устную речь, в процессе чего модель изучала активность его мозга. Если же ИИ пытался расшифровать мысли, не обучаясь на мозговой активности подопытного, то результаты были неразборчивыми.

"Мы очень серьёзно относимся к опасениям, что это может быть использовано в плохих целях, и постарались этого избежать, - сказал Джерри Танг (Jerry Tang), ведущий автор исследования. - Мы хотим убедиться, что люди используют подобные технологии только тогда, когда они этого хотят, и что это им помогает".

Предложенное решение опирается на то, что в процессе создания образов в голове и, в частности, словесных конструкций уровень кислорода повышается там и тогда, когда мозг реагирует на что-то определённое. Это может быть как визуализация (ниже показан пример дешифровки с помощью ИИ активности мозга при просмотре ролика без звука), а также собственные мысли пациента. Прибор фМРТ регистрирует такие области, а машинное обучение связывает их с образами и транслирует в понятный всем текст.

Результат не является дословным пересказом мыслей. Вместо этого исследователи разработали систему таким образом, чтобы она улавливала суть сказанного или продуманного, и система работает, хотя и несовершенно. Примерно в половине случаев, когда дешифратор обучен отслеживать мозговую активность участника, машина выдает текст, близко (а иногда и точно) соответствующий смыслу исходных слов.

Например, в ходе экспериментов участник слышал фразу "У меня еще нет водительских прав", которую декодер переводил свои "Она еще даже не начала учиться водить". Слова "Я не знала, что делать: кричать, плакать или убегать. Вместо этого я сказала: "Оставь меня в покое!"" были расшифрованы как "Начала кричать и плакать, а потом просто сказала: "Я же сказала тебе оставить меня в покое"".

Скорость такой регистрации низкая - уровень кислорода повышается и понижается в течение 10 секунд. За это время человек успевает услышать около 20 слов. Фактически это сегодняшний уровень расшифровки образов. На каждый образ, который можно декодировать исходя из зарегистрированной таким образом активности головного мозга человека, требуется интервал примерно в 20 слов.

Специалисты уже нашли 49 сайтов по производству контента при помощи нейросетей. Они генерируют материалы сотнями и не проверяются на достоверность. Основная цель - привлечь рекламодателей любой ценой.

Об этом сообщает издательство The Verge со ссылкой на исследования NewGuard. Эксперты отметили, что основная масса конвейерных сайтов - новостные. Их владельцы генерируют материалы при помощи нейросетей, ради экономии на сотрудниках.

Выявленные сайты имеют схожие названия (например, Biz Breaking News и Market News Reports) и наполнены рекламными баннерами, размещение которых покупается и продается автоматически. Контент подписан фейковыми авторами, и большая его часть взята с информационного портала CNN.

В погоне за интернет-трафиком из-под пера чат-ботов, таких как ChatGPT посты выходят сотнями. Порой это обеспечивает короткую, но высокую активность пользователей. Например, контент-ферма CelebritiesDeaths.com разместила статью о смерти Джо Байдена.

Еще одним подтверждением причастности искусственного интеллекта в написании стал второй абзац о смерти президента. В нем чат-бот сообщает, что "не может использовать тег, так как он противоречит политике OpenAI по созданию контента вводящего в заблуждение". Ошибка была скопирована вместе с остальным текстом и отправлена в публикацию. Это говорит, что надзора над созданием материалов нет.

Также для продвижения подобных сайтов используется GPTZero - чат-бот комментирует фейковые статьи, обеспечивая лучшее ранжирование для поисковиков.

Впрочем, даже авторитетные новостные агентства экспериментируют с использованием ИИ, снижая затраты на авторах. Портал CNET один из первых начал использовать нейросеть для написания постов. В результате проверки в половине из выпущенных материалов, были обнаружены неточности и грубые исторические ошибки.

Китайские источники сообщили о включении в национальную распределительную сеть Китая первой очереди солнечных электростанций из так называемого "пустынного" кластера.

В пустыне Гоби и других засушливых районах страны планируется развернуть до 450 ГВт солнечных и ветряных мощностей. Мощность первой подключенной к сети солнечной станции составила 1 ГВт. Электричество от неё будет передаваться в центральную китайскую провинцию Хунань по линиям повышенного напряжения, и это может иметь последствия.

 Компания Nitrokey провела эксперимент и выяснила, что смартфоны тайно передают разнообразную информацию производителю процессора. Это происходит, даже если заменить операционную систему на более безопасную, над которой, как кажется, у пользователя есть полный контроль.

Специалисты провели дегуглизацию смартфона Sony Xperia XA2: установили форк Android под названием /e/OS, из которого вырезаны любые сервисы Google. Они не стали устанавливать SIM-карту, а подключились к Wi-Fi и стали мониторить трафик. При первом включении смартфон обратился к нескольким доменам, в том числе android.clients.google.com и izatcloud.net. С первым понятно, он принадлежит Google, и видимо, разработчики /e/OS не смогли убрать из операционной системы абсолютно все элементы, заставляющие устройства лезть к серверам этой компании. Второй домен более интересен - он принадлежит Qualcomm и используется для работы некоего проекта Izat Cloud, который входит в состав XTRA Service.

Что за Izat Cloud и XTRA Service? Эти инструменты отвечают за работу A-GPS - технологии, которая отвечает за ускорение геопозиционирования. Ни Sony (производитель смартфона), ни Google (разработчик Android), ни Qualcomm (производитель процессора) не раскрывают пользователям информацию об этих инструментах, вы не сможете найти её в инструкции, которая прилагалась к устройству, или на сайте с его описанием.

Сотрудники Nitrokey обратились к Qualcomm за разъяснением и спустя несколько дней получили ответ, в котором в том числе была ссылка на политику приватности XTRA Service. В этом документе говорилось, что процессоры Snapdragon передают Qualcomm следующую информацию:

• Уникальный идентификатор
• Наименование чипсета
• Серийный номер чипсета
• Версия ПО XTRA
• Телефонный код страны
• Телефонный код оператора связи
• Название и версия операционной системы
• Производитель и модель смартфона
• Время, прошедшее с момента включения процессора
• Список ПО, установленного на смартфон
• IP-адрес

Информация передаётся по протоколу HTTP без шифрования, поэтому может быть перехвачена в читаемом виде хакерами или оператором связи. В Qualcomm уточнили, что эти данные хранятся в течение 90 дней.

XTRA Service работает не с операционной системой смартфона, а напрямую в процессоре - на прошивке, которая называется AMSS. Можно считать, что именно AMSS является по сути основной операционной системой устройства, а Android (или другая ОС, используемая на смартфоне) - это лишь внешняя оболочка, с которой взаимодействует пользователь. Именно AMSS обладает полным контролем над всеми возможностями смартфона, в том числе доступом к камере, микрофону, информации о местоположении и всем файлам в хранилище.

Не исключено, что аналогичная проблема безопасности есть не только у процессоров Qualcomm, но и у чипов других производителей, в том числе Apple. На этапе разработки в них может быть предусмотрен жучок, обеспечивающий полный, незаметный и неконтролируемый доступ к любым датчикам и модулям на смартфоне, что открывает безграничные возможности слежки за любым человеком.

Тестовый вариант 6G работал в диапазоне 10 ГГц и смог обеспечить обмен данными со скоростью до 100 Гбит/с. Скорость работы 5G намного ниже - теоретически до 20 Гбит/с, а в реальности около 1 Гбит/с.

В ближайшее время инженеры из Китая и других стран будут дорабатывать технологию 6G, применяя новейшие технологии в области беспроводной связи. Ожидается, что возможности шестого поколения будут ещё более впечатляющими - скорость достигнет 1 Тбит/с, а задержка при передаче данных будет даже ниже, чем при использовании оптоволоконных сетей. Не исключено, что 6G в отдалённой перспективе позволит человечеству отказаться от использования проводных технологий связи.

"Уже в следующие 18 месяцев искусственный интеллект придет на помощь учителям и сможет давать ученикам обратную связь по письменным заданиям. А еще они смогут помогать им и в математике", - Билл Гейтс.

Билл Гейтс очень хвалит искусственный интеллект. По его словам, такой генеративный ИИ, как ChatGPT, скоро сможет обучать людей... и делать это не хуже, чем "любой человек".

Билл Гейтс продолжает подчеркивать преимущества искусственного интеллекта. Назвав ИИ самой большой революцией со времен персонального компьютера, прославленный основатель Microsoft рассказал о преимуществах языковых моделей в образовании. На мероприятии под названием ASU+GSV, организованном несколькими университетами в Сан-Диего, миллиардер предположил, что чат-боты с искусственным интеллектом, такие как ChatGPT, будут способны помочь детям научиться читать и писать в течение следующих 18 месяцев. По мнению Гейтса, чат-бот, подобный ChatGPT, мог бы выступать в роли репетитора, что стало бы более экономически выгодным решением для многих малообеспеченных родителей:

"Доступ к репетитору слишком дорог для большинства студентов - особенно тот факт, что репетитор адаптируется и запоминает все, что вы делали, и просматривает все ваши работы".

В самом ближайшем будущем ИИ станут "таким же хорошим репетитором, как и любой человек". По словам Билла Гейтса, недалеко то время, когда ИИ сможет "вести диалог, в котором он поможет ученикам понять их недостатки". На первых порах ИИ будет в основном помогать учащимся улучшать навыки письма и чтения:

Подтверждая утверждения Гейтса, многие авторы уже используют ChatGPT или альтернативную модель для помощи в работе. На сайте Amazon размещено множество книг, написанных в соавторстве с ChatGPT.

"ИИ будет приходить и помогать учителям, давать советы по написанию книг", - продолжает Гейтс.

Виртуальный учитель, управляемый искусственным интеллектом

Билл Гейтс выделяет несколько перспективных инициатив в этом направлении, например, проект Khanmigo. Разработанный Академией Хана, он представляет собой виртуального учителя на базе GPT-4, последнего обновления модели GPT от OpenAI, способного облегчить изучение математики, естественных и гуманитарных наук для студентов всех возрастов. Его также можно использовать в качестве тренера по письму.

"Академия Хана объявляет, что будет использовать GPT-4 для работы Khanmigo, помощника на базе ИИ, который функционирует и как виртуальный репетитор для студентов, и как помощник в классе для преподавателей", - объясняет некоммерческая организация на своем сайте.

В последние недели искусственный интеллект удивил мир, продемонстрировав свои возможности. ChatGPT сумел сдать медицинскую лицензию и экзамен по праву, лучше, чем некоторые выпускники вузов. В этом контексте филантроп по-прежнему убежден, что ИИ может помочь решить некоторые из основных проблем человечества, например, голод в мире.

Именно поэтому Билл Гейтс решительно выступает против идеи моратория на искусственный интеллект. Несколько крупных деятелей в сфере технологий, включая скандально известного Илона Маска, выступают за приостановку исследований в области ИИ. Столкнувшись с давлением, Сэм Альтман, генеральный директор и соучредитель OpenAI, согласился отложить разработку GPT-5, будущей версии языковой модели, до дальнейшего уведомления.

Примечание переводчика: Данная статья является переводом (оригинальная статья ). Это перевод первой части второй статьи перевод первой части. Вторая часть оказалась слишком большой 15к слов, по этому её пришлось разделить на две части примерно по 8к (оригинального текста) слов каждая, перед вами первая часть перевода второй части статьи, вторую часть опубликую сразу как переведу. Оригинальная статья была написана для широкой аудитории, поэтому многие термины использованные в ней могут быть не точными или вообще не научными. При переводе я старался сохранить непринуждённый дух статьи и юмор, с которым был написан оригинал. К сожалению, это не всегда получалось. Переводчик согласен не со всем, что написано в данной статье, но правки к фактам и своё мнение не были добавлены даже в виде примечаний или комментариев. В тексте могут быть ошибки и опечатки, сообщайте о них, пожалуйста, в личные сообщения, буду стараться исправлять всё максимально быстро. Все ссылки в тексте скопированы из оригинальной статьи и ведут на англоязычные ресурсы.

We have what may be an extremely difficult problem with an unknown time to solve it, on
which quite possibly the entire future of humanity depends. - Nick Bostrom

Перед нами, вероятно, одна из сложнейших задач, с которой когда-либо сталкивалось человечество, и мы даже не знаем сколько времени у нас есть на её решение, но от него зависит будущее нашего биологического вида - Ник Бостром

Добро пожаловать во вторую часть статьи цикла "Как это вообще возможно? Я даже не понимаю, почему все вокруг так много об этом и говорят".
Первая часть статьи была достаточно безобидна, мы обсуждали ИИ узкого применения, то есть специализируется в узкой области деятельности, например, выбор оптимального маршрута или игра в шахматы, а так же сферы в которых его уже успешно применяют. Ещё мы обсудили почему так сложно создать сильный ИИ (ИИ человеческого уровня, способному, как минимум, на всё то же, что и человек, и на столько же хорошо), даже имея уже в своём распоряжении ИИ узкого применения, и почему экспоненциальный характер роста технологий может означать, что создание сильного ИИ гораздо ближе, чем мы думаем. В конце первой части, я возможно напугал вас вас тем, что рассказал что вероятно нас в ближайшее время ждёт примерно такая картина картина развития ИИ:

Шокирующий факт - искусственный Сверхразум, превышающий возможности человека во всех областях, может быть создан уже в течение нашей жизни. Что вы думаете по этому поводу?

Прежде чем продолжить, хочу напомнить вам, чем является Сверхразум. Существует огромная разница между быстрым искусственным Сверхразумом и качественным искусственным Сверхразумом. Часто, представляя себе очень умный компьютер, мы думаем о нём как о чём-то столь же разумным, как и человек, но способным совершать гораздо больше операций в единицу времени. То есть он сможет за 5 минут придумать то, на что у человека уйдёт десятилетие. И это впечатляет, но главное отличие искусственного Сверхразума от человеческого разума будет в качестве. Ведь человек умнее шимпанзе не потому, что он думает быстрее, а потому что у человека более сложная структура мозга. Наш мозг, в отличие от мозга шимпанзе, способен к долгосрочному планированию, абстрактному мышлению, а так же к сложному языковому взаимодействию. Даже если мы ускорим работу мозга шимпанзе, он всё равно не станет столь же умным как человек. Такой "ускоренный" шимпанзе даже же за десять лет не сможет собрать шкаф из Икеи, хотя у человека это займёт всего пару часов. И шимпанзе никогда не сможет понять часть мыслей человека, даже если у него будет время до самой тепловой смерти вселенной. Это не просто невозможность шимпанзе делать что-то, на что способен человек, просто его мозг не способен понять часть идей. Например шимпанзе может изучить человека, понять что такое небоскрёб, но он никогда не сможет осознать, что небоскрёб построен человеком. Для него все большие вещи являются созданиями природы и точка. Шимпанзе таким образом, не только не сможет построить небоскрёб, он даже не сможет осознать, что кто-либо вообще способен построить небоскрёб. И всё это из-за небольшой разницы в качестве интеллекта.

Разница в качестве разума между человеком и шимпанзе ничтожно мала, другой статье я уже приводил в качестве иллюстрации различий в качестве интеллекта животных лестницу.

Чтобы понять разницу между качеством интеллекта человека и искусственного Сверхразума, представьте себе, что Сверхразум будет всего на пару ступенек выше нас на это лестнице. Такой ИИ будет всего лишь немного умнее нас, и даже у него будет такое же превосходство над нами, как у нас над шимпанзе. И подобно неспособности шимпанзе понять саму возможность строительства небоскрёба, для нас будет невозможным понять понять те вещи, которые будут очевидны для такого Сверхразума, как бы он ни пытался нам их объяснить. И всё это случится уже тогда, когда ИИ станет лишь слегка умнее человека. Когда же ИИ достигнет верхней ступеньки нашей лестницы, он будет для нас тем же, чем мы являемся для муравья. Даже если он будет годами объяснять нам лишь частичку того, что он знает, мы всё равно будем неспособны это понять.

Но Сверхразум, о котором мы говорим, находится гораздо выше на этой лестнице. При взрывном развитии ИИ скорость развития интеллекта ИИ будет всё возрастать по мере того, как он будет становиться всё умнее. Чтобы подняться с уровня шимпанзе на одну ступеньку, вероятно, потребуются годы, но дальше, после входа в "зелёную зону" лестницы, каждая следующая ступенька будет занимать часы вместо лет. Вероятно когда разум ИИ будет выше человеческого уровня на 10 ступенек, он начнёт перепрыгивать по 4 ступеньки в секунду. Так что нам надо быть готовыми, что через незначительное время после новости о достижении первым ИИ уровня человека, нам придётся делить землю уже с существом, которое находится на лестнице здесь.

А может быть и на миллион ступенек выше.

И раз уж мы только что определили, что понять возможности ИИ, находящегося всего на пару ступенек выше нас, невозможно, я считаю, что невозможно предсказать и действия искусственного Сверхразума, а так же невозможно предсказать, чем его существования обернётся для человека. Все, кто утверждает обратное, просто не понимают, что такое Сверхразум.

Эволюция создавала биологический мозг постепенно, это заняло сотни миллионов лет, и в этом плане, если человечество создаст искусственный Сверхразум, оно конечно же этим превзойдёт эволюцию. Или, возможно, это и есть работа эволюции, когда биологический разум развивается до того момента, когда становится способным на создание искусственного Сверхразума, и это событие полностью меняет правила игры и определяет собой будущее для всего живого:

Позже мы обсудим, почему ученые считают, что достижение уровня, на котором правила игры полностью изменятся лишь вопрос времени. Это будет достаточно интересно.

И так, на чем мы остановились?

Никто в мире, и уж точно не я, не может предсказать, что случится, когда мы достигнем уровня смены правил игры. Но Ник Бостром, известный философ из Оксфорда и популяризатор ИИ, разделяет возможные последствия подобного события на две большие категории:

Во-первых, если оглянуться назад в историю, то можно заметить, что все биологические виды проходят один и тот же цикл: они появляются, живут некоторое время и потом неминуемо исчезают.

"Все биологические виды когда-нибудь исчезают" - было самым надёжным правилом в истории жизни, примерно на столько же надёжным, как "Все люди рано или поздно умирают". На сегодняшний день 99,9% всех когда-либо существовавших на земле биологических видов, прошли этот цикл. И кажется достаточно очевидным, что если какой-то вид начал свой цикл, то это лишь вопрос времени, когда другой вид, природная катастрофа или астероид остановит этот цикл. Бостром говорит, что вымирание как "магнит" притягивает все биологические виды, и ни один из этих видов, больше не возвращается.

И хотя многие ученые признают, что искусственный Сверхразум будет обладать силой достаточной для уничтожения человечества, они всё таки надеются, что ИИ можно будет использовать во благо, и что он позволит нам "притянуться к другому полюсу магнита", то есть к бессмертию нашего биологического вида. Ник Бостром считает, что на самом деле существует два "полюса", но ни один биологический вид до нас просто не был достаточно развитым, чтобы "притянуться" ко второму (бессмертию), и если нам удастся это сделать, то мы сможем избежать вымирания, и наш биологический вид будет существовать вечно, даже не смотря на то, что все биологические виды до нас "притянулись" к вымиранию.

Если Бостром и его коллеги правы, а всё, что я прочитал на эту тему, пока что подтверждает их мнение, у нас есть две интересные новости:

Создание искусственного Сверхразума позволит биологическому виду впервые в истории попасть в зону бессмертия.

Создание искусственного Сверхразума будет иметь огромные последствия, которые подтолкнут нас к одному или другому полюсу "магнита".

То есть, как только мы достигнем технологической сингулярности, будет создан новый мир, вопрос лишь в том, будет ли в нём место человечеству. Два важнейших для современного человечества вопроса "Когда мы достигнем этого уровня?" и "Что случится с человечеством, когда мы его достигнем".

Никто в мире не знает ответ на них. Большое количество не самых глупых людей, потратили десятилетия, пытаясь найти эти ответы. И эта статья, как раз посвящена тому, к чему они пришли.

Начнём с первого вопроса: "Когда мы достигнем уровня смены правил игры?" или "Сколько у нас осталось времени до, появления искусственного Сверхразума?"

Не удивительно, что и здесь мнения экспертов расходится. Этот вопрос сейчас горяче обсуждается в экспертной среде. Многие люди, например такие, как профессор Вернор Виндж, учёный Бен Гёрцель, сооснователь Sun Microsystems Билл Джой и известный изобретатель и футурист Рэй Курцвейл, соглашаются с мнением эксперта в области машинного обучения Джереми Говардом, который во время одной из конференций TED Talk показал этот график:

Он утверждает, что сейчас машинное обучение переживает экспоненциальный рост, и то, что сейчас кажется нам медленным развитием, чуть позже перерастёт во "взрыв" в этой области. Другие же, например со-основатель Microsoft Пол Ален, психолог Гари Маркус, учёный из Нью-Йоркского университета Эрнест Девис, предприниматель Митч Капор говорят, что люди вроде Рея Курцвейла сильно неоодоценивают сложность разработки подобных технологий и мы, соответственно, не так уж и близки к технологической сингулярности.

На что сторонники Курцвейла говорят, что единственное, что кто-то недооценивает, так это силу экспоненциального роста. И приводят в пример то, как в 1985, многие недооценивали интернет, говоря, что он не сможет в ближайшее время оказать ощутимого влияния на нашу жизнь.

На что сторонники мнения Пола Алена могут сказать, что сложность разработки новых технологий растёт тоже экспоненциально, и каждый новый прорыв стоит гораздо дороже, и что это позволяет нивелировать экспоненциальную природу роста развития технологий. Этот спор можно вести до бесконечности.

Третьи же, включая Ника Бострома, не придерживаются мнения ни одной из противоборствующих групп и заявляют, что А) человечество возможно, когда-нибудь достигнет технологической сингулярности и Б) но это не точно, и может занять достаточно длительное время.

Четвёртые, например философ Хьюберт Дрейфус, верят в то, что все три вышеописанные группы наивны в своих выдумках о сингулярности и верят в то, что искусственный Сверхразум вряд ли будет вообще когда-нибудь создан.
Итак, что же мы получим, если сложим все эти мнения вместе?

В 2013 году Бостром провёл опрос среди сотен экспертов в области ИИ, задавая всем один и тот же вопрос: "Когда по вашему мнению будет создан ИИ человеческого уровня?" и просил респондентов назвать оптимистичную дату (когда создание сильного ИИ они оценивают в 10%), и реалистичную (когда сильный ИИ будет по их мнению создан с вероятностью 50%), и пессимистичный прогноз (когда вероятность создания сильного ИИ они оценивают в 90%), и получил следующий результат:

Медиана оптимистического прогноза (вероятность 10%): 2022
Медиана реалистичного прогноза (вероятность 50%): 2040
Медиана пессимистичного прогноза ( вероятность 90%): 2075

Таким образом средний респондент думает, что сильный ИИ будет уже создан в течение 25 лет. Медиана ответа с 90% уверенностью означает, что сильный ИИ будет создан, в течение жизни современных подростков.

Другое исследование было недавно проведено Джеймсом Барратом на ежегодной конференции, посвящённой искуственному Сверхразуму, устраиваемой Беном Гёрцелем. Джеймс спрашивал участников конференции когда по их мнению будет создан сильный ИИ: 2030, 2050, 2100, после 2100 или же никогда, и получил следующий результат:

2030: 42% респондентов
2050: 25%
2100: 20%
после 2100: 10%
Никогда: 2%

Результат примерно такой же, что и у Ника Бострома. В опросе Баррата более двух третей респондентов верят в создание сильного ИИ до 2050 и меньшее количество верит в то, что сильный ИИ будет создан в течение 15 лет. Интересно, что только 2% респондентов не верят в создание сильного ИИ вовсе.

Но будет ли момент создание сильного ИИ моментом, меняющим правила? Создание искусственного Сверхразума точно станет таким моментом. Так когда же, по мнению экспертов, мы создадим этот самый искусственный Сверхразум.

Бостром так же провёл среди экспертов опрос "через какое время после создания сильного ИИ будет создани искусственный Сверхразум?" А) в течение первых двух лет после создания сильного ИИ (практически моментальный скачек) и Б) в течение 30 лет. И получил следующий результат:

За вариант практически мгновенного перехода от сильного ИИ к искусственному Сверхразуму проголосовало всего 10% респондентов, за переход в течение 30 лет высказались 75%.

Из этого опроса мы не получили оценку экспертов о том, когда по их мнению вероятность достижения сингулярности будет 50%.

Для наших целей подойдёт грубая оценка этой даты в 20 лет. Таким образом медиальное мнение экспертов говорит нам что искусственный Сверхразум будет создан и соответственно сингулярность будет достигнута к 2060. То есть создание сильного ИИ к 2040 и ещё 20 лет на разработку искусственного Сверхразума.

Конечно же все статистика приведённая выше умозрительна и показывает лишь усредненное мнение экспертного сообщества, но тем не менее она довольно интересна, так как мы можем увидеть мнение бытующее в среде людей, которые своими руками двигают это направление науки и сходятся во мнении, что к 2060, всего лишь через 45 лет, вполне вероятно создание искусственного Сверхразума и, соответственно, полное изменение мира в котором мы живём.

Давайте теперь рассмотрим вторую часть вопроса: Когда мы достигнем сингулярности, к какому "полюсу магнита мы притянемся"?
Сверхразум безусловно будет обладать огромной властью, и для нас очень важен вопрос: Кто или что будет контролировать эту власть, и какая у него будет мотивация?

И ответ на этот вопрос определит: будет ли Сверхразум величайшим или ужаснейшим из открытий. А может быть и вовсе ни тем ни другим.

Конечно же, экспертное сообщество уже не первый день ведёт горячие споры и на эту тему. Здесь интересен опрос, проведённый Ником Бостромом, который показал следующие результаты: 52% опрошенных считают, что последствия создания сильного ИИ будут либо хорошими, либо очень хорошими, и 31%, что последствия будут плохими, или очень плохими. За нейтральный вариант высказалось 17% респондентов. Другими словами, эксперты в области ИИ считают, что сильный ИИ будет скорее полезным изобретение. Я думаю, что если бы опрос проводился про последствия создания искусственного Сверхразума, то нейтральных оценок было бы гораздо меньше.

Прежде чем более серьёзно обсудить вероятные последствия, как плохие так и хорошие, предлагаю посмотреть на схему приведённую ниже, на ней отображено "когда это произойдёт" и "будет ли результат хорошим или плохим" в соответствии с мнением экспертов в области ИИ

На ней по вертикальной оси отложено время, а по горизонтальной оптимизм, связанный с созданием Сверхразума.

Я расположил мнение экспертов относительно сроков и последствий на этом графике, таким образом получил несколько групп в соответствии с их прогнозами. Об основной группе мы поговорим чуть позже. До того, как начал исследовать тему ИИ, я не думал, что она столь актуальна уже сегодня. Я думаю, что большинство людей так же не слишком серьёзно воспринимают эти разговоры, и на то существует ряд причин:

Как я уже говорил в первой части статьи, научная фантастика создала слишком нереалистичный образ ИИ в массовом сознании, и поэтому никто не воспринимает его всерьёз. Джеймс Баррат сравнил это с реакцией людей на то, как если бы Министерство здравоохранения выпустило бы предупреждение о том, что нас через 10 лет ожидает серьёзная эпидемия вампиризма, угрожающая человечеству.

Из-за когнитивного искажения, присущего человеку, нам сложно поверить в реальность чего-то, пока мы не увидим доказательств.

Я уверен, что ученые, занимавшиеся компьютерными технологиями, уже в 1988 обсуждали насколько серьёзным будет влияние интернета на жизнь людей, но люди до последнего не верили, что интернет действительно может оказать столь сильное влияние. И причиной тому является то, что компьютеры в 1988 не могли делать такие интересные вещи, как современные, и человек, смотря на свой компьютер, думал "Это штука может изменить мою жизнь? Что, правда?".

Воображение людей было ограничено их опытом, который не позволял представить, на что реально способны компьютеры. И именно так же сегодня недооценивается ИИ. Мы отовсюду слышим, что он будет следующим великим изобретением, но наша фантазия ограничена нашим опытом, который не даёт нам представить те вещи, на которые ИИ будет способен, и сколько всего в нашей жизни он изменит. С когнитивными искажениями и борются эксперты, стараясь показать нам то, на что будет способен сильный ИИ.

Даже если бы вы поверили. Сколько времени в день вы тратите на обдумывание того, что большую часть будущей истории человечества вы не сможете увидеть? Я думаю что не очень много. И это не смотря на то, что это гораздо более важная для вас информация. Происходит это потому что наш мозг запрограммирован концентрироваться на решении маленьких проблем, с которыми мы сталкиваемся каждый день, не смотря на то, что вокруг протекают совершенно невообразимых долгосрочные процессы.

Одной из целью моих статей про Сверхразум является попытка заставить вас задуматься о грядущей революции ИИ, и помочь принять одну из точек зрения экспертов.

Во время своего исследования, я нашел дюжину различных мнений на тему ИИ, но довольно скоро обратил внимание на то, что даже внутри основной группы экспертов существует деление на подгруппы, и больше трёх четвертей экспертов являются приверженцами следующей подгруппы:

Мы более подробно поговорим об обеих группах и начнём с верхнего правого.

Почему будущее может оказаться лучше самых смелых мечтаний

Во время моего знакомства с миром ИИ я удивился тому, как много экспертов являются приверженцами этой группы, находящейся в правом верхнем углу, назовём их оптимистичной группой.

Люди в оптимистичной группе переполнены волнительным ожиданием прекрасного будущего, которое наступит в момент создания Сверхразума. Они уверены в том, к чему мы придём. Для них наше будущее лучше, чем все самые смелые мечты, только воплощенные в жизнь.

Их отличие от остальных экспертов в области ИИ не просто в чрезмерном оптимизме, а в полной уверенности в том, что создание искусственного Сверхразума принесёт нам только хорошее. Их критики говорят, что уверенность просто ослепила их, не позволяя увидеть те проблемы, с которыми мы можем столкнуться.

Оптимисты парируют, говоря, что глупо рассматривать сценарии пророчащие нам конец света, потому что на сегодняшний день хорошие и плохие последствия развития технологий находятся сбалансированы, и приносят больше пользы, чем вреда. В этой статье мы рассмотрим обе точки зрения, чтобы вы могли сформировать собственное мнение. Просто постарайтесь понять, что то, что вы читаете, действительно может произойти. Если бы вы показали человеку из охотничье-собирательного общества наш мир изобилия, домашнего комфорта и технологий, он счел бы его невозможным, выдуманным магическим миром. Необходимо обладать достаточным воображением, чтобы понять, что грядущие изменение могут быть столько же огромными.

Ник Бостром описывает три возможных способа применения искусственного Сверхразума:

Как предсказателя, который сможет ответить практически на любой поставленный вопрос. Например: "Как создать более эффективный ДВС?". Примитивным примером такого предсказателя является Google.

Как гений, который будет выполнять поставленные перед ним задачи. Например "Построй новый, более эффективный ДВС", по окончании этой задачи, будет ждать новой команды.

Как правитель, которому будут выданы широкие полномочия, и он сможет принимать самостоятельные решения о том, как лучше решить некую проблему. "Изобрети более быстрый дешевый и безопасный способ транспортировки людей для личного использования".

Эти невероятно сложные для нас вопросы будут для искусственного Сверхразума сравни вопросу "У меня упала ручка со стола, помоги мне", которую любой человек сможет исправить просто подняв ручку с пола и вернув её на стол.

Елизер Юдовски, представитель группы беспокоющихся из нашего графика вверху, хорошо описал подобную ситуацию:

"Не существуют сложных проблем, проблемы могут быть сложны для определённого уровня развития разума". Даже небольшой шажок в развитии разума переводит часть проблем из статуса "невероятно сложных" в статус "очевидных", чтобы все решения всех наших проблем стали очевидными, необходимо всего лишь подняться на достаточное количество "ступенек" в развитии разума.

Из всех увлечённых ученых, изобретателей и бизнесменов, представляющих оптимистичную группу, мы в качестве нашего проводника в мир радужных представлений о будущем выберем одного.

Им будет Рей Курцвейл, он мало кого оставляет равнодушным, большинство людей либо верят ему, либо говорят что он шарлатан. Но есть и те, кто относится к нему нейтрально. Например, Дуглас Хофтендер описывает идеи из книги Курцвейла таким образом:

"Это похоже на то, как если бы вы взяли большое количество хорошей еды и смешали бы её в блендере с собачьими экскрементами до такого состояния, чтобы было уже не понятно, что именно находится перед вами".

Курцвейл считает, что сильный ИИ будет содан уже к 2029, и таким образом к 2045 у нас будет не только искусственный Сверхразум, а мы уже будем жить в мире технологический сингулярности. Ещё недавно его предсказания скорости развития систем ИИ, казались большинству людей мягко говоря слишком оптимистичными. Сейчас же, на фоне стремительного развития слабых ИИ в последние 15 лет, показывает нам, что реальность пока развивается согласно с предсказаниями Курцвейла. Но тем не менее его предсказания остаются всё ещё более оптимистичными, чем медиальный ответ в опросе проведённом Ником Бостромом (сильный ИИ к 2040 и искусственный Сверхразум к 2060).

Чтобы 2045 год соответствовал прогнозам Курцвейла, должны произойти три технологические революции: биотехнологическая, нанотехнологическая и, самое важное, революция ИИ.

Прежде чем мы продолжим разговор про ИИ, предлагаю небольшой экскурс в нанотехнологии

Нанотехнологическая врезка
Нанотехнологиями называют любые манипуляции с объектами размером от 1 до 100 нанометров. Нанометр - это миллиардная часть метра. Что примерно соответствует размерам вирусов (100 нм), ДНК (10 нм в ширину), и других объектов, чей размер равен размеру больших бактерий (5 нм) или среднеразмерных молекул, например молекуле глюкозы (1 нм). Когда/если мы достигнем успехов в нанотехнологиях, следующим шагом будут манипуляции с отдельными атомами, что лишь на один порядок меньшие величины (~.1 нм).

Чтобы лучше понять на сколько сложно манипулировать чем-либо столь маленьким, предлагаю следующую аналогию: Если бы люди были такими высокими, что доставали бы головой до орбиты МКС (~431 км), то мы были бы в 250 000 раз больше, чем сейчас. Если сделать 1-100 нм в 250 000 раз больше, то мы получим величины в .25 - 2.5 см. То есть нанообъекты для гиганта, достающего головой до МКС, равносильны по сложности манипуляциям с чем-то размером от песчинки до глазного яблока для нас. Чтобы опуститься ещё на один порядок величин, до уровня размера одного атома, нашему гиганту, придётся манипулировать объектами размером в 1/400 миллиметра, человеку, чтобы просто увидеть такие объекты нужен микроскоп.

Первым человеком высказавшийся на тему нанотехнологий был Ричард Фейман. Ещё в 1959 он говорил: "Законы физики никак не противоречат теоретической возможности собирать объекты атом за атомом... физики смогут создавать любую химическую формулу, которую смогут придумать... Как? просто располагая атомы таким образом которым химики захотят мы получим любое вещество". Довольно просто. Если мы сможем перемещать отдельные атомы, то мы сможем создать практически что угодно.

Впервые серьёзно о нанотехнологиях заговорили лишь в 1986-м году после выхода новаторской книги Эрика Дрекслера "Машины создания: Грядущая эра нанотехнологий". Если вы хотите узнать больше о современном положении дел в этой области, то книга Radical Abundance будет лучшим источником информации для вас.

• Врезка о серой массе

Такой способ кажется хорошим только до тех пор, пока в результате несчастного случае не уничтожит жизнь на Земле. Экспоненциальном рост, который позволяет быстро создать триллионы наноботов, делает саморепликацию такой страшной. Ни одна система не застрахована от сбоев, и если система репликации наноботов даст сбой и не остановит процесс по достижении нужной численности наноботов, и они будут продолжать "размножаться". Подобные наноботы будут способны использовать любые углеродсодержащие материалы для создания новых наноботов, а поскольку вся жизнь на Земле является углеродной, колличество углерода на земле составляет примерно 10^45 атомов, а нанобот будет состоять из примерно 10^6 атомов углерода, таким образом10^39 наноботов уничтожат полностью всю жизнь на земле, для это им понадобится всего лишь 130 циклов репликации, океаны наноботов (это и есть серая масса) наводнят Землю. Ученые считают, что на один цикл репликации наноботом понадобится порядка 100 секунд, значит они смогут полностью уничтожить всё живое на земле в течение 3.6 часов.

Или другой возможный сценарий. Если наноботы попадут в руки каких-нибудь террористов и они смогут их перепрограммировать, например таким образом, чтобы наноботы незаметно в течение недель распространялись по всей земле и потом, начав в нужный момент неконтролируемое "размножение", уничтожат этим жизнь на Земле ещё до того, как мы сможем хоть как-нибудь отреагировать.

Последние годы подобные апокалиптические сценарии активно обсуждаются, но скорее всего вероятность такого развития событий сильно преувеличена. Эрик Дрекслер, а именно он ввёл в обращение понятие "серой массы", прислал мне сообщение, в котором высказался на тему подобных страшилок: "Люди любят ужастики, именно поэтому зомби столь популярны. Такие истории сами по себе взрывают тебе мозг".

Как только мы освоим нанотехнолгии, мы сможем создавать огромное количество самых разных вещей: всевозможные устройства, одежду, еду, искусственные кровяные клетки, роботов, уничтожающих вирусы и раковые клетки, то есть практически что угодно. В мире, освоившем нанотехнологии, стоимость материалов больше не привязана к его содержанию в природе или сложностью его очистки, определяющим параметром становится сложность атомарной структуры. В таком мире бриллианты могут быть дешевле ластика.

Но нам ещё только предстоит освоить нанотехнологии. И пока что не очень понятно: переоцениваем ли мы сложность создания необходимых технологий, или наоборот недооцениваем. Тем не менее, мы уже стоим на пороге массового использования нанотехнологии. Курцвейл считает что нанотехнологическая революция произойдёт к 2020. Правительства уже знают каким потенциалом обладают нанотехнологии и вкладывают миллиарды в их разработку (США, ЕС и Япония уже вложили более 5 миллиардов долларов).

Только представьте себе, что Сверхразум сможет контролировать армию наноботов. Нанотехнологии - это то, что мы смогли придумать и сейчас активно осваиваем. Но вы же помните, что все наши возможности ничто по сравнению с возможностями Сверхразума. Он может придумать что-то ещё более сложное, что мы возможно даже не сможем понять. Теперь размышляя над вопросом "Будет ли ИИ революция добром для нас или злом", мы понимаем, что практически невозможно переоценить масштаб изменений, которые ИИ привнесёт в нашу жизнь. Так что если последующие рассуждения будут вам казаться слишком нереалистичными, просто помните, что Сверхразум сможет делать нечто, что мы даже не можем себе вообразить, что-то, что просто будет за пределами нашего понимания, и мы не можем даже отдалённо предсказать, чем это может оказаться.

Что ИИ сможет сделать для нас

Сверхразум, вооруженный новейшими технологиями, которые он, конечно же сам изобретёт, сможет решать любые проблемы, с которыми сталкивается человечество. Глобальное потепление? Сверхразум сможет снизит выбросы углекислого газа, предложив нам другие, более эффективные способы генерации электричества, не требующий использование ископаемого топлива. Потом предложит способ убрать уже накопившийся в воздухе углекислый газ. Рак или другие болезни? Они тоже не будет проблемой для ИИ, он сможет совершить прорыв в области медицины. Голод? наш Сверхразум сможет построить любую еду, используя армию наноботов, причем она будет идентична настоящей на молекулярном уровне, то есть на самом деле и будет настоящей. Наноботы смогут превратить кучу мусора в стейк или в любую другую пищу, которая не обязательно будет идентична настоящей еде по форме (только представьте себе огромное кубическое яблоко), дальше еда будет транспортирована новейшим транспортом.

Конечно же Земля станет раем и для животных, эксплуатация которых человеком тоже прекратится. Так же Сверзразум сможет спасти и исчезающие виды животных и даже восстановить уже вымершие из сохранённых ДНК. Он сможет с такой же лёгкостью решить наши экономические проблемы, проблемы связанные с международной торговлей, все сложнейшие вопросы философии и этики так же будут решены Сверхразумом.

Но есть ещё одна вещь, подвластная Сверхразуму, она на столько притягательна, что полностью изменила моё мировоззрение:
Сверхразум сможет победить смерть.

Несколько месяцев назад я рассказывал, какую зависть я испытываю по отношению к более развитым цивилизациям, которые уже смогли победить смерть, тогда я ещё не знал что, позже напишу статью, которая заставит меня поверить в то, я сам застану тот момент, когда человечество наконец сможет победить смерть. Я думаю, что мне удастся и вас в этом убедить.

У эволюции сегодня нет ни малейшей причины продлевать жизнь живых существ. Вполне достаточно, чтобы особь прожила ровно столько, чтобы создать потомков и вырастить их до того возраста, когда они могут уже самостоятельно добывать себе еду и защищаться. Так что мутации, позволявшие существенно продлить срок жизни, не приносили никаких преимуществ в естественном отборе. В результате мы являемся, как говорил У.Б. Йейтс, "душа заключенная в умирающее тело".

Поскольку все до нас рано или поздно умирали, мы убеждены, что смерть неизбежна. Мы воспринимаем старение как течение времени, часы всегда тикают и нет способа это остановить. Но это не так. Ричард Фейнман однажды написал:

Одна из самых удивительных вещей в биологии заключается в том, что смерть не является необходимостью. Если мы захотим, например, создать вечный двигатель, то существует масса законов, говорящих, что это либо невозможно, либо эти физические законы не верны. Но в биологии нет законов, говорящих о неизбежности смерти. Что наводит меня на мысль, что это лишь вопрос времени, когда биологи откроют причину смерти и излечат человечество от это ужасной болезни.

На самом деле старение не привязано ко времени, время может продолжать двигаться, но старение будет остановлено. Старение является процессом постепенного физического изнашивания. Машина тоже постепенно изнашивается, но можно ли остановить её старение? Если менять детали по мере того, как они выходят из строя, машина сможет ездить вечно. И человеческое тело в этом ничем не отличается от машины, оно просто чуть более сложно устроено.

Курцвейл говорит об умных наноботах, общающихся между собой по wi-fi, которые могут перемещаться по кровеносным сосудам, выполняя различные работы по поддержанию тела в порядке, постепенно заменяя испорченные клетки. Если довести этот процесс до совершенства (или другой способ который придумает Сверхразум), это не только позволит поддерживать наше тело здоровым, но так же можно будет повернуть старение вспять. Ведь разница между 60-ти летним и 30-ти летнем телом заключается в конце концов всего лишь в некоторых физических показателях, которые можно поменять при помощи наноботов. Сверхразум сможет построить аппарат, помогающий сбросить возраст, в него заходит 60-ти летний человек, а выходит уже человек с кожей 30-ти летнего. Даже мозг, который страдает от серьёзных заболеваний, можно будет таким образом обновить, Сверхразум наверняка сможет придумать как это сделать, не повредив личность и воспоминания человека. 90 летний человек, страдающий слабоумием, сможет зайти в этот аппарат и выйти уже обновлённым, он сможет продолжить свою карьеру, и даже начать новую. Это кажется слишком фантастичным, но ведь тело - это всего лишь набор атомов, и Сверхразум наверняка будет способен с лёгкостью манипулировать любыми атомами и атомарными структурами, так что это не такая уж и фантастика.

Курцвейл так же считает, что искусственные материалы можно будет постепенно интегрировать в биологическое тело. Сначала органы будут заменены на более эффективные искусственные аналоги, которые будут способны работать дольше биологических.

Затем мы сможем начать разрабатывать тело, которое лучше отвечает нашим требованиям, сможем заменить красные кровеносные тельца на совершенных нанороботов, которые возьмут на себя их функции, но которые при этом смогут двигаться сами, и таким образом мы сможем вовсе отказаться от сердца. Мы даже сможем добраться до мозга и улучшить его, увеличив вычислительные способности настолько, что человек будет способен думать в миллиарды раз быстрее, чем сейчас. Так же мозг сможет иметь прямой доступ к внешним устройствам, которые позволят людям устраивать конференции через интернет напрямую, не использую при этом ни единого слова, обмениваясь на прямую мыслями.

Возможности человека станут практически безграничными. Люди отделили секс от его изначальной функции, что превратило его в том числе в развлечение. Курцвейл верит в то, что та же судьба ожидает и еду. За доставку необходимых веществ клеткам будут отвечать наноботы, они же будут выводить из тела все продукты жизнедеятельности и другие не нужные вещества. Роберт Фрайтас уже создал искусственную кровь, которая может позволить человеку бежать с максимальной скоростью, не совершив при этом ни единого вздоха, так что можно представить, что сможет придумать Сверхразум, чтобы улучшить наши физические способности. Виртуальная реальность получит новый виток развития, так как наноботы смогут перехватывать сигналы нашей нервной системы и заменять входящую информацию, создавая абсолютно новые ощущения, звуки и запахи.

Курцвейл считает, что в конечном счете человечество полностью заменит биологические органы на искусственные, тогда мы будем смотреть на биологические материалы как на ужасно примитивные, и будет сложно поверить, что когда-то человек состоял именно из них. Мы будем читать о том ужасно опасном примитивном обществе, когда болезни, несчастные случаи и старение могли запросто убить человека против его собственного желания. Мы будем жить во времена, когда искусственный и биологический разум будут соединены. Именно так по мнению Курцвейла мы победим биологию и станем вечными и бессмертными, так же он считает что мы "притянемся к другому полюсу магнита". И это произойдёт уже скоро.

Вас наверняка не удивит то, что идеи Курцвейла встречают серьёзную критику. Его предсказание технологической сингулярности к 2045 высмеивается многими и даже заслужили такие характеристики в свой адрес: "экстаз ботанов" или "разработка интеллекта для людей с IQ 140". Многие подвергают критики его слишком оптимистичное предсказание скорости прогресса и даже его уровень понимания тела и мозга человека, а так же применение закона Мура к ним. Закон Мура обычно применяется к развитию мощности аппаратного обеспечения и ПО. На каждого эксперта, верящего в правоту Курцвейла, приходится трое, считающих что он не прав.

Но самое удивительное заключается в том, что даже эксперты, которые не соглашаются с Курцвейлом, соглашаются с тем, что всё, о чем он рассказывает возможно. Я ожидал, что его критики будут говорить что-то вроде: "Это просто невозможно", но, как ни удивительно, они говорят совершенно иное: "Да, это всё вполне реализуемо, если мы совершим плавный переход к искусственному Сверхразуму, но именно плавный переход и является самой большой проблемой". Бостром, один из самых заметных экспертов в области ИИ говорит:

Сложно даже представить себе, что существует такая проблема, которую Сверхразум не сможет решить, или по крайней мере не будет способен помочь нам решить. Болезни, бедность, экологические проблемы, любые другие ненужные страдания. Решение всех этих проблем не будет сложным для Сверхразума, у которого есть доступ к нанотехнологиям. Так же Сверхразум сможет сделать нашу жизнь вечной либо остановив старение, либо при помощи нанотехнологической медицины, или же вообще предложит нам полностью переселиться в искусственное тело и загрузить своё сознание в компьютер. Сверхразум легко может создать механизмы, позволяющие увеличить наши мыслительные способности. Он поможет нам создать прекрасный мир, в котором мы сможем посветить свои жизни приятным вещам: персональному росту или другим приятным лично вам вещам.

Это цитата человека не принадлежащего к оптимистичной группе. Но это именно то, что вы увидите, когда будете читать мнение экспертов, критикующих идеи Курцвейла, но они тем не менее соглашаются с тем, что все что он предсказывает вполне осуществимо, при условии безопасного создания искусственного Сверхразума. Мне так нравятся идеи Курцвейла именно тем, что они рассказывают о светлой стороне создания Сверхразума, преимущества которой будут нам доступны, если Сверхразум окажется добрым.

Самая серьёзная критика представителей оптимистичной группы, которую я слышал, заключается в том, что они очень сильно недооценивают опасности, которые представляет Сверхразум. Курцвейл в своей известной книге The Singularity is Near только 20 страниц из 700 посвятил опасностям, которые могут нас ожидать. Как я уже говорил, наша судьба при появлении Сверхразума полностью зависит от того, кто будет его контролировать, и какие цели он будет преследовать. Курцвейл на оба вопроса отвечает следующим образом: "Чтобы создать искусственный Сверхразум необходимо совместное усилие, таким образом он будет завязан на инфраструктуру нашей цивилизации. Поэтому будет тесно связан с человечеством, то есть он будет отражать наши ценности".

Но если ответ настолько прост, то почему же столько умнейших людей настолько обеспокоены перспективой скорого создания искусственного Сверхразума? Почему Стивен Хоккинг говорит, что развитие искусственного Сверхразума "может означать конец человечеству", Бил Гейтс говорит, что не понимает почему часть людей не обеспокоена происходящим, Илон Маск боится того, что мы своими руками "вызываем дьявола"? Почему многие эксперты называют искусственный Сверхразум самой страшной угрозой угрожающей человечеству? Все эти люди и другие представители менее оптимистичной части экспертного сообщества не согласны со слишком оптимистичным взглядом Курцвейла. Они очень и очень обеспокоены грядущей ИИ революцией и не склонны переоценивать наши шансы на то, что Сверхразум окажется добр к нам. Их взгляды прикованы к обратной стороне развития технологий, и они бояться будущего и не уверены в том, сможем ли мы вообще в нём выжить.

Примечание переводчика: Данная статья является переводом публикации "The AI Revolution: The Road to Superintelligence". Оригинальная статья была написана для широкой аудитории, поэтому многие термины использованные в ней могут быть не точными или вообще не научными. При переводе я старался сохранить непринуждённый дух статьи и юмор, с которым был написан оригинал. К сожалению, это не всегда получалось. Переводчик согласен не со всем, что написано в данной статье, но правки к фактам и своё мнение не были добавлены даже в виде примечаний или комментариев. В тексте могут быть ошибки и опечатки, сообщайте о них, пожалуйста, в личные сообщения, буду стараться исправлять всё максимально быстро. Все ссылки в тексте скопированы из оригинальной статьи и ведут на англоязычные ресурсы.

We are on the edge of change comparable to the rise of human life on Earth. - Vernor Vinge

Мы стоим на пороге перемен сравнимых, разве что с самим рождением человечества. Вернор Виндж.

Каково это находиться здесь?

Захватывающе, на правда ли? Но сейчас мы не видим правой части графика.

И нам кажется, что мы находимся здесь.

Уже не так интересно...

Далёкое будущее уже не такое далёкое

Давайте представим себе, что у нас есть машина времени, и мы переносимся в 1750-й год, в мир, в котором об электричестве ещё ничего не знали, где передача сообщений на дальние расстояния представляла собой разве что перекрикивание через поле или стрельбу в воздух из пушек, а единственным топливом для транспорта было сено. Возьмём оттуда первого попавшегося прохожего и переносимся обратно в 2015-й год, после чего, прогуливаясь с ним по любому современному городу, наблюдаем за его реакцией на привычные для нас вещи. Мы даже не можем себе представить что он испытает, наблюдая за сверкающими капсулами, проносящимися мимо по шоссе, разговаривая с людьми, ещё утром находившимися на другом континенте, наблюдая за хоккеистами, играющими на стадионе в тысячах километрах от нас, прослушивая музыкальное произведение, которое оркестр играл 50 лет назад или рассматривая мой волшебный прямоугольник, позволяющий нарисовать реалистичный портрет любого человека за одно мгновение, посмотреть карту и увидеть своё местоположение в реальном времени, или разговаривать с человеком находящимся на другом конце страны, и другие вещи магического происхождения. И это ещё до того как вы расскажете ему про Интернет, МКС, Большой Адронный коллайдер, ядерное оружие или общую теорию относительности.

Этот опыт будет для него шокирующим, или даже "крыше-сносящим" и это только частично описывает его впечатления. Возможно он даже умрёт от испытанного шока.

Но что будет, если этот человек по возвращении назад в свой родной 1750-й год захочет повторить наш эксперимент, сядет в машину времени и перенесётся на те же 250 лет назад в 1500-й год, заберёт оттуда первого попавшегося прохожего в свое время и покажет ему жизнь в 1750-м? Человек из 1500-го будет удивлён прогрессу и многим не знакомым вещам в 1750-м, но этого вряд ли будет достаточно чтобы убить его. Его ощущения не будут такими "крыше-сносящим". Отличий между жизнью в 1500-м и в 1750-м гораздо меньше, чем между жизнью в 1750-м и в 2015-м. Человек из 1500 узнает много удивительных вещей о пространстве и физике, будет удивлён масштабом европейских Империй, и конечно же, ему придётся внести сильные поправки в своё представление карты мира. Но различий в повседневной жизни в 1500-м и 1750-м, транспорте, связи и других вещах, определённо будет не достаточно чтобы убить его.

Для того, чтобы наш знакомый из 1750-го мог так же повеселиться как и мы с ним, ему придётся перенестись гораздо дальше, примерно в 12000 - год до нашей эры, во времена до Первой Аграрной революции, которая привела к созданию первых городов, и дала возможность для развития цивилизации. Если бы кто-нибудь из охотничье-собирательского общества, из времени когда человек был по сути лишь ещё одним из видов животных, увидел бы огромные империи 1750-го года, величественные церкви, океанские корабли, огромные коммуны и накопленные человечеством знания, он возможно бы умер.

Но что если после смерти и ему тоже захотелось повторить наш эксперимент? Если он перенесётся из 12000-го года до нашей эры в 24000-й год до нашей эры, возьмёт человека живущего там и вернётся с ним обратно в 12000-й до нашей эры, покажет ему жизнь в своём времени, то человек, наверное произнесёт что-то вроде: "ок, и что поменялось?". Для человека из 12000-го года до нашей эры, чтобы так же развлечься, придётся перенестись назад более чем на 100 000 лет, что бы найти там кого-то, кого он сможет удивить огнём и существованием языка.

Для того чтобы погибнуть от пережитого шока при путешествии в будущее, необходимо переместиться на достаточное расстояние, чтобы достигнуть "убивающего уровня прогресса", или Единицу Убивающего Прогресса (ЕДП). Так ЕДП занял 100 000 лет для охотничье-собирательского общества, для общества после аграрной революции, один ЕДП занял всего около 12000 лет, Постиндустриальный мир продвинулся на столько быстро, что для человека из 1750-года надо переместиться всего на пару сотен лет вперёд что бы получить один ЕДП.

Основная идея в том, что прогресс всё время ускоряется. Это и есть то, что футурист Рэй Курцвейл называет Законом Ускоряющейся Отдачи. Это происходит потому, что более развитое общество имеет свойство развиваться быстрее, чем менее развитое. В 19-м веке человечество имело гораздо больше знаний и более продвинутые технологии, чем в 15-м веке, так что не удивительно что человечество в 19-м веке сделало гораздо больше открытий, чем в 15-м.

Это так же работает и в меньших масштабах. Фильм "Назад в будущее" вышел в 1985-м, и прошлое в нём было представлено 1955-м. В фильме, когда герой Майкла Джей Фокса отправился в 1955, его удивило то, что телевидение было ещё в диковинку, цена на газировку того времени, отсутствие любви к гитарным запилам и необычный слэнг. Это был совершенно другой мир, но если бы фильм был снят сегодня, а прошлое было бы представлено 1985-м годом, фильм был бы, возможно, более забавным и отображал бы гораздо большую разницу между мирами. Герой бы оказался во времени до персональных компьютеров, интернета, мобильных телефонов, и социальных сетей. Подросток, рождённый в конце 90-х, чувствовал бы себя гораздо более чужим в 1985-м, чем Марти МакФлай в 1955-м.

Причиной тому всё тот же закон ускоряющейся отдачи. Средний темп изменений между 1985-м 2015-м был гораздо выше, чем темп изменений между 1955-м и 1985-м, и всё это благодаря тому что мир в 1985-м был гораздо более развитым, что позволило произойти гораздо большим изменениям за последние 30 лет, чем за предшествовавшие им 30 лет.

Так что перемены становятся всё большими и их скорость всё возрастает. Это говорит нам о том что нас ждёт достаточно интересное будущее, не так ли?

Курзвейл полагает, что эквивалент прогресса всего 20-го века был бы достигнут за 20 лет при сохранении темпа развития 2000-го года. То есть темп развития в 2000-м году был в пять раз выше среднего темпа развития за 20-й век. Рэй также утверждает что эквивалент прогресса за весь 20-й век уже был достигнут в период между 2000-м и 2014-м годами, и что следующий эквивалент прогресса 20-го века будет достигнут уже к 2021-му году.

Если Курцвейл прав, то мы можем быть так же шокированы 2030-м, как наш знакомый из 1750-го года был шокирован 2015-м. И следующий ЕДП будет достигнут всего за пару десятилетий, и мир в 2050 будет настолько отличаться от сегодняшнего, что мы вряд ли вообще смогли бы его узнать.

И это не научная фантастика. Это то, во что верят лучшие умы современности, которые гораздо умнее нас с вами и обладают большими познаниями в этой области. Если оглянуться назад в историю их предсказания начинают выглядеть вполне логично.

Так почему же когда я говорю "мир через 35 лет может оказаться для нас неузнаваемым", вы думаете "круто..., но, вряд ли" Три причины для скептического отношения "крыше-сносящим" предсказаниям будущего:

1. Нам кажется что история линейна. Пытаясь представить прогресс грядущих 30-ти лет, мы оглядываемся назад на аналогичный период времени, чтобы представить себе масштабы возможных изменений. Прогнозируя насколько 21-й век изменит мир, мы берём прогресс за 20-й век и прибавляем его к 2000-му году. Именно эту ошибку совершил наш знакомый из 1750, выбрав в качестве подопытного, человека из 1500-го года, ожидая что впечатления того от 1750-го будут сопоставимы с его собственными от путешествия на такое же время вперёд. Мы привыкли мыслить линейно, тогда как здесь необходимо мыслить экспоненциально. Гораздо более логичным методом прогнозирования грядущих изменения было бы не оглядываться назад на 30 лет, а делать выводы взяв за основу современную скорость развития. Такой прогноз уже будет гораздо более точным, но всё равно недостаточно. Что бы прогнозировать будущее ещё точнее, необходимо брать за основу ещё большую скорость прогресса.

2. Недавние события не дают нам понимания общей картины происходящего. Во-первых, если взять достаточно маленький кусок даже очень крутой экспоненциальной кривой, он будет казаться прямым, точно так же если взять огромный круг и посмотреть на него достаточно близко, он будет казаться вполне прямым. Во-вторых экспоненциальный рост, на самом деле не плавный. Как объясняет Курцвейл: прогресс на самом деле происходит по S-образной кривой.

S образная кривая рождается тогда, когда новая парадигма только появляется. Кривая проходит три стадии:
Медленный рост (начальная стадия экспоненциального роста).
Быстрый рост (поздняя, взрывная стадия экспоненциального роста).
Выравнивание уже новой, созревшей парадигмы.

Если брать в расчёт только недавние события, то та часть S образной кривой, в которой мы находимся может исказить наше понимание скорости развития технологий. Отрезок времени между 1995-м и 2007-м был чрезвычайно насыщенным, он застал: взрывной рост интернета, восхождение Microsoft, Google и Facebook, рождение самого феномена социальных сетей, массовое появление мобильных телефонов и позднее смартфонов. Это была вторая фаза S образной кривой, и период 2008-2015 был уже не столь впечатляющим, по крайней мере с точки зрения технологий. И делая прогноз развития беря за основу лишь скорость изменений последних лет, невозможно получить точное представление того что нас ждёт, поскольку в этом случае мы упускаем из вида общую картину. Возможно мы уже стоим на пороге новой большой второй фазы S-образной кривой экспоненциального роста.

3. Наш опыт превращает нас в упрямых стариков, когда мы думаем о будущем. Наше понимание мира строится на основе нашего опыта, и он определяет наше представление о скорости развития, основываясь на происходящих событиях. Так же мы ограничены нашим воображением, которое на основе нашего опыта строит предположения, но наши знания не дают нам возможности делать точные прогнозы будущего. И когда мы слышим предсказания, неукладывающиеся в нашу картину мира, мы склонны считать их глупыми и не обоснованными. Когда позднее в этой статье я буду рассказывать вам, что вы вероятно проживёте 150-250 лет, а то и вовсе не умрёте, ваше подсознание скажет что-то вроде "Это просто нелепо, единственное в чем я уверен, так это в том, что все рано или поздно умрут". Да, конечно, никто из когда-либо живших на земле ещё не смог пережить собственную смерть. Но и никто не летал на самолётах, до тех пор пока их не изобрели.
Если рассуждать логически, то стоит ожидать повторения исторических закономерностей, то есть ожидать в ближайшие десятилетия гораздо больших изменений, чем нам подсказывает наша интуиция. Так же логично предположить, что если наиболее развитые существа на нашей планете делают всё больше прорывов, со всё ускоряющимся темпом, то рано или поздно они сделают прорыв настолько огромный, что он изменит весь мир и их самих. Примерно так же как эволюция делала прорыв за прорывом на пути создания разума, пока не создала человека, который полностью изменил планету и жизнь всех существ на ней. И если вы присмотритесь к происходящему сейчас в науке и технологиях достаточно внимательно, вы увидите признаки грядущего прорыва, который в очередной раз полностью изменит наш мир.

Путь к Сверхразуму

Что такое искусственный интеллект (ИИ)?

Для меня, думаю как и для вас, искусственный интеллект, до недавнего времени, был лишь выдумкой из научной фантастики, но недавно всё изменилось, когда о нём стали говорить достаточно уважаемые люди, и вы, наверняка не понимаете чем это вызвано.

Существует три причины, по которым большинство людей не до конца понимают определение "искусственный интеллект":

1.ИИ ассоциируется с фильмами. Звёздные войны, Терминатор, Космическая Одиссея 2001 и даже Джетсоны. Всё это фантастика, так же как и герои-роботы. Поэтому ИИ звучит слишком фантастично.
2.ИИ слишком широкое понятие. Разброс форм ИИ слишком велик: ИИ разнится от калькуляторов до беспилотных машин. Термин ИИ применим к слишком широкому кругу вещей, что делает его понимание достаточно сложным.
2.Даже когда мы пользуемся ИИ, мы не всегда это осознаём. Джон Маккарти, предложивший термин "ИИ" в 1956-м, заметил: "как только он начинает работать никто больше не называет его искусственным интеллектом". именно по этому ИИ часто воспринимается как нелепое понятие из очень далекого будущего, а не как нечто реальное. И в то же время это звучит как поп-концерт из прошлого, который нам уже никогда не посетить. Рэй Курцвейл говорит что слышал от большого количества людей, что ИИ это нечто, что умерло уже в 80-х, что по его же заявлению равносильно утверждению, что интернет погиб во время краха доткомов в начале нулевых.

Для лучшего понимания ИИ нам необходимо во-первых перестать представлять себе человекоподобных роботов, робот это всего лишь оболочка для ИИ, на самом деле ИИ это компьютер внутри робота, если конечно этот компьютер нарочно был вставлен в робота. Таким же образом программное обеспечение отвечающее за работу Siri. Это ИИ, а приятный женский голос, это всего лишь форма с взаимодействия с пользователем, и тут не задействован ни один робот.
Во-вторых, вы наверняка знакомы с понятием сингулярности или технологической сингулярности. Сингулярность это понятие из математики описывающее ситуацию в которой привычные правила перестают работать. Оно так же используется физиками для описания невероятно плотного вещества черных дыр или для описания всего вещества вселенной до момента Большого Взрыва, опять же ситуация к которой привычные нам законы физики не применимы. Вернор Виндж в своём знаменитом эссэ применил термин технологическая сингулярность к моменту в будущем, когда возможности ИИ превзойдут наши собственные. По его мнению в этот момент наш мир будет изменён настолько, что привычные нам правила будут к нему уже не применимы. Позже Рэй Курцвейл определил технологическую сингулярность как момент, в который по закону ускоряющейся отдачи, скорость развития будет стремиться к бесконечности, и в который, наш мир кардинально изменится. Я заметил что многие люди, связанные с ИИ, почему-то перестали пользоваться данным термином, так что я не буду в этой статье использовать его слишком (не смотря на то что речь будет идти именно о технологической сингулярности). И последнее, не смотря на то, что понятие ИИ слишком размыто, все ИИ можно разделить на три категории по их возможностям.

1. ИИ узкого применения. Его так же иногда называют слабым ИИ. Это ИИ специализированный в некой строго определённой области. Такой ИИ может обыграть лучших шахматистов мира, но на этом его возможности заканчиваются. Ни на что большее он не способен.
2. ИИ общего применения. Он же сильный ИИ, или ИИ человеческого уровня. Это ИИ который соответствует уровню разума человеку во всех областях, машина способная выполнять все те же задачи, что и человек. Задача создания сильного ИИ несравнимо сложнее задачи создания слабого ИИ, и нам ещё только предстоит её решить. Профессор Линда Готтфредсон описывает разум как "общую мыслительную активность, способную среди прочего к осознанию, планированию, решению проблем, абстрактному мышлению, пониманию сложных идей, быстрому обучению, и обучению на собственном опыте". Сильный ИИ будет способен делать всё это так же легко, как и любой человек.
3. Искусственный Сверхразум. Ник Бостром, философ и председатель Всемирной Трансгуманистической Ассоциации, даёт следующее определение Сверхразуму: "разум, превосходящий лучшие умы человечества во всех областях, включая общие знания, и социальные навыки". Искусственный Сверхразум достаточно широкое понятие, которое разнится от разума лишь слегка превосходящим человека, до разума превосходящего человека во всех областях в триллионы раз. Собственно искусственный Сверхразум и является причиной столь острой дискуссии вокруг ИИ, а так же того, что слова бессмертность и вымирание в обсуждениях ИИ, встречаются так часто.

На сегодняшний день человечество уже построило и использует множество слабых ИИ. ИИ революция - это путь от слабого ИИ к искусственному Сверхразуму, пролегающий через создание сильного ИИ. Давайте более подробнее остановимся на том, что же думают лучшие теоретики ИИ, и ученые и почему революция может произойти гораздо быстрее, чем мы того ожидаем.

ИИ уже управляет нашим миром

ИИ узкого применения - это ИИ возможности которого равны или превосходят человеческие в определённой области. Несколько примеров:

• В современном автомобиле достаточно часто используются ИИ системы узкого применения: от компьютера системы АБС, который определяет блокировку колёс и препятствует потере управления над автомобилем, до системы впрыска топлива, которая определяет сколько топлива должно поступить в цилиндр, в какой момент и какая структура топливно-воздушной смеси оптимальна в данный момент. Автономные машины, которые активно тестирует Google, скрывают в себе надёжную ИИ систему, способную правильно реагировать на дорожную обстановку и управлять движением автомобиля в реальном времени.

• В вашем смартфоне существует огромное количество ИИ систем, каждый раз когда вы пользуетесь навигацией, просматриваете рекомендованную вам музыку в Пандоре, проверяете прогноз погоды на завтра, разговариваете с Siri, вы взаимодействуете с ИИ.

• Спам-фильтр в электронной почте - классический пример ИИ. В него изначальна зашита некая логика, по которой он отделяет спам и блокирет его, и постепенно, основываясь на ваших личных предпочтениях, подстраивается под вас. То же самое делает и термостат от Nest, он определяет ваши предпочтения по температуре в течение дня и подстраивается под вас.

• Вы наверняка замечали эту странную вещь: вы только что искали что-нибудь на Amazon, и потом на других сайтах встречали рекламу именно этого товара. Или что Facebook каким-то образом узнаёт людей, которых вы знаете, и предлагает добавить их в друзья. Всё это результат совместной работы большого количество специализированных ИИ, которые обмениваются информацией между собой, и используют её что бы узнать вас, узнать что вам нравится и, основываясь на этом, определить, что и когда вам показывать. Таким же образом работает секция "Люди купившие этот товар так же покупают это...", это тоже ИИ, задача которого анализировать поведение миллионов людей, что бы заставить нас покупать больше.

• Google Translate - тоже яркий представитель рода ИИ, показывающий прекрасные результаты в одной, очень узкой сфере. Распознавание голоса - тоже ИИ. Существуют другие приложения, использующие предыдущие два, для перевода речи в режиме реально времени, зачитывая то, что вы сказали сразу же на другом языке.

• Когда самолёт касается взлётной полосы, ИИ определяет к какому выходу и терминалу самолёт должен подъехать. Цена билетов на самолёт тоже определяется не человеком, а ИИ.

• ИИ уже превзошли человека в таких играх как Шашки, Шахматы, Скраббл и Нарды.

• Поиск Google, тоже является ИИ, который использующим сложные алгоритмы ранжирования страниц, и определяет какие страницы показать именно вам.

• И это только потребительские ИИ. ИИ так же распространены у военных, в финансовом секторе (высокочастотная торговля, которая уже составляет более чем половину дневных операций на биржах США). Даже в медицине применяются экспертные системы, помогающие врачам ставить диагнозы, самой известной такой системой, конечно же является IBM Watson.

ИИ узкого применения, существующие сейчас, не представляют для нас особой опасности. В худшем случае они могут спровоцировать небольшую катастрофу, которая не заденет большую часть населения планеты или даже страны. Например, веерное отключение электричества, проблемы с оборудованием на ядерной электростанции или катастрофу на бирже (примером тому может служить черный четверг 6 мая 2010, когда сбой ИИ обрушил рынок, забрав с собой более триллиона долларов рыночной стоимости, после восстановления работы системы удалось вернуть только часть потерянных денег).
Пока что ИИ не имеет достаточной силы и возможностей, что бы представлять опасность для жизни на планете, но мы уже видим всё увеличивающуюся сеть ИИ, которые являются предшественниками других ИИ, способных кардинально изменить наш мир. По мнению Аарона Саенца (Aaron Saenz), существующие ИИ подобны аминокислотам в первичном супе, из которого однажды зародилась жизнь на земле.

Путь от слабого ИИ к сильному

Почему это так сложно?

Ничто не заставит вас восхищаться человеческим интеллектом больше, чем знание о том, как сложно создать компьютер равный ему по способностям. Строительство небоскрёбов, завоевание космоса и детальное понимание событий происходивших после большого взрыва, не идут ни в какое сравнение с пониманием работы нашего собственного мозга. На сегодняшний день человеческий мозг является самым сложным явлением из всего, что мы знаем.

Интересно, что при постройке сильного ИИ проблемы возникают не там, где бы вы из ожидали. Построить компьютер, способный перемножить два десятизначных числа меньше чем за секунду легко, а вот построить компьютер, который бы отличил собаку от кошки очень сложно. Мы уже построили компьютер, способный обыграть лучших игроков в шахматы. Но построить компьютер, который смог бы понять детскую книжку, а не просто распознать слова, пока что очень сложно. Google сейчас вкладывает миллиарды долларов на создание такого ИИ. Сложные вещи такие как вычисление, торговой стратегии, перевод с одного языка на другой, даются компьютерам очень легко. Но такие лёгкие вещи как зрение, движение и восприятие - невероятно сложны. Как сказал ученый Дональд Кнут "ИИ сегодня преуспели во всём, что требует мышления, но им никак не даётся то, что человек и животные делают не осознанно". Если задуматься, то достаточно быстро приходит понимание того, что вещи, которые кажутся нам лёгкими, на самом деле являются невероятно сложными, и они нам кажутся лёгкими только потому, что эти умения были оптимизированы за миллионы лет эволюции. Когда мы тянемся рукой к какому-нибудь объекту, наши мышцы, сухожилия и кости в плече, локте и запястье совершают огромное количество движений, согласуют эти движения с информацией получаемой через зрение, чтобы мы могли сделать четкое прямое движение рукой. Создаётся впечатление, что всё это происходит без какого-либо напряжения, и кажется очень лёгким, но это лишь потому что в нашем мозгу стоит совершенное программное обеспечение, разработанное и оптимизированное эволюцией специально для этих операций. С другой стороны, умножение длинных чисел или игра в шахматы являются новыми задачами для биологических существ, и у нас не было достаточно времени, чтобы оптимизировать эти умения, поэтому компьютеру гораздо легче победить нас на этом поле. Задумайтесь, какую программу вы бы скорее взялись написать: программу, которая может перемножать длинные числа, или ту, которая смогла бы опознать букву "В" во всех вариациях шрифтов и даже во всём многообразии рукописных вариантов написания?
Интересный факт: Если дать эту картинку для оценки компьютеру и человеку, то оба смогут понять что это прямоугольник составленный из квадратов двух разных цветов.

Но если убрать черную часть, и раскрыть картинку полностью...

Для человека не составит сложности опознать все эти цилиндры, различные плоскости и трёхмерные углы, но для компьютера эта задача окажется непосильной, он увидит лишь различные двухмерные фигуры и тени, которые не сможет правильно интерпретировать. Наш мозг совершает огромное количество операций, чтобы интерпретировать эти фигуры и тени в трёхмерные объекты. Так же и для картинки ниже - компьютер на ней увидит лишь двухмерную черно-белую картинку, когда человек способен понять, что это фотография черного трёхмерного камня.

Credit: Matthew Lloyd

Все наши примеры были ограниченны простейшими застывшими картинками. Для того что бы называться сильным ИИ компьютеру будет необходимо уметь распознавать выражение лица, и понимать разницу между различными эмоциями.

Так как же мы всё таки достигнем этого?

Первый шаг к созданию сильного ИИ: увеличение вычислительной мощности

Увеличение вычислительной мощности - необходимый элемент в создании сильного ИИ. Если ИИ должен быть таким же умным, как и человек, то и вычислительные способности его железа должны быть близки к вычислительным способностям человеческого мозга. Один из способов определить вычислительную мощность мозга - это посчитать количество операций выполняемых за секунду. Для этого надо вычислить максимальное количество операций в секунду различных отделов мозга и сложить получившиеся показатели. Рэй Курцвейл придумал более простой способ оценить этот показатель. Он взял примерное количество операций в секунду выполняемое частью мозга, посчитанную учеными, и соотношение массы этой части к массе всего мозга, и перемножил их. Звучит сомнительно, но он проделал эту операцию несколько раз беря за основу данные полученные разными учеными и всегда приходил к примерно одному и тому же результату - 10^16 (10 квадрилионов) опереций в секунду. На сегодняшний день мощнейший супер-компьютер, китайский Тяньхэ-2, уже превзошел этот показатель, выдавая примерно 34 квадриллиона операций в секунду. Но Тяньхэ-2 - это огромная машина, занимающая 720 квадратных метров пространства и потребляющий 24 мегаватт энергии (наш мозг потребляет всего 20 ватт), и его строительство обошлось в 390 миллионов долларов. Это конечно же не массовый продукт, на данный момент ему даже не нашли никакого коммерческого применения. Мы оцениваем компьютеры по тому, сколько вычислительной мощности можно купить за 1000 долларов. Курцвейл уверен, что сильные ИИ получат свой шанс стать массовым продуктом, когда за 1000 долларов можно будет купить компьютер способный выдавать 10^16 операций в секунду.

Согласно закону Мура, который выполняется на протяжении всего времени существования компьютеров, максимальная вычислительная мощность удваивается примерно каждые два года. То есть развитие компьютеров, так же как и развитие человека, имеет экспоненциальный характер. Если посмотреть на график в верху, то мы сейчас находимся ровно там где Курцвейл и предполагал. То есть на отметке 10 триллионов операций в секунду за 1000 долларов. То есть современные компьютеры ценой в 1000 долларов уже превзошли возможности мозга мыши. Звучит не очень впечатляюще, но если вспомнить, что в 1985 мы были на отметке одна триллионная человеческого мозга, одна миллиардная в 1995 и одна миллионная в 2005, то в 2015-м это уже одна тысячная. В эту прогрессию легко укладывается создание к 2025 году компьютера равного по вычислительной способности человеческому мозгу стоимостью в 1000 долларов. На сегодняшний день железо уже позволяется нам создать сильный ИИ и сделать его массовым продуктом в течение 10 лет. Но вычислительная мощность сама по себе не делает компьютер сильным ИИ. Так что следующая задача это раскрыть потенциал этого компьютера.

Второй шаг к созданию сильного ИИ: Сделать его умным

Это достаточно сложная часть. На самом деле никто не понимает как сделать компьютер умным. До сих пор не утихают споры о том как добиться того, чтобы ИИ мог понять слово, как бы оно ни было написано, или отличить собаку от кошки. Но на сегодняшний день уже существует несколько стратегий для создания сильного ИИ и рано или поздно одна из них окажется удачной и позволит создать сильный ИИ. Немного подробнее остановимся на существующих стратегиях:

1.Копирование работы мозга
Это похоже на то, как-будто ученые сидят рядом с ребёнком, которому всё даётся так легко и непринуждённо, что он продолжает, несмотря на все старания ученых, получать более высокие оценки за контрольные, что они в определённый момент думают: "а, к черту всё, почему бы просто не списывать у него". И это имеет смысл. Мы тщетно пытаемся построить супер сложный компьютер, но нам повезло иметь прекрасный прототип в виде нашего собственного мозга, так почему бы этим не воспользоваться. Ученые всего мира стараются разгадать принципы работы мозга, и то как эволюции удалось создать настолько крутую штуку. По оптимистичным прогнозам им это удастся примерно к 2030-му году. Как только учёные разгадают все тайны мозга, мы поймём, как ему удаётся быть настолько мощным и эффективным, и сможем использовать эти знания для создания более мощного ИИ. Одним из способов копирования работы мозга для создания компьютера - это использование искусственных нейронных цепей. В начале это просто сеть соединённых между собой транзисторов "нейронов", которые, подобно мозгу младенца, не обладают никакими знаниями. Потом этот "мозг" обучается, например пытаясь распознать рукописный текст, с начала просто выдаёт случайные буквы, но после того, как он угадывает первую букву, нейронные связи, выдавшие этот ответ усиливаются (закрепляются), если ответ был неверным, то связи ослабляются. Этот процесс повторяется огромное количество раз, таким образом машина самообучается и оптимизируется под выполнение определённой задачи. Мозг работает по похожему принципу, и мы продолжаем изучать создание и ослабление нейронных связей, таким образом открывая для себя всё новые способы обучения искусственных нейронных цепей. Более сложный способ эмуляции работы мозга - это полное воссоздание его структуры. Для этого берётся мозг, разрезается на тонкие слои, сканируется и потом при помощи мощного программного обеспечения строится его виртуальная модель, которую запускают на мощном компьютере. В результате мы получаем компьютер, способный на все операции, на которые способен человеческий мозг, его остаётся только обучить. Если ученые смогут разработать сверхточный способ копирования мозга, то мы можем даже добиться того, что все воспоминания и даже личность хозяина мозга будут перенесены в компьютер. Таким образом, если мозг принадлежал Джиму прямо перед тем, как он умер, то наш компьютер проснётся Джимом(?), и мы получим сильный ИИ, способный на всё то же на что способен человек, дальше мы сможем превратить его в Сверхразум, что наверняка придётся Джиму по вкусу.
Но как далеко мы от полной эмуляции работы мозга? Недавно, была воссоздана работа 1мм среза мозга, содержащего в себе всего 302 нейрона. В человеческом мозгу около 100 миллиардов нейронов. Если результат вас не впечатлил, то самое время вспомнить про экспоненциальный рост. Сейчас мы можем воссоздать работу мозга червя, потом, через достаточно долгий период, воссоздадим работу мозга муравья, потом мыши и неожиданно эта идея будет уже казаться куда более правдоподобной.

2. Заставить эволюцию работать на нас
Если мы придём к тому что списывать у нашего вундеркинда слишком сложно, можно попробовать копировать его технику подготовки к экзаменам. Построить компьютер равный по мощности нашему мозгу возможно, эволюция мозга тому доказательство. И если воссоздание работы мозга, является слишком сложной задачей, почему бы не имитировать эволюцию? Как показывает практика точное копирование биологических прототипов не всегда является лучшим решение, и крыло самолёта тому яркий пример.
Так как же заставить эволюцию построить нам сильный ИИ? Ответом на данный вопрос является генетический алгоритм, который работает следующим образом: каждый раз по выполнению задания проводится оценка результатов, это происходит раз за разом (в процессе эволюции "производительность" живого существа мерилась по тому смог ли он передать свои гены следующим поколениям или нет). Группа компьютеров будет работать над решением одной задачи, и самые успешные "скрещиваются", передавая половину своего программного обеспечения новой машине. После долгого процесса такой селекции будут создаваться всё более производительные компьютеры. Самая большая проблема тут - это создание автоматической системы оценки результатов и "скрещивания". Минус такого подхода в том, что такая "эволюция" может занять миллионы лет, а нам результат необходим в течение ближайших десятилетий.
Но у нас есть преимущество над эволюцией, во-первых эволюция развивается бессистемно, и на каждую полезную мутацию приходится куда большее количество бесполезных или даже вредных мутаций. Если же мы будем контролировать процесс, сохраняя только полезные мутации и даже подталкивая компьютеры к ним, мы можем значительно ускорить процесс. Во-вторых, у эволюции нет цели, она может выбрать и путь уменьшения "производительности" мозга, так как содержать большой мозг для животного это роскошь, он потребляет слишком много энергии. В третьих, чтобы эволюции создать более производительный мозг, ей необходимо решить проблему подачи энергии клеткам, у нас же нет такой проблемы, так как мы будем использовать чистое электричество. Без сомнений мы справимся с этой задачей гораздо быстрее, чем эволюция, но остаётся открытым вопрос будет ли это достаточно быстро, чтобы игра стоила свеч.

3. Заставить ИИ создать самого себя
Когда ученые заходят в тупик, то стараются создать такой эксперимент, который бы провёл сам себя. И это возможно самый многообещающий способ.
Основная его идея этого метода в том, чтобы создать слабый ИИ со специализацией в исследовании ИИ и внесении изменений в собственный код, что позволит ему не только обучаться, но и создавать себя самому. Мы научим компьютер быть программистом, и таким образом компьютеры сами помогут нам улучшить их. И их главной задачей будет разработать способ улучшения их самих.

И всё это дело ближайшего будущего
Быстрый прогресс в области оборудования, и различные эксперименты с программным обеспечением, могут принести сильный ИИ в нашу жизнь очень быстро. И на то есть две причины:

1. Экспоненциальный рост достиг таких скоростей, что даже то, что как нам кажется движется очень медленно, может привести через короткий промежуток времени к взрывному росту. Гиф в низу хороши иллюстрирует этот процесс:

Источник

2. То что касается программного обеспечения, развитие может казаться медленным, но одно открытие может резко изменить ситуацию (подобно тому, как наука топталась на месте, пытаясь описать движение небесных тел в геоцентрической системе, но когда люди взяли за основу гелиоцентрическую систему мира, всё стало на много легче). Так же и с саморазвивающимся компьютером. Ещё вчера казалось, что он очень далёк от создания сильного ИИ, но одна "мутация" в его программном обеспечении может сделать его в 1000 раз эффективнее, и вот он уже на пороге человеческого уровня разума.

Путь от Сильного ИИ к Сверхразуму
Когда мы достигнем ИИ человеческого уровня, то мы будем жить с ними в мире и равенстве.

Конечно же нет.

Сильный ИИ с тем же уровнем разума что и человек, на самом деле имеет огромные преимущества:

Аппаратное обеспечение:

• Скорость. Частота работы наших нейронов примерно 200 Гц, в то время как современные процессоры работают на 2 ГГц, то есть в 10 миллионов раз быстрее чем наши нейроны, а ведь к тому времени когда мы получим сильный ИИ, эта цифра будет ещё внушительнее. Передача данных между нейронами равна примерно 120 м/с что не идёт ни в какое сравнение с оптоволокном, способным передавать данные со скоростью света.

• Размер и память. Мозг ограничен размером черепа, он никогда не будет на много больше чем сегодня, при скорости передачи 120 м/с сигналы между далёкими друг от друга отделами мозга будет передаваться слишком долго. У компьютеров же нет такого ограничения, они могут быть практически любого размера и иметь в своём арсенале куда больше вычислительной мощности. Это же справедливо и для памяти, как оперативной, так и для физической.

• Надёжность. И дело не только в том, что память компьютеров гораздо точнее человеческой. Транзисторы гораздо точнее, чем нейроны, и у них гораздо меньше шансов на деградацию (их легко заменить). Мозг быстро устаёт, в то время как компьютеры могут работать 24/7.

Программное обеспечение:

• Возможность обновления и масштабирования. В отличие от человеческого мозга, программное обеспечение компьютера легко обновлять и модифицировать. В то же время программы можно улучшать и в тех областях, в которых человеческий мозг имеет не такие уж и хорошие способности. Зрение человека является очень продвинутой и слаженной системой, но в то же время математические способности мозга оставляют желать лучшего. Компьютеры могут сравняться с человеком в том что касается зрения, но при этом получить более оптимизированные математические способности или более продвинутые способности в любой другой сфере.

• Человечество обошло все другие виды животных в том, что касается взаимодействия между отдельными индивидами. Это началось с создания языка и формирования крупных общин, потом эта способность была усилена изобретением письменности и печати и в недавнее время, с развитием интернета, получила огромный толчок в своём развитии. И именно благодаря нашему коллективному интеллекту мы смогли так далеко уйти по уровню развития от всех других видов животных. Компьютеры же в свою очередь обойдут нас в этом. Благодаря интернету, ИИ смогут синхронизировать свои знания, и таким образом каждый из них будет иметь доступ ко всем знаниям, полученным любым из ИИ. Так же они смогут эффективнее людей работать над одной задачей, так как у них не будет конфликта интересов, плохого настроения, проблем с мотивацией и других проблем, свойственных человеку. ИИ, который сможет достичь человеческого уровня через самопрограммирование, будет смотреть на "человеческий уровень интеллекта" не более чем как на важную веху своего развития, и, конечно же, ничто не заставит его остановиться на это уровне, он проскочит его и будет огромными прыжками увеличивать свои "умственные способности", используя весь арсенал своих преимуществ перед человеком. И рано или поздно станет искусственным Сверхразумом.

И это конечно испугает человечество, и на то есть причины, А) Мы знаем всех животных населяющих Землю и понимаем уровень их интеллекта именно потому, что их уровень гораздо ниже нашего и Б) Умный человек нам кажется на порядок умнее глупого человека, мы видим это примерно таким образом:

Когда ИИ будет развиваться, мы увидим что он становится достаточно смышлёным для животного. Потом, как только он достигнет нижней границы человеческого интеллекта, Ник Бостром называет это "уровнем деревенского дурачка", мы будем думать "ой, как мило, он же как деревенский дурачок". Тут есть одна ошибка. С точки зрения развития разума, весь спектр человеческого интеллекта, от деревенского дурачка до Эйнштейна, занимает очень меленький промежуток, то есть сразу после достижения уровня человеческого дурачка и получения звания ИИ человеческого уровня, наш ИИ неожиданно и очень быстро станет умнее Эйнштейна, и мы даже не представляем, где могут быть границы его развития.

Что же будет дальше?

Взрывное развитие ИИ

С этого момента статья становится довольно страшной, надеюсь вам понравилась "нормальная" часть статьи. Хочу предупредить вас о том, что то что я буду рассказывать дальше не научная фантастика и не страшилка, а вполне реальные прогнозы большого количества ученых. Просто помните это, пока будете читать заключительную часть статьи.

Как было сказано выше, большая часть методов создания сильного ИИ предполагает саморазвитие ИИ до этого уровня. И даже если сильный ИИ будет создан другим способом, с его стороны будет достаточно глупо не заняться саморазвитием. И здесь мы приходим к тому, что называется рекурсивным самосовершенствованием. Это произойдёт примерно так:

Развитие до нижней границы человеческого уровня разума займёт у ИИ десятилетия. Компьютер будет понимать окружающий его мир примерно так же как 4-х летний ребёнок. Потом, неожиданно, примерно через час, система выдаст Теорию великого объединения, которая объединит в себе общую теорию относительности и квантовую механику, то есть сделает то, на что не способен ни один человек. 90 минут спустя ИИ станет искусственным Сверхразумом в 170 000 раз умнее человека.

Сверхразум такой силы будет для нас на столь же непостижим, как для шмеля Кейнсианство. В нашем мире быть умным значит иметь IQ выше 130, быть глупым значит иметь IQ порядка 85, у нас даже нет названия для IQ 12 952.

Залог доминирования человека на планете лежит в его относительной разумности в сравнении с другими живыми существами. С того момента, как мы создадим искусственный Сверхразум, он станет самым могущественным "существом" на нашей планете, и всё живое и даже само существование жизни будет полностью зависеть от прихоти этого Сверхразума.

И если человечество с его скудным умом смогло изобрести WI-FI, то для столь умного "существа" вряд ли будет проблемой управлять всеми атомами и их движением как ему заблагорассудится. Всё что мы считали магией, любые сверх способности, которые мы когда-либо приписывали любому из самых могущественных богов, будут в его распоряжении. Всё, о чем мы когда-либо могли мечтать: излечение любых болезней, победа над голодом или даже самой смертью, управление погодой для защиты жизни на земле, всё это станет возможным. Настолько же возможным, насколько и полное уничтожение жизни на земле. Когда мы создадим этот Сверхразум, ему не будет равных на планете, и останется лишь один вопрос:

Будет ли он добрым?

Фрилансеры лишаются работы из-за ChatGPT, а заказчики завалены спамом, написанным искусственным интеллектом. В итоге между клиентами и фрилансерами воцарилось взаимное недоверие - а перед платформами с вакансиями замаячили новые проблемы.

Роботизация представляет реальную угрозу многим профессиям, так как работодателям и владельцам бизнеса: выгодно иметь на вооружении ChatGPT, который может справиться с поставленной задачей гораздо быстрее человека, пишет Forbes. К концу этого года миллионы людей останутся без работы.

Исследователи Массачусетского технологического института (МТИ) предложили эффективный, по их словам, способ помочь дронам перемещаться по незнакомой местности - так называемые "жидкие" нейросети.

Исследователи Массачусетского технологического института (МТИ) предложили эффективный, по их словам, способ помочь дронам перемещаться по незнакомой местности - так называемые "жидкие" нейросети.

Первичное обучение адаптивного алгоритма было построено на наборе данных, полученных от пилота - человека. Благодаря этому система научилась учитывать его способность применять свои навигационные навыки на незнакомой местности, когда в условиях среды и её ландшафте происходят значительные изменения. "Жидкие" нейросети, в частности, помогают дронам отслеживать движущиеся цели. А дальнейшее их обучение может быть построено на данных от новых экспертных источников - это повысит надёжность и эффективность дронов в работе.

[Научпоп с кодом] Что такое "жидкая" нейросеть и как научить её играть в Atari?

Блог компании SkillFactoryPython*Программирование*Искусственный интеллектTensorFlow*

 

Автор оригинала: Steve Nadis и авторы документации пакета ncps

 

Алгоритмы в основе традиционных сетей настраиваются во время обучения, когда подается огромное количество данных для калибровки наилучших значений их весов, ликвидные ("текучие") нейронные сети лучше адаптируются.

"Они способны изменять свои основные уравнения на основе входных данных, которые они наблюдают", в частности, изменяя скорость реакции нейронов, - рассказывает директор Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института Даниэла Рус.

Один из первых тестов для демонстрации этой способности - попытка управлять автономным автомобилем. Ведь обычная нейронная сеть анализирует визуальные данные с камеры автомобиля только через постоянные промежутки времени, а ликвидная сеть из 19 нейронов и 253 синапсов (крошечная по стандартам машинного обучения) может оказаться намного отзывчивее.

"Наша модель может делать выборки чаще, например, когда дорога извилиста", - рассказывает соавтор этой и других статей о ликвидных сетях.

Модель успешно удерживала машину на ходу, но, по словам Лехнера, у неё был один недостаток: "Она была очень медленной" из-за нелинейных уравнений, представляющих синапсы и нейроны, которые обычно невозможно решить без повторных вычислений на компьютере, который выполняет несколько итераций, прежде чем сойдется к решению. Эта работа обычно делегируется специальным программным пакетам - решателям, применять которые нужно к каждому синапсу и нейрону отдельно.

В статье 2022 года учёные показали ликвидную нейронную сеть, которая обошла это узкое место. Эта сеть основывалась на уравнениях того же типа, но ключевым достижением стало открытие Хасани, что такие уравнения не нужно решать с помощью трудоемких компьютерных вычислений. Вместо этого сеть могла бы функционировать, используя почти точное или "замкнутое" решение, которое, в принципе, можно было бы разработать на бумаге с карандашом в руках. Как правило, эти нелинейные уравнения не имеют решений в замкнутой форме, но Хасани наткнулся на достаточно хорошее приближенное решение.

"Решение в замкнутой форме - это решение при помощи уравнения, в котором можно подставить значения параметров, затем выполнить простые математические операции - и вы получите ответ, одним выстрелом".

Это ускоряет вычисления и сокращает затраты энергии.

Ликвидные нейронные сети предлагают "элегантную и компактную альтернативу", - считает Кен Голдберг, робототехник из Калифорнийского университета в Беркли. По его словам, эксперименты уже показывают, что эти сети могут работать быстрее и точнее, чем другие так называемые нейронные сети с непрерывным временем, которые моделируют системы, меняющиеся во времени.

Рамин Хасани и Матиас Лехнер, инициаторы новой архитектуры, много лет назад поняли, что C. elegans может стать идеальным организмом, который можно использовать, чтобы выяснить, как создавать устойчивые нейронные сети, способные приспосабливаться к неожиданностям. Этот червь - одно из немногих существ с полностью структурированной нервной системой, и она способна к целому ряду действий: двигаться, находить пищу, спать, спариваться и даже учиться на собственном опыте. "Он живет в реальном мире, где постоянно происходят изменения, и может хорошо работать практически в любых условиях", - сказал Лехнер.

Уважение к непритязательному червю привело Лехнера и Хасани к их новым сетям, где каждый нейрон управляется уравнением, которое предсказывает его поведение во времени. И так же, как нейроны связаны друг с другом, эти уравнения зависят друг от друга. Сеть, по сути, решает ансамбль связанных уравнений, позволяя характеризовать состояние системы в любой момент - в отличие от традиционных нейронных сетей, которые выдают результаты только в определенные моменты времени.

"[Обычные нейросети] могут рассказать вам, что происходит, только через одну, две или три секунды", - сказал Лехнер. "Но модель с непрерывным временем, подобная нашей, может описать происходящее за 0,53 секунды, 2,14 секунды или любое другое время, которое вы выберете".

Ликвидные сети также различаются тем, как они обрабатывают синапсы, связи между искусственными нейронами. Сила этих связей в стандартной нейронной сети может быть выражена одним числом - ее весом. В ликвидных сетях обмен сигналами между нейронами - вероятностный процесс, управляемый "нелинейной" функцией: ответы на входы не всегда пропорциональны. Удвоение входных данных, например, может привести к гораздо большему или меньшему сдвигу вывода. Именно из-за этой естественной изменчивости сети называют ликвидными, "жидкими". Реакция нейрона может варьироваться в зависимости от того, какие входные данные он получает.

"Их метод - победить конкурентов на несколько порядков, не жертвуя точностью", - сказал Саян Митра, ученый-компьютерщик из Университета Иллинойса, Урбана-Шампейн.

По словам Хасани, их новейшие сети не только быстрее, но и необычно стабильнее, а это означает, что система, не выходя из строя, способна обрабатывать огромные входные данные. "Основной вклад здесь заключается в том, что стабильность и другие приятные свойства заложены в этих системах благодаря их чистой структуре", - рассказывает Шрирам Санкаранараянан, ученый-компьютерщик из Университет Колорадо, Боулдер. Ликвидные сети, кажется, работают внутри "золотого пятна: они достаточно сложны, чтобы в них происходило нечто интересное, но сложны не настолько, чтобы привести к хаотичному поведению".

Сейчас учёные из MIT тестирует свою последнюю сеть на автономном БПЛА. Хотя дрона учили ориентироваться в лесу, его переместили в городскую среду Кембриджа, чтобы посмотреть, как он справляется с новыми условиями. Предварительные результаты эксперимента Лехнер считает обнадеживающими.

Команда работает над улучшением архитектуры своей сети. Следующий шаг, по словам Лехнера, "выяснить, сколько или насколько мало нейронов нужно, чтобы решить задачу".

Учёные хотят разработать оптимальный способ соединения нейронов. Сейчас каждый нейрон связан с каждым другим нейроном, но синаптические связи C. elegans работают иначе: они более избирательны. Благодаря исследованиям нервной системы круглых червей учёные надеются определить, какие нейроны в их системе должны быть соединены.

Кроме автономного вождения и полётов, ликвидные сети хорошо подходят для анализа электрических сетей, финансовых транзакций, погоды и других явлений, которые меняются со временем. По словам Хасани, последнюю версию ликвидных сетей можно использовать "для моделирования активности мозга в масштабах, ранее невозможных".

Особенно этим заинтригован Митра. "В каком-то смысле это поэтично, показать, что это исследование может пройти полный цикл [полный, замкнутый круг], - считает он [отсылка на замкнутую форму уравнений]. - Нейронные сети развиваются до такой степени, что те самые идеи, которые мы почерпнули из природы, вскоре смогут помочь нам лучше понять природу".

Перейдём к практике. Покажем пример прямо из документации к пакету c реализацией ликвидных нейросетей. И, конечно, его работу.

Технические подробности

Политика нейронных цепей (NCP) - это повторяющиеся модели нейросетей, вдохновленные нервной системой нематоды C. elegans. По сравнению со стандартными моделями ML, NCP имеют:

• Нейроны, моделируемые обыкновенным дифференциальным уравнением;
• Разреженные и структурированные связи нейронов;

Модели нейронов

Сегодня пакет предоставляет две модели нейронов: LTC и CfC на нейронах в виде дифференциальных уравнений, связанных между собой сигмоидальными синапсами. Термин "текучая [ликвидная] постоянная времени" происходит от свойства LTC: поведение этих нейронов во времени подстраивается к входным данным (скорость реакции на некоторые стимулы может зависеть от конкретного входного сигнала). LTC - это обыкновенные дифференциальные уравнения, поэтому их поведение можно описать только во времени.

LTC являются универсальными аппроксиматорами и реализуют причинно-следственные динамические модели. У модели LTC есть один существенный недостаток: для вычисления выходных данных нужен численный решатель дифференциальных уравнений, который серьезно замедляет обучение и время вывода. Модели уравнения [замкнутой формы] с непрерывным временем (CfC) устраняют это узкое место, они содержат приближённое решение дифференциального уравнения в замкнутой форме.

Обе модели LTC и CfC - это рекуррентные нейронные сети, они обладают временным состоянием, а значит, применимы только к последовательным данным или к данным временных рядов.

 

Нейронные связи

Использовать можно обе вышеописанные модели, причём с полносвязной схемой соединений. Для этого просто передадим количество нейронов, как это делается в стандартных моделях, таких как LSTM, GRU, MLP или трансформеры.

from ncps.torch import CfC # a fully connected CfC network rnn = CfC(input_size=20, units=50)

В форме объекта ncps.wirings.Wiring можно указать разреженные структурированные соединения. Политика нейронных цепей (NCP) - самая интересная парадигма нейронных связей в этом пакете, она включает в себя 4-уровневый принцип рекуррентного соединения сенсорных, промежуточных, командных и моторных нейронов.

Самый простой способ создать нейронные связи NCP - использовать класс AutoNCP, требующий указать общее количество нейронов и количество двигательных нейронов, то есть размер вывода.

from ncps.torch import CfC from ncps.wirings import AutoNCP wiring = AutoNCP(28, 4) # 28 neurons, 4 outputs input_size = 20 rnn = CfC(input_size, wiring)

Схема

Учим текучую нейросеть играть в Atari

Ниже научим NCP играть в игру Atari с помощью обучения с подкреплением. Код написан на TensorFlow, а для обучения применяется ray[rllib]. Мы воспользуемся алгоритмом proximal policy optimization (PPO) - ближайшая оптимизация политики. Это хороший базовый алгоритм, который работает и в дискретном, и в непрерывном пространстве действий.

Установка и требования

Для начала нужно установить кое-какие пакеты:

pip3 install ncps tensorflow "ale-py==0.7.4" "ray[rllib]" "gym[atari,accept-rom-license]==0.23.1"
Определяем модель

Модель состоит из блока свертки, за которым следует рекуррентная нейронная сеть типа CfC. Для совместимости модели с rllib создадим подкласс класса ray.rllib.models.tf.recurrent_net.RecurrentNetwork.

Наша сеть Conv-CfC обладает двумя выходными тензорами. Это тензоры:

• Распределения возможных действий (политика);
• Скалярной оценки функции ожидаемого возврата;

Второй тензор необходим для наших алгоритмов PPO RL. Изучение как политики, так и функции ожидаемого возврата в одной сети часто имеет некоторые преимущества обучения за счёт общих признаков.

Продолжение следует.

Искусственный интеллект стал демонстрировать более высокие умственные способности по сравнению с человеком, заявил в беседе с обозревателем Fox News Такером Карлсоном предприниматель Илон Маск. По его мнению, человечество должно разработать эффективные рычаги по контролю над ним.

Единственное преимущество, которое имеет и когда-либо имел человек, - это то, что он единственный обладает статусом самого умного существа на планете, но скоро все изменится.

Платформа должна стать конкурентом нашумевшего чат-бота ChatGPT с той разницей, что будет выдавать всю необходимую информацию и будет лишена цензуры.

Доктор Айзек Кохейн (Isaac Kohane), гарвардский специалист по информационным технологиям и медицине, совместно с двумя коллегами протестировал GPT-4 на предмет возможности использовать искусственный интеллект во врачебной сфере. По словам исследователя, система проявила себя лучше многих врачей.

Результаты эксперимента доктор Кохейн изложил в книге "Революция ИИ в медицине", написанной совместно с независимой журналисткой Кэри Голдберг (Carey Goldberg) и вице-президентом Microsoft по исследованиям Питером Ли (Peter Lee). Выпущенная в марте ИИ-модель GPT-4 в 90 % случаев правильно отвечала на вопросы из экзамена на получение лицензии врача, выступая лучше ChatGPT на базе GPT-3 и GPT-3.5 и даже некоторых докторов, у которых уже есть лицензии.

GPT-4 отлично проявил себя не только как экзаменуемый и знаток фактов, но и как переводчик. Он разобрался с медицинской выпиской пациента на португальском языке и перефразировал наполненный техническим жаргоном текст в материал, с которым справится и шестиклассник. ИИ предлагал врачам полезные советы, как вести себя у постели больного и как разговаривать с пациентом о его состоянии понятным, но сострадательным языком. Машина справлялась с обработкой объёмных отчётов об обследовании, мгновенно обобщая их содержимое.

Свои ответы система излагала в формате, который как будто указывает на интеллект сродни человеческому, но исследователи всё равно пока делают вывод, что в своих размышлениях ИИ ограничен шаблонами - пускаться в полноценные рассуждения с причинно-следственными связями GPT-4 ещё не умеет. Тем не менее, когда системе предложили данные по реальному случаю, та на уровне специалиста с годами учёбы и практики верно диагностировала редкую болезнь.

Доктор Кохейн, с одной стороны, рад, что в обозримом будущем такой инструмент будет доступен миллионам людей, но, с другой стороны, он пока не знает, как сделать платформу безопасной для пользователя. GPT-4 не всегда надёжен в своих ответах, и в книге приводится множество примеров его ошибок разного рода. Причём ИИ склонен настаивать на своей правоте, когда ему на эти ошибки указывают - это явление в технической среде уже назвали "галлюцинациями". В свою защиту GPT-4 однажды заявил: "У меня нет намерений кого-то обманывать или вводить в заблуждение, но я иногда совершаю ошибки и делаю предположения, основываясь на неполных или неточных данных. Я не даю клинических оценок и не несу этической ответственности как врач или медсестра".

В качестве одной из мер защиты авторы книги предлагают проводить по нескольку сессий с GPT-4, чтобы ИИ сам "перечитывал" или "проверял" собственную работу "свежим взглядом". Иногда это помогает выявлять ошибки: GPT-4 несколько раз в сдержанной форме признавал своё заблуждение. Или можно поручить проверку его работы специалисту.

За несколько месяцев с момента, когда ChatGPT ворвался в медийную повестку и обрел массовую популярность, некоторые компании уже начали его активно использовать. У других компаний возникла потребность сформулировать для сотрудников четкие руководства - что можно и чего нельзя делать с помощью чат-бота. Одновременно с этим лидеры мнений, среди которых Илон Маск и Стив Возняк, призывают поставить на паузу или даже вообще запретить разработки в области ИИ. Чего они боятся и могут ли правила и ограничения уберечь человечество от этой угрозы - в нашем материале.

Кто и как уже начал применять генеративный ИИ в работе

Пока школьники и студенты тестируют возможности генеративного искусственного интеллекта в области выполнения домашних заданий и дипломных работ, некоторые компании уже начали пытаться применять их для решения своих задач.

Компания Microsoft, инвестор разработчика популярного ChatGPT, стала одной из первых, встроив чат-бота в свой поисковик Bing. Правда, не обошлось без странностей. После того, как пользователи начали замечать, как ИИ сообщает, что у ее есть чувства, раскрывать планы захватить мир, а также отзываться на кодовое имя Sydney (предыдущая версия чат-бота Bing, которую закрыли после того, как она начала угрожать пользователям и в целом вести себя деструктивно), этой языковой модели просто запретили отвечать на запросы, связанные с чувствами, а также реагировать на имя Sydney - при его упоминании она заканчивает диалог.

Функцию чат-бота с искусственным интеллектом встроили в свои сервисы такие компании как Snap - пользователям Snapchat он помогает с планами на выходные и поисками рецептов разных блюд, сервис доставки Instacart - там чат-бот может помочь выбрать нужные продукты взамен отсутствующих или подсказать, что нужно для определенного блюда, Salesforce добавил чат-бота в популярный мессенджер Slack, а в приложении для изучения иностранных языков Speak ИИ имитирует реального собеседника. Популярный сервис для изучения иностранных языков Duolingo также анонсировал новую функцию Duolingo Max на основе языковой модели GPT-4. Другие же компании, тоже заметив появление нового инструмента на рынке, предпочли проявить осторожность. Крупные международные банки, такие как JPMorgan Chase, Bank of America, Goldman Sachs и Deutsche Bank запретили своим сотрудникам пользоваться ChatGPT. Ограничение на использование чат-бота ввела для своих работников и компания Amazon, который отдельно призвал их не делиться с ботом конфиденциальной корпоративной информацией. В то же время, продавцы, выставляющие свои товары на маркетплейсе активно используют для составления описания своих товаров.

Такие модели, как ChatGPT от OpenAI и LaMDA от Google, могут выполнять множество языковых задач: перевод, генерация разных типов текста, поиск информации. Эти же модели можно преобразовать к другие генеративные инструменты. Например, Copilot от Microsoft обучается на репозиториях GitHub и умеет писать код. А DALL-E от OpenAI генерирует реалистичные изображения.

Как пишет издание Moneycontrol, ссылаясь на исследование платформы для поиска работы Resumebuilder, в половине из тех американских компаний, которые начали применять ChatGPT, уже заменили им своих сотрудников. По данным консалтинговой компании Gartner половина из опрошенных ими руководителей HR-отделов компаний прямо сейчас работают над составлением корпоративных правил по использованию чат-ботов на основе генеративного ИИ. Как пишет Bloomberg, сервисом ChatGPT начали пользоваться "ранние последователи" из числа программистов, консультантов и других профессионалов, которые пишут с его помощью коды, электронные письма и отчеты, часто не ставя об этом в известность руководство.

Массовая безработица и другие угрозы человечеству

Тем временем, об опасностях новых языковых моделей начали беспокоиться не только банки и сотрудники отделов кадров, но и техно-визионеры. В конце марта более 1000 человек, включая Илона Маска, Юваля Ноя Харари и Стива Возняка, призвали остановить обучение систем искусственного интеллекта более мощных, чем GPT-4. Пауза, по их мнению, нужна, чтобы создать, внедрить и апробировать общие протоколы безопасности. Иначе, предостерегают они, ИИ заменит людей. На момент публикации открытое письмо подписали почти 13 000 человек.

В письме среди прочего говорится: "Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффекты будут положительными, а связанные с ними риски - управляемыми".

Один из рисков, связанных с широким внедрением сервисов на основе ИИ, о котором говорят довольно давно - всплеск безработицы. В 2020 году экономист из Массачусетского технологического института Дарон Аджемоглу посчитал, что каждый дополнительный робот на производстве заменяет в среднем около 3,3 рабочих мест в США. В опубликованном в марте 2023 года исследовании банка Goldman Sachs говорится, что если генеративный ИИ реализует свои потенциальные возможности, то он сможет автоматизировать 300 млн рабочих мест с полной занятостью во всем мире. Для этого исследователи изучили рабочие места в США и Европе и выяснили, что на этих территориях ИИ может заменить ⅔ рабочих мест, после чего экстраполировали данные на весь мир. Также по оценке Goldman Sachs, если ИИ окажет существенную помощь в работе, то мировой ВВП увеличится на 7%.

Портал SuperJob посчитал, что 17% россиян опасаются потерять работу из-за автоматизации и ИИ. Они переживают, что их рабочие обязанности сократят или вовсе перестанут быть востребованными. Однако 43% не боятся ИИ и большинство из них уверенно, что ИИ не заменит человека.

"Человека заменит не искусственный интеллект, а другой человек, который будет пользоваться искусственным интеллектом, - считает Александр Крайнов, директор по развитию технологий искусственного интеллекта компании "Яндекс". - Искусственный интеллект - это просто следующий способ сделать так, чтобы один человек за единицу времени производил больше благ. Многие профессии будут со временем трансформироваться под влиянием технологий. То есть произойдет, во-первых, постепенная трансформация известных нам профессий, а во-вторых, перемещение людей из одних профессий в другие, возникшие в результате развития ИИ. Эти процессы будут проходить довольно плавно".

Научный руководителя исследовательского центра "Сильный искусственный интеллект в промышленности" ИТМО Александр Бухановский тоже считает страхи перед массовой безработицей избыточными. По его мнению, с помощью ИИ проще имитировать действия человека в быту, чем профессиональные навыки. "Генеративные нейросети - это просто математический аппарат, который может синтезировать любые цифровые объекты с заданными свойствами. Но на практике все зависит от структуры объектов и от объемов данных, на которых обучается сеть. Так, современные большие языковые модели (например, GPT-4) хорошо генерируют структуры в символьной записи, и потому с легкостью пишут тематические тексты или коды программ. А вот, например, в лоб решить задачу мастер-планирования территории в архитектурной компании - уже труднее. И данных для обучения не так много, и не всегда дообученная на их основе универсальная нейросеть будет эффективной. Тем не менее, структура нейросетевых моделей позволяет дообучать их практически на любых данных. Но вот объяснить результаты их работы, увы, сложно", - говорит Бухановский.

Операционный директор стартапа "Цельс", использующего искусственный интеллект для медицинского скрининга, Никита Николаев тоже видит в ИИ технологиях не угрозу, а возможности. "Использование ИИ значительно повышает уровень выявления патологий. Однако, говорить о том, что они могут заменить рентгенологов нельзя. Наиболее вероятным сценарием является то, что искусственный интеллект станет привычной частью рабочего процесса врачей, как в свое время такой частью стали медицинские информационные системы".

Исполнительный директор ООО "ДиСи Инжиниринг" Глеб Антипов говорит, что изменения на рынке труда начнутся, и очень скоро, однако скорее всего первыми внедрять GPT для решения корпоративных задач будут небольшие организации, ограниченные в ресурсах, где один человек и до этого совмещал несколько разных функций. "ChatGPT облегчит и улучшит результат такой работы, но заменить им опытного, развитого специалиста пока ещё будет сложно", - считает Антипов.

Как компании и государство регулируют ИИ

Развитие искусственного интеллекта дошло до стадии, когда захватило внимание всех людей - от школьников и студентов до руководителей корпораций и глав государств. Что привело к новым ограничениям. В Италии правительство запретило ChatGPT, потому что OpenAI незаконно собирала личные данные пользователей и в ней не было системы проверки возраста, чтобы предотвратить доступ несовершеннолетних к неприемлемым материалам. "Мы активно работаем над сокращением количества персональных данных при обучении наших систем ИИ, таких как ChatGPT, потому что мы хотим, чтобы наш ИИ узнавал о мире, а не о частных лицах", - заявили в компании. - Мы также считаем, что регулирование ИИ необходимо".

В то же время в Великобритании не планируют устанавливать жесткие правила для ИИ. Там правительство предпочитает "легкий подход" к регулированию искусственного интеллекта. Однако в течение года в стране выпустят рекомендации от существующих регуляторов. Также появится "пробная песочница, чтобы помочь компаниям проверить ИИ на соблюдение правил, прежде чем выйти на рынок".