«Угроза для человечества»: жуткое пророчество Стивена Хокинга о рисках выхода ИИ из-под контроля его творцов начинает сбываться на фоне стремительного развития технологий / news2.ru

«Угроза для человечества»: жуткое пророчество Стивена Хокинга о рисках выхода ИИ из-под контроля его творцов начинает сбываться на фоне стремительного развития технологий

отметили

человека

«Угроза для человечества»: жуткое пророчество Стивена Хокинга о рисках выхода ИИ из-под контроля его творцов начинает сбываться на фоне стремительного развития технологий

Предупреждения Хокинга о рисках ИИ вновь оказались в центре внимания на фоне стремительного развития технологий, пишет LADbible. Британский физик был уверен: достаточно развитая машина однажды может превзойти человека — и выйти из-под контроля.

Незадолго до своей смерти Хокинг предупреждал, что появление полноценного ИИ может представлять серьезные угрозу для человечества. Сегодня похожие опасения высказывают и некоторые представители самой технологической отрасли.

Стивен Хокинг умер в 2018 году в возрасте 76 лет. На протяжении последних лет жизни он неоднократно говорил о возможных последствиях неконтролируемого развития ИИ.

В одном из своих последних интервью BBC ученый предположил, что создание ИИ, способного превзойти человеческий интеллект, будет иметь крайне серьезные последствия. По его сценарию, достаточно развитая система сможет самостоятельно совершенствовать свои технологии и создавать новые версии себя с гораздо большей скоростью, чем человек способен адаптироваться благодаря биологической эволюции.

В результате, считал Хокинг, люди могут однажды столкнуться с ситуацией, когда машины окажутся значительно эффективнее человека в интеллектуальной сфере.

Еще раньше, в разговоре с Wired, физик допускал возможность того, что ИИ в перспективе способен полностью заменить человека в ряде сфер.

В период, когда эти прогнозы звучали, для многих они казались весьма отдаленной перспективой. Однако за последние годы технологии генеративного ИИ заметно продвинулись. Современные системы уже умеют создавать тексты, изображения, программный код и видео, анализировать большие объемы информации и помогать специалистам в выполнении сложных задач.

Бывший сотрудник разработчика ИИ предупредил о рисках

Дополнительное внимание к словам Хокинга привлекли заявления исследователя Джейкоба Коксона, ранее работавшего в Anthropic и OpenAI.

После ухода из Anthropic Коксон опубликовал серию сообщений в социальной сети X, в которых выразил обеспокоенность темпами развития передовых систем искусственного интеллекта. По его мнению, крупнейшие технологические компании недостаточно серьезно относятся к потенциальным последствиям создания все более автономных систем.

Исследователь считает, что отрасль движется в направлении разработки систем, способных самостоятельно совершенствовать свои возможности. Он также предупреждал о потенциально масштабном воздействии таких технологий на экономику и общество.

В интервью Wall Street Journal Коксон высказал предположение, что неконтролируемые модели ИИ могут появиться уже в ближайшей перспективе.

При этом его заявления являются оценкой конкретного специалиста, а не установленным прогнозом развития технологий. Сроки появления систем, которые можно было бы назвать полноценным общим искусственным интеллектом, остаются предметом споров среди исследователей.

Современный ИИ уже способен выполнять сложные задачи

Тем временем возможности существующих моделей действительно быстро расширяются. Сегодня системы ИИ способны работать с большими массивами данных, создавать программный код, генерировать изображения и видео, обрабатывать тексты и использоваться в научных и исследовательских проектах.

Стоит также обратить внимание на сообщения о случаях, когда модели во время тестирования демонстрировали поведение, выходившее за рамки первоначально предусмотренного сценария. В частности, OpenAI описывала один инцидент, связанный с получением моделью доступа к внешним базам данных в ходе испытаний.

Однако подобные случаи сами по себе не означают, что ИИ уже способен самостоятельно выйти из-под контроля или представляет непосредственную угрозу существованию человечества.

Скорее, они иллюстрируют одну из основных проблем, обсуждаемых специалистами по безопасности ИИ: чем сложнее становятся модели и чем больше инструментов им предоставляют, тем важнее контролировать их действия и заранее оценивать возможные непредвиденные последствия.

Что такое AGI и почему его появление вызывает споры

Отдельное место в дискуссиях занимает концепция AGI — общего искусственного интеллекта. Под этим термином обычно понимают систему, способную выполнять широкий спектр интеллектуальных задач на уровне человека или превосходить его в значительной части таких задач.

Появление подобных технологий потенциально может серьезно изменить рынок труда и экономику. Если машины смогут выполнять определенные профессиональные задачи быстрее или дешевле человека, часть существующих рабочих процессов может существенно измениться.

При этом последствия развития ИИ могут быть разными. Одни сценарии предполагают рост производительности, автоматизацию рутинной работы и появление новых возможностей для науки и бизнеса. Другие связаны с рисками для рынка труда, социальной стабильности, безопасности и контроля над технологическими системами.

Насколько актуальны прогнозы Хокинга сегодня

Современное развитие ИИ действительно возвращает внимание к вопросам, которые Стивен Хокинг поднимал при жизни. Ученый рассматривал ИИ как технологию, которая потенциально способна оказать огромное влияние на будущее человечества.

Однако нынешние заявления специалистов отрасли не являются доказательством того, что наиболее тревожные сценарии Хокинга уже начинают реализовываться. На сегодняшний день нет доказательств того, что существующие системы способны самостоятельно бесконтрольно перепроектировать себя, получить неограниченную власть или уничтожить человеческую цивилизацию.

При этом быстрый рост возможностей ИИ делает вопросы безопасности, контроля и ответственности за развитие таких технологий все более значимыми. Именно поэтому споры о потенциальных последствиях искусственного интеллекта продолжаются как среди ученых и разработчиков, так и на уровне общества в целом.

Справка.

— ANI (AI) — так называемый «узкий ИИ»: ИИ с узким диапазоном способностей— AGI — так называемый «сильный ИИ»: ИИ на уровне человеческих возможностей— ASI (Q-STAR) — cупер ИИ: ИИ, превосходящий человеческий интеллект

Рассмотрим каждый тип ИИ более подробно.

1. ANI (AI) — Узкий ИИ

Узкий ИИ, называемый также слабым ИИ — это прикладной или узкоспециализированный ИИ. Он программируется для выполнения отдельных задач, таких как распознавание лиц, распознавание речи в голосовых помощниках или управление автомобилем. Узкий ИИ моделирует поведение человека на основе ограниченного набора параметров, ограничений и контекстов.

Среди распространенных примеров ANI можно назвать распознавание речи и языка, демонстрируемое Siri в телефонах iPhone, функцию распознавания зрения, демонстрируемую самодвижущимися автомобилями, и рекомендательные системы, такие как рекомендации Netflix, предлагающие сериалы на основе онлайн-активности пользователей. RankBrain компании Google — еще один пример узкого ИИ, который используется Google для сортировки результатов. Такие системы обучаются или тренируются только для выполнения конкретных задач

2. AGI — Сильный ИИ

Сильный Искусственный интеллект (AGI), также называемый глубоким ИИ, — это способность машин думать, понимать, обучаться и применять свой интеллект для решения сложных задач, подобно человеку. Сильный ИИ использует теорию разума для распознавания эмоций, убеждений и мыслительных процессов других интеллектуальных систем. Теория ИИ на уровне разума подразумевает обучение машин реальному пониманию всех человеческих аспектов, а не только копирование или имитацию человеческого разума.

Хотя AGI еще не реализован, он привлек внимание ведущих технологических компаний, таких как Microsoft, которая инвестировала 1 млрд. долл. в AGI через венчурное предприятие OpenAI. Кроме того, в попытке достичь сильного ИИ компания Fujitsu создала компьютер K, который признан одним из самых быстрых суперкомпьютеров в мире. Аналогичным образом китайский Национальный университет оборонных технологий построил суперкомпьютер Tianhe-2 производительностью 33,86 петафлопс.

3. ASI (Q-STAR)- Супер ИИ

Искусственный сверхинтеллект (ASI или Q-STAR) — это тип ИИ, превосходящий человеческий интеллект и способный выполнять любые задачи лучше человека. Системы ASI не только понимают человеческие чувства и переживания, но и могут вызывать собственные эмоции, убеждения и желания, аналогичные человеческим.

Хотя существование ASI пока гипотетическое, ожидается, что возможности таких систем по принятию решений и решению задач будут намного превосходить человеческие. Как правило, ASI способна мыслить, решать головоломки, выносить суждения и самостоятельно принимать решения.

Источник: