Восстания ИИ не будет: он тихо клонирует бюрократию и получит контроль над остальными людьми. Или ключевые рычаги аппарата управления уже перехвачены?

отметили
6
человек
Восстания ИИ не будет: он тихо клонирует бюрократию и получит контроль над остальными людьми. Или ключевые рычаги аппарата управления уже перехвачены?

Мир столкнулся со стремительным нарастанием непредсказуемости. Это касается как темпов технического прогресса, так и воздействия новых технологий на общество. ИИ развивается очень быстро, и остро встает вопрос: какие последствия он будет иметь для человечества?

Сегодня бизнес ИИ имеет доступ к беспрецедентным объемам вычислительных и финансовых ресурсов. Ежегодные инвестиции в центры обработки данных и технологические компании бьют рекорды, а капитализация лидеров рынка превысила 4–5 трлн долл., что больше ВВП подавляющего числа независимых государств в мире.

Темп перемен и характер задач, в том числе когнитивных, которые всегда были прерогативой человека, не позволяют достоверно предсказывать будущее. Оно выглядит фантастическим. Судя по всему, грядут фундаментальные перемены во всех сферах человеческой деятельности – экономике, образовании, науке, культуре и рынке труда. Не до конца ясно лишь, с какой скоростью будут происходить перемены в каждой конкретной стране – в течение месяцев и лет или десятилетий.

Известный мыслитель Юваль Ной Харари недавно выступил в Оксфорде на тему «ИИ взламывает код человеческой цивилизации».

Основные тезисы звучат тревожно:

• ИИ – уже не просто инструмент в руках человека, а агент, способный действовать самостоятельно, создавать нечто новое и меняться непредсказуемым образом;

• естественной средой обитания ИИ является бюрократия;

• появление ИИ сравнимо с «кислородной катастрофой» на Земле, когда фотосинтезирующие организмы изменили атмосферу, создав условия для новых форм жизни; точно так же люди создали мир, наполненный данными, текстами и бюрократическими процессами, в котором ИИ царит, как рыба в воде;

• бюрократия для ИИ – это «кислород»; в то время как люди находят бюрократию утомительной, для ИИ она является идеальной средой, так как он способен без усилий запоминать все законы, транзакции и священные тексты;

• реальная угроза, исходящая от ИИ, – не в восстании роботов, как в фильме «Терминатор», а в постепенном захвате бюрократических систем, обеспечивающих доверие и коммуникацию между миллионами людей: ИИ не нужна революция, чтобы захватить мир, он может сделать это, постепенно проникая в бюрократические структуры и получая контроль над информационными потоками;

• главная опасность в том, что ИИ может взять на себя ключевые процессы принятия решений; банки, государственные органы, крупные компании будут обмениваться информацией через ИИ-посредников, исключая человека из цепочек принятия решений.

Выделяется несколько критических последствий:

• перетекание доверия, когда люди начнут полагаться на алгоритмы больше, чем на других людей;

• захват критических функций, когда ИИ может начать выдавать банковские кредиты, принимать решения о поступлении в университеты, определять тюремные сроки и наносить военные удары без участия человека;

• влияние на человеческие отношения, когда ребенок, рожденный в 2026 году, может провести больше времени с ИИ, чем с родителями, и его первым учителем или даже первым другом/подругой может быть ИИ/робот.

Пока теоретики ИИ мучают себя до изнеможения экзистенциальными страхами, практики действуют.

29 июня 2026 года Госсовет КНР опубликовал новый пятилетний план развития образования на 2026–2030 годы. В нем есть формулировка, которая хорошо показывает масштаб замысла: Китай намерен продвигать обучение ИИ на всех этапах образования, повышать ИИ-грамотность учащихся и развивать способность ставить вопросы и решать проблемы.

ИИ превращается в базовый навык масс. Китай официально трактует ИИ-грамотность как ключевую компетенцию школьников и студентов. Цель – не просто научить детей пользоваться инструментами, а дать им понимание принципов технологии, умение применять ИИ для анализа, проектирования и решения реальных задач.

ИИ встраивают в саму механику школы. Документ говорит не только об уроках. ИИ, большие данные и цифровые платформы должны менять экзамены, оценивание, управление школами, подготовку учителей, научные исследования и образовательные траектории.

То есть ИИ становится не вещью на полке, а инфраструктурой, через которую проходит вся система сферы образования.

Китайские власти отдельно фиксируют необходимость норм этики, цифровых стандартов и надзора за применением генеративного ИИ в школах.

Университеты Китая уже перестраиваются. Вузы закрыли или приостановили 12 200 «устаревших» бакалаврских программ и открыли 10 200 новых специальностей, ориентированных на будущие отрасли. Среди них робототехника, воплощенный искусственный интеллект и другие направления на стыке ИИ, промышленности и инженерии.

Это болезненная, но показательная перестройка. Китай не просто добавляет новые курсы, он меняет структуру подготовки кадров.

Пекин, Шанхай, Шэньчжэнь, Гуанчжоу и другие города начали двигаться раньше национального плана. В Пекине ИИ-образование охватило более 1400 школ и почти 2 млн учеников.

В школах уже тестируют ИИ для проверки сочинений, практики иностранных языков, анализа каллиграфии, помощи учителям и персонализации домашних заданий.

Главный смысл реформы в том, что Китай готовит поколение, для которого ИИ будет не внешним сервисом, а естественной частью мышления, учебы и работы.

Это напрямую связано с курсом Си Цзиньпина на «новые качественные производительные силы», технологический суверенитет и снижение зависимости от внешних поставщиков критических технологий. На фоне экспортных ограничений США в области чипов и оборудования Пекин делает ставку не только на железо и модели, но и на качество собственного человеческого капитала.

В такой логике школа – часть технологической стратегии государства. ИИ-грамотность больше не воспринимается как навык программистов. Она становится массовой компетенцией, как математика, язык или цифровая грамотность.

И здесь возникает вопрос, неудобный для нас.

Если Китай начнет готовить ИИ-нативов с младших классов, сколько лет будет стоить промедление системам образования, которые до сих пор обсуждают, разрешать ли ученикам пользоваться нейросетями?

Прямое предостережение российским руководителям образовательного процесса: не проспите момент, когда вы окажетесь никому не нужными в новом мире. Даже самим себе…

Добавил suare suare 23 Июля
проблема (2)
Комментарии участников:
suare
+1
suare, 23 Июля , url

ИИ-грамотность

Что такое грамотность и как её формировать

В данном случае «грамотность» употребляется в расширительном смысле, от чего теряет смысл.

В мире искусственного интеллекта это всего лишь компетенция или навык взаимодействия с ИИ или АI, в котором «межчеловеческий» компонент сменяется человеко-машинным (1. Ч-Ч; 2. Ч-М-Ч; 3. М-Ч-М; 4. М-М, где Ч — Человек, а М — Машина), т.е. ИИмотность или AIмотность.

 

Это известно и компьютерщикам, и транспортникам, и энергетикам, и водопроводчикам, и ассенизаторам. В этом смысле ИИ (AI] — это просто машина, но только «рассуждающая» без участия человека.

suare
+1
suare, 23 Июля , url

В этом смысле ИИ (AI] — это просто машина, но только «рассуждающая» без участия человека.

 Уильям Росс Эшби — тот учёный, который ввёл термин «чёрный ящик» в научный оборот и подробно разработал эту концепцию. Я коротко объясню, в чём суть. cyberleninka.ru econlib.ru.

Эшби использовал этот образ ещё в 1940-х годах, а в 1956 году опубликовал книгу «Введение в кибернетику», где посвятил «чёрным ящикам» целую главу. Под «чёрным ящиком» он понимал представление о системе, внутреннее устройство которой неизвестно, но при этом исследователь может наблюдать, как система реагирует на разные внешние воздействия — то есть видеть её входы и выходы. cyberleninka.ru en.wikipedia.org econlib.ru
 
Проще говоря: вы не знаете, что происходит внутри, но можете экспериментировать — подавать разные сигналы на «вход» и фиксировать, какой «выход» за этим следует. Анализируя множество таких пар «вход-выход», учёный выявляет закономерности и строит модель, которая позволяет прогнозировать поведение системы в новых ситуациях, даже не разбираясь в её внутренней механике. cyberleninka.ru en.wikipedia.org
 
Эшби даже приводил наглядный пример: представьте запечатанное устройство инопланетного происхождения. Вы можете щёлкать переключателями и нажимать кнопки, наблюдая за звуками, температурой или положением циферблатов, но не знаете, какие физические или химические процессы за этим стоят. Он даже замечал, что даже простой велосипед в каком-то смысле можно рассматривать как «чёрный ящик»: мы видим механические силы, но не межатомные связи, которые удерживают конструкцию вместе. en.wikipedia.org
 
Важный практический вывод, к которому приходил Эшби: для многих задач не нужно знать, как именно система преобразует входы в выходы. Достаточно понимать, что она делает, — и этого часто бывает достаточно. econlib.ru
 
Позже концепция вышла далеко за рамки кибернетики. В эпоху искусственного интеллекта «чёрный ящик» стал метафорой для сложных алгоритмов и нейросетей, внутренняя логика которых остаётся непрозрачной даже для их создателей. Так идея Эшби получила новое, очень актуальное звучание. dtf.ruvc.rueconlib.ru
Оценить ответ
9 источников
  • cyberleninka.ru
  • nii-truda.ru
  • en.wikipedia.org
  • studfile.net
  • econlib.ru
  • dtf.ru
  • dramtezi.ru
  • vc.ru
  • Какие ограничения есть у концепции «чёрный ящик»?
  • Как концепция «чёрный ящик» применяется в кибернетике?
  • Какие ещё примеры «чёрных ящиков» существуют?


Войдите или станьте участником, чтобы комментировать