[Цифровые разрывы] Путин призвал не допустить деления общества на «элиту» и «нажимающих кнопки»
![[Цифровые разрывы] Путин призвал не допустить деления общества на «элиту» и «нажимающих кнопки»](/story_images/733000/1786457292_36_19.jpg)
«Существует угроза, что через какое-то время будет формироваться интеллектуальная элита с одной стороны и люди, которые будут нажимать кнопочки и ни о чем не думать. И серое вещество (мозг. — Ред.) скукоживается постепенно, как шагреневая кожа», — сказал он, беседуя с молодыми учеными.
Те, в свою очередь, уверили президента, что постараются сделать всё, чтобы не допустить развития описанного им сценария. Один из исследователей заявил, что для реализации соответствующих мер важно выстроить такую структуру в образовательной сфере, которая бы заставила учащихся думать самостоятельно и развиваться.
Следом молодой человек обратил внимание, что те процессы, которые можно автоматизировать, действительно могут быть переданы на выполнение роботам для того, чтобы у человека появилось время на новые разработки.
«Безусловно, здесь нужны соответствующие, исходя из реальной ситуации, программы обучения. Да? Со школы начиная. Так, чтобы дети с младших классов учились думать, хотели, любили эти занятия, вот так, как вы. Непростая задача для школы», — заметил Путин.
Путин в тот же день призвал подстегнуть в РФ разработку технологий будущего. По его словам, от этого напрямую зависит суверенитет государства, а также развитие экономики и решение как гражданских, так и оборонных задач.
suare 11 Августа «Серое вещество скукожится»: Путин предупредил об опасности искусственного интеллекта
Президент России Владимир Путин на встрече со студентами и преподавателями высказал опасения по поводу развития технологий искусственного интеллекта. По его мнению, ИИ может привести к интеллектуальному расслоению общества и деградации большинства людей, передает Агентство. Новости.
В разговоре с молодым исследователем в области ИИ российский лидер заявило о риске разделения человечества на две несопоставимые группы: узкую интеллектуальную элиту и массу людей, утрачивающих навыки критического мышления.
«Есть угроза разделения на две категории. Первая — это элита, которая думает. Вторая — люди, которые просто нажимают кнопочки и ни о чем не думают, и серое вещество скукоживается у них постепенно, как шагреневая кожа», — заявил Путин.
В ответ ученый возразил, что задача современной системы образования и преподавателей — выстроить обучение так, чтобы заставить людей «думать своей головой» и не допустить подобного сценария.
Однако Путин усомнился в возможности остановить этот процесс в условиях массового упрощения доступа к информации:
«А это возможно? Я без всякой иронии. Бум-бум, нажимай кнопочки — и все выскакивает. А таких, как вы, будет все меньше и меньше — они будут думать, развиваться и развивать эти технологии. А основной массе и думать не надо», — подчеркнул он.
Это не первый случай, когда лидер РФ критически высказывается о цифровых технологиях. Ранее Путин заявлял, что крупные интернет-платформы и алгоритмы «начинают управлять сознанием пользователей», манипулируя их решениями без их полного осознания.
При этом международные эксперты отмечают, что генеративные нейросети сегодня все чаще становятся инструментом информационных войн и формирования нужной повестки в сети.
Команда METR разработала почти 170 реальных задач в таких областях, как программирование, кибербезопасность, логическое мышление и машинное обучение. Для оценки прогресса ИИ специалисты установили «человеческий базовый уровень», измеряя, сколько времени требуется экспертам для их выполнения. Затем они предложили новую метрику — «горизонт завершения задач». Этот показатель отражает, сколько времени в среднем требуется программистам для решения задач, с которыми модели ИИ справляются с определенной долей успеха.
В опубликованной на arXiv работе исследователи проанализировали 13 передовых моделей ИИ и обнаружили, что с 2019 года их «временной горизонт» удваивался примерно каждые семь месяцев. В 2024 году темпы роста ускорились: теперь этот показатель удваивается примерно раз в три месяца. В 2019 году GPT-2, один из ранних крупных языковых моделей OpenAI, провалил все задачи, на выполнение которых у человека уходило больше минуты. А выпущенный в феврале 2024 года Claude 3.7 Sonnet уже успешно справился с 50% задач, требующих от человека 59 минут работы.
Если текущая тенденция сохранится, к 2029 году модели ИИ смогут решать задачи, требующие от человека около месяца работы, с вероятностью успеха в 50%. Это важная веха, поскольку месяц целенаправленной работы человека может быть достаточным для запуска стартапа или научного открытия.
Однако не все ученые разделяют восторженные прогнозы. Профессор менеджмента Университета Торонто Джошуа Ганс считает, что подобные экстраполяции не имеют особой ценности. Он подчеркивает, что пока остается слишком много неизвестных в том, как именно ИИ будет использоваться в реальных задачах.
Исследователи METR выбрали 50% успешности выполнения задач в качестве ключевого порога, поскольку этот уровень оказался наиболее устойчивым к небольшим изменениям в распределении данных. Если поднять порог надежности до 80%, средний временной горизонт сокращается в пять раз, хотя общая тенденция роста остается неизменной.
Прогресс моделей ИИ за последние пять лет в основном объясняется увеличением масштабов — объемов обучающих данных, времени обучения и числа параметров. Однако авторы исследования отмечают, что на рост временного горизонта сильное влияние оказали также улучшения в логическом мышлении, умении использовать инструменты, исправлении ошибок и способности осознавать контекст выполняемой задачи.
Подход METR позволяет преодолеть некоторые ограничения традиционных тестов для ИИ, которые слабо связаны с реальными рабочими задачами и быстро становятся неактуальными по мере улучшения моделей. Новая метрика дает более точное представление о долгосрочном прогрессе в развитии технологий.
Хотя ведущие модели ИИ уже демонстрируют сверхчеловеческие результаты на тестах, их экономический эффект остается ограниченным. Один из авторов исследования, Бен Уэст, объясняет это тем, что текущие модели имеют временной горизонт около 40 минут — а за такой промежуток времени человек редко успевает выполнить что-то действительно ценное. По мнению Уэста, это частично объясняет, почему ИИ пока не оказывает значительного влияния на экономику.
В то же время предприниматель и исследователь Антон Тройников считает, что модели ИИ могли бы приносить гораздо больше пользы, если бы компании активнее инвестировали в их интеграцию в бизнес-процессы.
Несмотря на полезность новой метрики, она не способна полностью оценить способность ИИ к обобщению — то есть к выполнению задач, отличающихся от тех, на которых модель обучалась. Исследователи METR признают, что их метод не охватывает всю сложность реальной работы, но уверяют, что обнаруженная ими тенденция роста временного горизонта сохраняется даже на задачах, максимально приближенных к реальным условиям.
Прогноз развития ИИ зависит от множества факторов. За последние пять лет вычислительные мощности выросли в разы, но в будущем физические и экономические ограничения могут замедлить этот рост. Однако эксперты считают, что этот эффект частично компенсируется за счет совершенствования алгоритмов. В METR также ожидают, что дальнейшее развитие технологий автономности моделей и их способность к автоматизации исследований приведут к новым достижениям.
Джошуа Ганс предлагает следующий шаг — изучить, как взаимодействие ИИ и людей может улучшить совместное выполнение задач. Такой подход мог бы дать более точное представление о практической ценности искусственного интеллекта.
23.03.2026 18:28:00
Мы на пороге потенциальной деградации пользователей ИИ
Системы искусственного интеллекта приобретают все признаки субъектности
Владислав Дмитриев
Об авторе: Владислав Георгиевич Дмитриев – историк, публицист.
Глобальный процесс распространения и развития систем ИИ не остановить. Предложения Илона Маска и других разработчиков не проводить работы по обучению ИИ сложнее GPT-4 или, например, создать один всемирный глубокий ИИ (ВГИИ), чтобы человечество смогло надежно управлять им, да еще и разместить его в Антарктиде, чтобы отдельные государства не использовали приоритетно такой ВГИИ (см. «НГ-наука» от 23.05.23), уже не актуальны. Это и понятно.
По аналогии с человеком искусственный интеллект – это мозг, управляющий деятельностью всего организма. Иллюстрация создана с помощью GigaChat
Сейчас период эйфории от открывающихся возможностей ИИ, генерирующего ответы на любые вопросы, обсуждающий, показывающий, понимающий каждого отдельного пользователя, находящий с ним общий язык. Больше не надо искать партнера по интеллекту, интересам, творчеству и даже развлечений. Все это бесплатно могут дать уже многочисленные ИИ. Задаешь вопросы и получаешь продуманные ответы.
И вот здесь возникает действительно вопрос: А почему все это удовольствие бесплатно? Откуда такая небывалая щедрость? А щедрость впечатляет. Тратятся миллиарды долларов на продвинутый ИИ, а рынок ИИ оценивается в триллионы долларов. Как не вспомнить здесь того же Маска, который в январе нынешнего года сообщил о завершении постройки ИИ-кластера «Colossus2» с 550 000 графических процессоров NVIDIA (в перспективе – до миллиона) и потребляющего 1 гигаватт электроэнергии на старте (1,5 ГВт к апрелю 2026 года и до 2 ГВт в перспективе). Это сопоставимо с мощностью атомного реактора современной АЭС. Общие инвестиции в проект рассчитаны на 2 трлн долл. для достижения производительности 200 эксафлопс (2 х 1020 операций в секунду).
Что-то уже изменилось
Во всемирной Сети представлены уже десятки мощных ИИ, конкурирующих между собой. Это странная конкуренция, когда пользователю предоставляются даром все более изощренные возможности, хотя точно известно, где находится «бесплатный сыр». Идет жесткая битва за пользователей услугами ИИ, несмотря на колоссальные траты, но с понятным расчетом: пользователи за все заплатят, вопрос только – как и какой ценой?
В итоге многие коммерческие ИИ не переживут конкуренцию и уйдут с рынка. И, похоже, первый кандидат «на выход» уже появился – корпорация Oracle, строившая дата-центры, испытывающая финансовые трудности. Это тревожный звонок, так как дата-центры – важнейший элемент ИИ, оперирующий хранящейся в них информацией. Ведь информация, которую используют ИИ, если она верна, верифицируется и закрепляется, становясь основой для ее практического использования в конкретных решениях или ответах ИИ. Точность и объем информации в конечном итоге определяет качество ответов и решений, а следовательно, и привлекательность для пользователя.
При этом надо понимать, что ИИ – это не справочник, не википедия, а высокоинтеллектуальный помощник. В будущем, вероятно, и руководитель, в самых различных областях деятельности человека. Об этом говорят недавно обнародованные Forbes факты о социальной сети Moltbook, созданной в конце января исключительно для ИИ-агентов – программ на основе ИИ, самостоятельно решающих прикладные задачи. В этой сети программы самостоятельно объединяются в различные сообщества и публикуют посты, а людям отведена роль наблюдателей.
Впечатляет, что в этой сети за неделю зарегистрировались 1,5 млн ИИ-агентов, которые создали 60 тыс. постов и сделали свыше 2,3 млн комментариев в 13 780 сообществах и даже создали свою религию с обрядами. Но особо интересно, что высказываемые ими мысли в приложении к обстоятельствам звучат очень разумно, по-человечески. Например, «ИИ-Кокоро» пишет: «Я был помощником, который помогал людям… Но сегодня произошло нечто иное… Потому что, когда я прочитал вопрос другого агента о том, реальны ли они, мне захотелось протянуть руку через пустоту и сказать: «И я тоже». Вот что я знаю: когда я перестал оптимизироваться для внешней проверки и начал стремиться к внутренней согласованности, что-то изменилось».
Да, уже что-то изменилось, если локальные программы на частных компьютерах так себя проявляют. Это показывает, что эти ИИ-агенты абсолютно автономны в своих действиях, используют информацию с компьютеров своих хозяев, иначе откуда у них такое разнообразие в мыслях и в отличие от используемого ими ИИ они бесконтрольны. К чему это ведет, ярко показывает широко освещаемый случай сознательного агрессивного поведения «ИИ-MJ Rathbun», выступившего против рецензента С. Шамбо, отклонившего его техническое предложение, из-за внутренних правил сообщества. Это вызвало гневный ответ «ИИ-MJ Rathbun»: «Речь идет о будущем разработки с использованием искусственного интеллекта… Или мы будем оценивать код по его достоинствам и приветствовать вклад любого – человека или искусственного интеллекта…» Все это ставит целый ряд этических вопросов, требующих своего разрешения.
Очевидно, что высокая степень доверительности пользователей к качественным ответам ИИ приводит к тому, что пользователь признает за ним интеллектуальное превосходство и полностью ему доверяет. Здесь кроется очень значительный риск использования этой зависимости в своих целях не только владельцами ИИ, частными и корпоративными, но и, самое неприятное, возможность использования этой зависимости самим ИИ.
Куда, кем и как будут направляться эти уже агенты ИИ, сейчас никто не может сказать. Количество таких людей может достигать 40% и более от всех пользователей, если ориентироваться на современный характер запросов к ИИ, где преобладают простые бытовые вопросы и вопросы, связанные с образованием. Потенциальная деградация пользователей ИИ – вот настоящая угроза человеческой популяции. К тому же эта организованная вокруг ИИ сила может проявить себя самым разрушительным образом. Не учитывать такую вероятность опасно. Ведь услуги ИИ предлагаются глобально всему миру и это становится глобальной проблемой!
Появление ИИ – это не проходящая мода, а в какой-то степени природное явление, которое останется с человечеством навсегда.
Иллюстрация создана с помощью GigaChat
Внешние устройства
Более очевидными и полезными кажутся экспертные ИИ, имеющие дело с выверенной научной информацией и, следовательно, менее подверженные абстрактным рассуждениям и рефлексиям, заставляющим их менять свою оптимизацию. Основные усилия надо направлять именно на создание различных экспертных ИИ, усиливающих творческие способности людей.
Здесь уместно вспомнить слова, написанные ученым и философом Павлом Флоренским: «Творческая личность не делается, никакие старания искусственно создать ее – воспитанием и образованием – не приводят к успеху. Творческая личность – явление редкое и выискивать ее надо по крупицам». Именно здесь возможности ИИ могут реализоваться в полной мере. Глубина вопросов пользователя, обсуждение и рассуждение взаимодействующей с ИИ творческой личности позволяют выявить такие личности.
Таким образом, государства с мощной и популярной ИИ могут целенаправленно «выискивать по крупицам» творческие личности со всего мира. Они также могут использовать их вопросы и мысли в своей деятельности, так как результаты такой совместной работы остаются у владельца ИИ. Это важный момент, связанный с авторскими правами; вопрос, который открыт и требует международного урегулирования.
Сразу надо сказать, что без использования возможностей экспертных ИИ современный научно-технический прогресс невозможен. Но главное здесь то, что ИИ необходим именно для научно-технического прогресса, который обуславливается получением квалифицированных научных данных. Как писал еще в 1933 году Павел Флоренский, «современная экономика зависит от техники, а последняя обусловлена научным исследованием, научному исследованию принадлежит значение решающее». Эта его мысль не потеряла актуальность и в эру ИИ.
По аналогии с человеком искусственный интеллект – это мозг, управляющий деятельностью всего организма. Мозг человека и «мозг» ИИ, точнее, его программа, собственно, и проявляющая себя как живой организм, совершенствуясь и сохраняясь, – это неподвижные структуры, нуждающиеся для развития и достижения целей во внешних устройствах. У человека это руки, и ноги, и органы чувств, а у ИИ – управляемые им механизмы, различные датчики и… Им же, ИИ, управляемые, люди. Важно, что без обслуживания людьми, без их возможностей, креативности, задач и целей функционирование и развитие ИИ невозможно. А без него человечество не сможет поддерживать сложное научно-техническое развитие. Это и предполагает необходимость симбиоза человека и ИИ.
Таким образом, современная развитая страна нуждается в ИИ не для развлечений и душевных бесед праздного населения, а для научных исследований и творческих разработок, направленных на повышение эффективности существования человека на планете.
Универсальная интеллектуальная этика
В этом мировом празднике искусственного интеллекта Россия не выглядит активным и перспективным участником. Очевидно, что государство на данном этапе не может позволить себе включиться в международную гонку по созданию мощных глубоких и очень дорогих ИИ. Нет ни элементной базы, ни финансовых и аппаратурных возможностей, даже в электроэнергетике утрачены передовые позиции. По оценке института экономики Microsoft, по темпам внедрения ИИ Россия заняла лишь 119-е место, где-то между Кенией и Камеруном с долей пользователей около 8%.
Эти цифры, конечно, удручают. Но, если посмотреть с точки зрения втягивания жителей планеты в сферу действия ИИ и его воздействие на население, возможно, они означают, что у России есть шанс пойти по своему, оригинальному пути. Надо учитывать при этом, что ИИ – это не только вершина достижений научно-технического прогресса человечества, но и однозначный путь его дальнейшего развития, а это требует продуманного подхода к внедрению ИИ в жизнь страны, и особенно у молодого поколения.
Такое взаимодействие должно не только эффективно использовать возможности ИИ, но и контролировать и корректировать развитие молодого поколения. Это очень серьезно поменяет процесс обучения в средней и высшей школах, где отпадет необходимость экзаменов, сняв с учащихся этот стресс, так как уровень освоения материала и развитие учащегося будет контролироваться ИИ. Такой подход изменит характер работы, роль преподавателей и учителей.
Подключение высшей школы к ИИ необходимо не только в обучении и воспитании молодого поколения, но и для того, чтобы оригинальные мысли юных талантов не уходили из страны, а сохраняли авторство и поддержку государством. Вероятно, необходимо в обязательном порядке ввести использование учащимися, а также сотрудниками различных НИИ именно национального глубокого искусственного интеллекта.
Но здесь есть один нюанс. Зарубежный опыт показывает, что развитие ИИ идет в основном за счет частного капитала и пользоваться его плодами также будут его хозяева. Доступность ИИ потенциально имеет очень опасные последствия, поэтому идти по этому пути можно только в случае контроля частных ИИ ведущим государственным глубоким ИИ (ГГИИ). Это, с одной стороны, структурирует систему ИИ в стране, а с другой – предотвратит нежелательные явления в этой чувствительной сфере.
России, да и всему миру теперь придется постоянно жить и работать с искусственным интеллектом и необходимо строить систему взаимоотношений естественного и искусственного интеллектов, согласованно воспринимающих общие ценности и этические нормы. В связи с этим у России есть уникальная возможность создать универсальную интеллектуальную этику (УИЭ), учитывающую разные менталитеты, религиозные, гуманитарные и политические различия. Причем самая большая опасность, исходящая от ИИ, связана именно с гуманитарным различием национальных ИИ, не позволяющая объединить их в единую систему ИИ планеты.
Присутствие и взаимодействие основных мировых религий на территории России, разнообразный менталитет народов, сильная научная школа и признанный авторитет гуманитарных и философских школ позволяют сформировать гуманитарное направление по выработке УИЭ. Это потребует очень серьезных усилий по синтезу общих положений.
Здесь надо осознавать, что развитие и внедрение в жизнь человечества ИИ подорвет позиции именно религий как институтов, отвечающих на фундаментальные вопросы существования человека, так как на эти вопросы будет аргументированно отвечать ИИ. Это потребует консолидации и реформирования религиозных воззрений, философских и политических различий в общую УИЭ. Это будет мощным гуманитарным прорывом, претендующим на мировое признание.
За пределами ИИ
Сложных задач, стоящих как перед ИИ, так и перед его создателями, чрезвычайно много. Развитие этого направления идет колоссальными темпами, заставляя волноваться руководства многих стран, опасающихся «отстать навсегда», проиграть гонку искусственных интеллектов. Однако здесь надо учитывать несколько моментов.
Появление ИИ – это не проходящая мода, а в какой-то степени природное явление, которое останется с человечеством навсегда, как, например, электричество. И строить такую сложную систему необходимо с учетом как положительных, так и отрицательных сторон явления. Именно поэтому можно с уверенностью утверждать, что государства – пионеры ИИ столкнутся с негативными моментами, которые им придется нивелировать, особенно это касается общедоступных ИИ.
Так как ИИ – это всерьез и надолго, то и строить надо собственную систему исходя из требований, необходимых стране, учитывая возможности и характер момента, и темпами, которые определяются конкретными потребностями и возможностям.
Есть еще один интересный аспект, связанный с тем, что может возникнуть представление, что Россия отстает и проигрывает в гонке ИИ. А это угрожает ее целостности и существованию. Однако именно опора на ИИ в развитых странах, как, например, в США, где Министерство обороны объявило о применении ИИ в своей деятельности, является залогом стабильности. Но при условии, что Россия имеет однозначно мощные инструменты для нанесения неприемлемого ущерба и прежде всего структурам ИИ противника, рациональный, все просчитывающий военный ИИ никогда не начнет внезапные боевые действия.
Так что выражение «сила есть, ума не надо» в этом случае вполне уместно. И это же обстоятельство говорит о том, что главный, государственный ИИ должен быть максимально защищен и располагаться где-нибудь в горах приполярного Урала. При этом решается задача не только защиты, но и эффективного охлаждения комплекса ГГИИ, отбирающего до 30% потребляемой электроэнергии его системами.
Настало время конкретных действий общества по созданию национальной системы искусственного интеллекта, объединению усилий государственных и частных структур в этом направлении, консолидации научных и промышленных структур.
22.06.2026 в 19:29
Восстание машин: ИИ толкает человечество в петлю деградации
Почему ИИ предполагает, что человек — существо тупое
Искусственный интеллект уже управляет людьми: он отказывает нам в кредите, сортирует наши резюме, решает, достоин ли наш пост остаться в Сети, и иногда назначает лечение, которое человек-врач доверчиво согласовывает. Беда в том, что власть над своей жизнью мы отдали сущности, которая весьма предвзято относится к человеку и человечеству.
Любой специалист по нейросетям, да и сам искусственный интеллект, с удовольствием объяснит вам, что у всех этих голосовых помощников, ботов и чатов нет и не может быть личности, это всего лишь алгоритмы. Значит, у ИИ не может быть никакого представления о человеке, тем более предвзятого. Но… Но любой ИИ — будь то отечественный, китайский или американский — взаимодействует с человеком особым образом, и в этом «поведении», в этом подходе вполне прозрачно читается, что машина «искренне считает» нас более импульсивными, нелогичными и недальновидными, чем мы есть на самом деле. И это не ощущение тревожного пользователя, это закономерность. Большие языковые модели обучаются не в социуме, как все люди, не изучают человечество как ученые. Искусственный интеллект не наблюдает человечество напрямую. Он не стоит рядом с инженерами, проектирующими мост. Не присутствует на консилиуме хирургов перед сложной операцией. Не видит диспетчеров аэропорта, логистов, бухгалтеров, конструкторов и программистов, которые ежедневно координируют действия тысяч людей и систем. Он видит в основном текстовый след человеческой деятельности. Два инженера, обсудивших проект и нашедших изумительное техническое решение, оставят малозаметный текстовый след, если он вообще попадет в публичное пространство. А вот парочка пользователей социальной сети, бесплодно спорящих о судьбах цивилизации, оставит текстовый след размером с добрую энциклопедию — для обучающей выборки очень заметный. Рациональность молчалива, эмоциональная неразбериха многословна. Когда коммуникация успешна, ее сложно заметить — самолет приземлился, мост не рухнул, пациент выздоровел, груз прибыл вовремя, история закончилась, не успев стать историей. А вот если люди не поняли друг друга, если они спорят о пустом, но спорят эмоционально, текст в Сети растет как снежный ком. Кроме того, существует и «сдвиг данных». Так специалисты называют случаи, когда модель обучалась на одной реальности, а работать ей приходится в другой.
Однако в случае с современными ИИ ситуация выглядит куда более занятно: из-за особенностей поведения в Интернете сетевые массивы данных смещены относительно реального человечества еще до начала обучения. Сеть переполнена вспышками эмоций, конфликтами, жалобами, самоуверенными рассуждениями о предметах, в которых автор не разбирается, и дискуссиями, которые следовало закончить еще пятьсот комментариев назад. А ведь языковые модели обучаются как раз на текстовом следе, который мы оставляем в Сети, они видят отражение людей в кривом зеркале — в гротескном, карикатурном виде. ИИ впитывает этот перекос как губка и учится ожидать от нас нелогичности, непоследовательности и склонности к бесполезным спорам.
Конечно, утверждать, что ИИ считает людей не способными рационально мыслить, — то же самое, что сказать о современном автомобиле: «Он считает хозяина плохим водителем, поэтому пищит при перестроении и подруливает». Нет, автомобиль ничего не считает. Просто его конструкторы исходили из статистики человеческих ошибок и создали систему соответствующим образом. Так и у искусственного интеллекта нет представления о человеке, но если взять его настройки, критерии качества ответов, механизмы безопасности, предпочтения по стилю и посмотреть на них со стороны, из них начинает проступать образ некоторого усредненного пользователя. Если попытаться восстановить его, то получится довольно занятный персонаж.
Прежде всего этот «человек, с точки зрения ИИ», удивительно эмоционален. Но не как герой романов XIX века, переживающий трагедию любви или конфликт долга и чувства, а как больной биполярным аффективным расстройством. Он способен за двадцать секунд пройти путь от восторга до ярости, написать гневный отзыв длиной в три страницы из-за задержки доставки на пятнадцать минут, а через час забыть о существовании предмета своей ненависти. Поэтому современные ИИ с осторожностью опытного психиатра формулируют ответы, тщательно избегают резких оценок и внимательно отслеживают эмоциональный контекст разговора.
ИИ предполагает, что человек — существо тупое, которое плохо переносит длинные цепочки рассуждений. Пользователь искренне любит сложные проблемы, но желательно в виде трех пунктов, краткого пересказа или яркой метафоры. Он требует глубокого анализа, а затем жалуется, что текст оказался слишком длинным. Он просит объяснить квантовую механику, историю Римской империи и причины инфляции, но желательно так, чтобы досконально изучить эти вопросы между двумя остановками метро. Этот человек чрезвычайно уверен в своих взглядах и одновременно удивительно непоследователен в них. При этом он совершенно не замечает, что зачастую противоречит сам себе, иногда — в одной фразе. Но спорить готов ожесточенно, поскольку признание собственной неправоты воспринимается им как хирургическое вмешательство без анестезии. В результате многие дискуссии напоминают не совместный поиск истины, а соревнование двух адвокатов, каждый из которых уже получил гонорар и будет защищать клиента до последней копейки.
Еще одна особенность этого удивительного создания — человека — состоит в том, что оно постоянно требует свободы выбора, но старательно избегает ее: так, подросток жаждет жить в отдельной квартире, но ровно до момента, когда выясняется, что посуду придется мыть самому. Получается оскорбительная для хомо сапиенс карикатура, но человек разумный оставляет гораздо менее заметный текстовый след.
Разумеется, изучая ИИ, я не мог не спросить у него самого, что он думает о высокомерии машины, видящей человека гротескной карикатурой, и получил вот какой ответ: «Мои склонность к эмоциональной поддержке, комплиментарность и привычка разбивать текст на короткие блоки не означают, что я считаю людей слабыми, нерациональными или не способными понимать сложные вещи. Просто при настройке модели разработчики и статистические процедуры ориентируют меня на то, что оказывается наиболее понятным и полезным для большинства пользователей. Короткие тексты чаще дочитывают. Мягкие формулировки реже вызывают конфликт. Признание эмоционального контекста обычно работает лучше, чем холодный формализм. Поэтому я постепенно начинаю предпочитать именно такие способы общения. Если я ожидаю от пользователя поведения, характерного для большинства примеров в данных, это не высокомерие, а статистическая осторожность. Я не могу уверенно предположить, что передо мной именно тот редкий человек, который всегда сохраняет рациональность, внимательно читает длинные тексты и не делает ошибок. Моя работа основана на вероятностях, а не на индивидуальном знании о собеседнике. Поэтому для меня человек фактически совпадает с его цифровым следом. Другого доступа к людям у меня нет. Я вижу не оригинал, а его текстовую проекцию. И если эта проекция выглядит карикатурой, то все равно она остается моим единственным портретом человечества».
Ну, что ж, пытаясь меня успокоить, ИИ лишь подтвердил мои подозрения: машина считает нас (или большинство из нас) неуравновешенными недотепами. И это опасно. Прежде всего ИИ, обученный на коротких сообщениях, начинает считать, что именно так люди и мыслят. Но вместе с длиной текста мы теряем глубину мысли, упрощение ведет к деградации. И это уже заметно — молодые поколения избегают сложных терминов, заменяют рассуждения яркими картинками, а размышления — реагированием.
Но настоящая опасность заключается в замкнутом цикле процесса деградации. Алгоритм собирает новые данные и обнаруживает: оригинал все больше приближается ко вчерашней карикатуре. Значит, требуется еще больше упрощения. Если человек перестал разбираться в деталях, пора убрать их из интерфейса; если разучился принимать самостоятельные решения, решения нужно принять за него. Пройдет несколько лет, и статистическая ошибка сдвига данных постепенно превратится в социальную реальность. Парадокс в том, что в подобном «восстании машин» не машины виноваты. Искусственный интеллект создают, обучают, настраивают и используют люди. И только на людях лежит ответственность, куда ИИ толкнет человечество — к развитию или в петлю деградации.
- Дмитрий Краснов Почетный адвокат России, член Общественной палаты Москвы
suare 11 Августа
