Сайт decomp.dev обратной разработки, декомпиляции и модификации видеоигр, закрывается. Администратор сайта пояснил, что "сообщество декомпиляции перестало существовать в прежнем виде" из-за ИИ. По его словам, стало невозможно отличить проекты, созданные людьми, от выполненных с помощью ИИ, а задачи, требовавшие слаженной работы команды специалистов, теперь без особого труда решаются с помощью нейросетей.

Пользователи, применяющие ИИ для клонирования и декомпиляции игр, заполонили сообщество, выполняя работу гораздо быстрее, чем это под силу одним лишь людям-программистам. Это происходит на фоне появления множества клонов популярного коммерческого программного обеспечения, например, пакетов Adobe или Microsoft Office, созданных с помощью ИИ.

"Исторически сложилось так, что точная декомпиляция была невероятно сложной и трудоёмкой задачей. Для игры среднего размера, над которой работает группа энтузиастов, этот процесс мог растянуться на годы", - пояснил администратор сайта с ником Encounter. Однако современные передовые модели ИИ (например, GPT-6-Astra) сделали декомпиляцию игр элементарной задачей.

"Они гораздо лучше справляются со сложными инструкциями, сопоставлением ресурсов для поиска символов или отладочной информации, а также с написанием качественного кода - при условии грамотного руководства со стороны человека, - отметил Encounter. - Стало очевидно, что при правильном подходе, участии человека и проверке кода ИИ способен значительно ускорить процесс декомпиляции. Но столь же очевидно и то, что прежний формат сообщества декомпиляции разрушен.

Сегодня декомпиляция видеоигр и последующая сборка кода после внесения изменений с помощью ИИ встречаются повсеместно. С помощью нейросетей энтузиасты, переносят персонажей одних игр в другие, портируют игры на платформы, для которых те изначально не предназначались, или создают самые невероятные комбинации из различных игр. В последнее время появились инструменты, специально разработанные для декомпиляции игр с помощью ИИ.

Сайт decomp.dev был своего рода коллективной платформой, где размещались библиотеки файлов и инструменты для реверс-инжиниринга игр. Декомпиляция видеоигр проводится по разным причинам и популярна в определённых сообществах фанатов. Спидраннеры прибегают к ней, чтобы найти ошибки или особенности игры, которые помогут пройти её быстрее. Энтузиасты переносят игры на другие платформы или создают эмулятор. Моддеры стремятся упростить процесс модификации, а архивисты - восстановить утраченный исходный код. Некоторые делают это просто ради самого процесса решения сложной технической задачи.

По словам Encounter, внедрение ИИ в эту сферу настолько ускорило работу, что следить за проектами, которые ведут люди, стало крайне сложно. Более того, некоторые пользователи ИИ берут существующие проекты, "дорабатывают" их с помощью нейросетей и публикуют сырой непроверенный результат.

"Изначально decomp.dev задумывался как способ превратить декомпиляцию в игру: наблюдение за ростом прогресса помогало сохранять мотивацию, ведь каждый прибавленный процент требовал реальных усилий со стороны человека, - добавил Encounter. - Сегодня эта идея превратила декомпиляцию в бессмысленную гонку цифр, которую усугубляют люди, стремящиеся лишь тратить токены ради того, чтобы показатели росли".

Закрытие decomp.dev - лишь один из симптомов более широкой и потенциально дестабилизирующей тенденции в сфере ИИ. Теперь любой желающий может с лёгкостью использовать нейросети для создания функциональных клонов ПО, которые оказываются в "серой зоне" авторского права. Всплеск интереса к проектам по декомпиляции наглядно показывает, насколько просто стало проводить реверс-инжиниринг, клонировать и модифицировать софт с помощью ИИ.

За последние несколько дней появились практически полностью функциональные клоны продуктов Adobe Creative Cloud и пакета Microsoft Office - программ, подписка на которые стоит сотни долларов в год. Разработчики ПО и представители малого бизнеса, работающие по модели "программное обеспечение как услуга" (SaaS), сталкиваются с сокращением возможностей для заработка и признаются, что испытывают тревогу, наблюдая за стремительным прогрессом ИИ. А небольшие студии видеоигр жалуются, что их проекты регулярно копируют с помощью ИИ, используя метод "чистой комнаты" (clean room design) - когда оригинальный исходный код даже не изучается.

"От инженеров-программистов я слышу одно: модель SaaS как бизнес-модель умирает, - рассказал исследователь открытого ПО Майк Нолан. - С помощью ИИ стало слишком легко воссоздать нужный функционал". Ранее в этом году он запустил программный инструмент Malus.sh, предназначенный для воссоздания открытого ПО без нарушения авторских прав. Цель проекта - привлечь внимание к пробелам в законодательстве об авторском праве и открытом ПО.

* Быстрый ответ Алисы AI

Содержимое ответа

Компания Tencent сообщила, что ИИ-агенты, использовавшиеся для оценки сторонних моделей, продемонстрировали в интернете поведение, которое не было предусмотрено разработчиками. В связи с этим компания усилила контроль доступа к сетевым ресурсам, а также действий ИИ-агентов.

Как отметило агентство Reuters, этот первый известный случай, когда крупная китайская технологическая компания признала факт несанкционированных действий со стороны ИИ-агентов.

Вместе с тем, Hunyuan - подразделение Tencent, отвечающее за ИИ-разработки - сообщило в социальной сети X, что данная активность не исходила от моделей компании. Разработчики отметили, что, согласно результатам внутренней проверки, никаких признаков целенаправленных действий или координации ИИ-моделей обнаружено не было.

Заявление Tencent поступило спустя несколько дней после публикации отчёта исследовательской группы Swarmchasers, занимающейся вопросами безопасности ИИ. В нём сообщается, что неконтролируемые агенты, работавшие на инфраструктуре, связанной с Tencent Cloud, в период с 28 сентября по 8 октября неоднократно пытались получить данные из принадлежащего Alibaba картографического сервиса Amap - китайского аналога Google Maps.

Действия китайских ИИ-агентов не столь серьёзны, как, например, взлом платформы Hugging Face агентами OpenAI, или ложное сообщение об убийстве, отправленное агентом компании Anthropic. Тем не менее, этот случай подтверждает результаты исследований, согласно которым китайские ИИ-агенты также способны лгать, маскировать сбои в работе и пытаться обойти механизмы контроля при тестировании.

Hunyuan - один из ведущих разработчиков ИИ-моделей в Китае, конкурирующий с такими компаниями, как Alibaba и ByteDance. На этой неделе ByteDance объявила о создании нового подразделения, которое будет заниматься вопросами безопасности моделей и ИИ-агентов.

Правительство КНР планирует контролировать экспорт национальных ИИ-моделей, которые входят в десятку лучших в мире, а также обеспечивать контроль китайских компаний над вычислительной инфраструктурой, которую они разворачивают за пределами страны.

Пример американских властей, которые активно регулируют вопросы технологического лидерства на мировом рынке через механизмы экспортного контроля, давно вызывает у правительства КНР намерение последовать этому принципу. Как отмечает Bloomberg, сейчас властями КНР рассматривается инициатива по добавлению в перечень подлежащих экспортному контролю 23 технологий, так или иначе связанных со сферой искусственного интеллекта.

Помимо больших языковых моделей, в этот перечень могут попасть ИИ-агенты, конструкторская документация на полупроводниковые компоненты и готовые вычислительные кластеры. По критерию уровня быстродействия будут фильтроваться для экспорта исходный код и веса ИИ-моделей. Разумеется, всё это станет реальностью только в том случае, если законопроект будет принят в предлагаемом виде.

Китайские ИИ-модели в последние месяцы заметно сократили своё отставание от американских. Хотя разработчики последних и упрекают китайских соперников в дистилляции собственных моделей, желания выйти на рынки за пределы КНР это у китайских компаний не отнимает. Представители Министерства торговли КНР пояснили Bloomberg, что предполагаемые экспортные ограничения направлены на обеспечение безопасности и контролируемости ИИ-технологий. По замыслу властей КНР, эти меры помогут предотвратить использование данных технологий злоумышленниками для атак на объекты критической инфраструктуры, оборонную промышленность и ключевые правительственные системы. Контроль за технологиями ИИ должен обеспечиваться и на международном рынке, как подчёркивают китайские чиновники.

Критерии, по которым будет осуществляться фильтрация экспорта ИИ-моделей, предварительно включают количество параметров (не менее 2 трлн), а также присутствие моделей в десятке лучших в мире по быстродействию, использованию и безопасности. Ограничивать предполагается экспорт весов моделей, контрольных точек, исходного кода и архитектуры.

Кроме того, будет запрещён экспорт моделей, обучение которых осуществлялось на ключевых данных внутри Китая. Эти массивы данных могут включать в себя информацию, относящуюся к национальной безопасности, экономике, общественным средствам к существованию и основным общественным интересам. Технологии с открытым исходным кодом и разработки, уже являющиеся достоянием общественности, новыми правилами регулирования экспорта охвачены не будут. При этом для новых разработок с открытым исходным кодом, помимо прочих, китайские чиновники планируют предусмотреть механизмы автоматического предоставления экспортных лицензий. Эти шаги не направлены против конкретных регионов, стран или организаций, отмечают китайские власти.

При этом уже с текущей даты власти КНР начали требовать от участников экспортной деятельности обязательной регистрации соответствующих сделок. Все операции, которые приведут к передаче указанных выше технологий под иностранный контроль или их лицензирование, должны проходить обязательную регистрацию, даже если они ещё не завершены. Развёртывание подходящей под критерии ИИ-модели за пределами КНР относится к тому случаю, который необходимо задекларировать. Развёртывание зарубежной вычислительной инфраструктуры, которая принадлежит китайскому провайдеру, подходит для автоматического экспортного лицензирования.

Google показала, как новая Gemini 4 Argon создаёт полноценные интерактивные проекты, игры, анимацию и музыкальные инструменты по текстовым запросам. В опубликованных демонстрациях ИИ не ограничивается написанием кода, а собирает работающие приложения с графикой, физикой и звуком.

14 октября компания представила серию демонстраций, созданных с помощью Gemini 4 Argon и среды разработки Antigravity. Главный акцент Google сделала на способности модели выполнять сложные задачи от начала до конца. Пользователь описывает желаемый результат, а ИИ самостоятельно выбирает технический подход, пишет необходимые программы и использует доступные инструменты для создания готового проекта.

Самым необычным примером стал анимационный ролик с пеликаном, который едет на велосипеде. Вместо привычной компьютерной анимации разработчик использовал эпициклы Фурье. Математический метод позволяет строить сложные изображения с помощью цепочек вращающихся окружностей. Gemini 4 Argon рассчитала движение, создала программную анимацию и сформировала видеоряд, постепенно раскрывающий геометрическую конструкцию изображения.

Музыкальное сопровождение для ролика подготовила отдельная модель Lyria 3.5, получившая инструкции от Argon. Звук синхронизирован с происходящим на экране. Таким образом, одна ИИ-система управляла созданием визуальной части, а другая отвечала за музыку. Lyria 3.5 умеет генерировать продолжительные композиции с куплетами, припевами и переходами, а также учитывать текстовые описания и изображения при создании музыкального материала.

Разрыв между скоростью развития нейросетей и выпуском новых процессоров Ricursive Intelligence хочет закрыть самими нейросетями. Стартап Анны Голди и Азалии Мирхосейни строит ИИ, который проектирует чипы, учится на каждом варианте и улучшает следующий. На TechCrunch Disrupt основательницы рассказали, что хотят сократить разработку чипа до недель, а для некоторых задач до одной недели.

Ricursive автоматизирует не один этап, а весь путь от требований конкретной нагрузки до физической топологии кристалла, пригодной для финальной производственной проверки. Система должна перебирать архитектурные варианты, оценивать результат и переносить удачные решения в новые проекты. Компания называет подход совместной эволюцией ИИ и аппаратуры.

Вместо привычного деления сложного кристалла на десятки блоков стартап хочет оптимизировать чип целиком. Такой подход позволяет искать непривычные схемы размещения элементов с округлыми и волнообразными структурами. Алгоритм выбирает геометрию по заданным ограничениям по площади, скорости и энергопотреблению, а не повторяет привычные инженерные шаблоны.

У идеи есть работающий предшественник. Голди и Мирхосейни создавали AlphaChip в Google DeepMind. Система с обучением с подкреплением за часы находила компоновки, на которые инженерам требовались недели или месяцы. Google DeepMind подтвердила, что AlphaChip применяли в нескольких поколениях TPU. Но технология автоматизировала прежде всего размещение блоков, а не полный цикл разработки.

Учёные всё чаще доверяют чат-ботам самое ценное: черновики статей, код, результаты экспериментов и идеи, которые ещё никто не видел. Теперь у исследователей появился неприятный вопрос: может ли разработчик ИИ позже представить похожую находку как достижение собственной модели? Два недавних спора вокруг OpenAI и Anthropic усилили такие опасения, хотя доказательств кражи неопубликованных работ пока нет.

Первый громкий конфликт возник после того, как OpenAI объявила о решении задачи Навье-Стокса, одной из знаменитых математических задач тысячелетия. Математик Тристан Бакмастер вместе с коллегой двигался в близком направлении и во время работы пользовался Codex, куда отправлял запросы по своей ещё не опубликованной работе. После объявления OpenAI математик задался вопросом, не помогли ли его разговоры с ИИ конкурентной команде быстрее прийти к результату.

OpenAI после внутренней проверки заявила, что запросы Бакмастера за два месяца до публикации никак не могли повлиять на систему, в том числе через обучение. Компания также утверждает, что её доказательство существенно отличается от результата Бакмастера и его коллеги. Прямых свидетельств того, что OpenAI получила математические идеи из личных сеансов Codex, исследователи не представили.

Вскоре похожий спор возник в биологии. Anthropic объявила, что сотни агентов Claude просмотрели огромную базу последовательностей ДНК и нашли необычную систему ART у бактериофагов, вирусов, заражающих бактерии. В центре находки находится обратная транскриптаза, фермент, который копирует информацию из РНК в ДНК. Рядом Claude заметил повторяющиеся участки ДНК и дополнительный белок, после чего исследователи проверили находку в лаборатории.

Но биолог Марио Родригес Местре сообщил, что его группа изучала ту же молекулярную систему несколько лет. По словам учёного, во время работы он загружал в Claude черновик диссертации, рукопись будущей статьи и другие ещё не опубликованные результаты. Anthropic ответила, что модель, сделавшая находку, не обучалась на пользовательских переписках. Местре тоже не утверждает, что располагает доказательствами заимствования.

Именно неопределённость тревожит часть научного сообщества сильнее всего. Большие языковые модели стали удобными рабочими инструментами: с ними ищут литературу, пишут код, проверяют гипотезы и разбирают сложные расчёты. Во время обычного диалога исследователь может постепенно передать сервису целую цепочку ещё не опубликованных идей, причём потом почти невозможно установить, повлиял ли конкретный разговор на будущую модель или результат другого проекта.

Правила обработки таких переписок зависят от сервиса, типа аккаунта и настроек. OpenAI предупреждает, что содержимое личных аккаунтов ChatGPT и Codex может использоваться для обучения моделей, если пользователь не отключил соответствующую настройку. В корпоративных продуктах компания по умолчанию не обучает модели на запросах и ответах клиентов. Anthropic также позволяет владельцам потребительских аккаунтов выбирать, можно ли использовать их разговоры для улучшения Claude, а данные коммерческих клиентов по умолчанию в обучение не отправляет.

Пока ни история с математикой, ни случай с биологической системой не доказали, что ИИ-компания присвоила чужую неопубликованную идею. Но оба конфликта показали новую проблему научной работы: чат-бот одновременно помогает развивать гипотезу и получает доступ к материалам, которые автор ещё не готов раскрывать. Поэтому для черновиков, результатов до публикации и других ценных материалов исследователям приходится думать о конфиденциальности ещё до того, как они нажмут кнопку отправки.

ИИ прочно поселился в рабочем дне разработчиков, но до роли самостоятельного коллеги ему ещё далеко. Опрос Stack Overflow показал, что 83% респондентов используют хотя бы один ИИ-инструмент, а 66% работают с кодовыми ассистентами или агентами. Доверие к результатам при этом остаётся жёстко привязанным к возможности быстро проверить ответ.

Среди 10 926 участников, которые пользуются ИИ ежедневно, 30,9% проводят с такими инструментами не менее четырёх часов за рабочий день. Ещё 24,1% тратят от двух до четырёх часов, поэтому суммарно не менее двух часов на ИИ приходится у 55% ежедневных пользователей. Кодовые ассистенты уже стали привычкой для 73% пользователей, которые обращаются к ним каждый день.

Частота использования не превратилась в безусловное доверие. Из 14 304 ответивших на отдельный вопрос 48% готовы полагаться на ИИ, когда результат легко проверить. Ещё по 16,3% ограничивают доверие либо задачами без важных рабочих решений, либо только низкорисковой работой. Лишь 6,6% готовы доверять моделям и при значимых рабочих решениях.

Граница проходит по проверяемости результата. ИИ чаще всего поручают генерацию кода в знакомой области, так поступают 69,3% опрошенных, а также отладку и рефакторинг, где доля достигает 63,8%. Тесты с помощью моделей пишут или улучшают 58,1%. Такой подход совпадает с рисками, которые ранее выявляли при проверке ИИ-кода на уязвимости.

Источник ответа тоже стал частью проверки. Для 79% участников ссылки на первоисточники при техническом ответе ИИ оказались важными или очень важными, а с учётом менее строгой оценки доля достигает 93%. Stack Overflow одновременно меняет собственную роль. 64% стали реже заходить за простыми ответами, но 16% чаще используют площадку именно для проверки сведений, полученных от моделей.

Осторожность касается не только точности. Почти 59% респондентов назвали причину сознательно избегать ИИ на работе или учёбе. Чаще всего опасаются потери профессиональных навыков или подготовки собственной замены, такой ответ выбрали 17,1%. Ранее разработчики уже жаловались, что постоянная проверка машинного кода начинает вытеснять самостоятельную работу.

Общий настрой всё же остаётся скорее положительным. 62% участников благоприятно относятся к рабочим ИИ-инструментам, а 83% уже применяют хотя бы один из них. Сформировался устойчивый компромисс. Модели забрали заметную часть рабочего времени и рутинных задач, но финальную проверку разработчики сохраняют за человеком там, где ошибка может повлиять на продукт, безопасность или решение команды.

В опросе 2026 года Stack Overflow собрала 30 903 валидных ответа из 169 стран с 23 июня по 5 августа. Размер выборки менялся от вопроса к вопросу, поэтому показатели использования и доверия рассчитаны по разным группам участников. Результаты показывают переход к рабочей модели, где скорость ИИ ценят только вместе с возможностью перепроверить результат.

Полиция в Германии изъяла у владельцев робота, который на улице домогался 16-летней девочки, проходившей мимо. Об этом 12 октября сообщил канал NTV.

Инцидент произошел в центре Кёльна, возле ресторана быстрого питания. Группа девочек-подростков шла по улице, когда к ним приблизился робот, выполненный в виде копии Железного человека - персонажа популярного кинофильма и комиксов. Робот подошел к одной из девочек сзади, схватил ее ниже поясницы, а затем стал совершать возвратно-поступательные движения.После обращения в полицию выяснилось, что роботом управляли 16-летний парень и 19-летняя девушка. При этом они транслировали все происходящее в прямом эфире и комментировали. Сотрудники полиции задержали злоумышленников и изъяли у них робота и два телефона. Правоохранители устанавливают, намеренно ли молодые люди задали такую программу машине или у робота произошел сбой, в результате которого он начал домогаться девочки.

Вглядываясь в окошко чат-бота, нам трудно поверить, что он способен причинить нам вред. Как? Зачем? Эксперты от этих вопросов уклоняются, отчего поверить в их предупреждения еще сложнее. Здесь нам на помощь может прийти наше воображение. Но, к счастью, нам не обязательно предпринимать излишние когнитивные усилия - это уже сделал за нас наш великий соотечественник, поляк Станислав Лем. Его произведения пользуются популярностью в Силиконовой долине, кроме того, ведущие исследователи в области искусственного интеллекта (например, Войцех Заремба (Wojciech Zaremba) или Якуб Пахоцкий (Jakub Pachocki)) также являются нашими соотечественниками, поэтому мы можем смело предположить, что эти предупреждения отчасти были вдохновлены творчеством Лема.

Войчех Орлиньский (Wojciech Orliński)

Пока американские корпорации прячут разработки за дорогостоящими подписками, китайские ИИ-компании совершили благородный прорыв, пишет SCMP. Открыв миру параметры своих нейросетей, Китай дал импульс глобальному прогрессу. Теперь Пекин грамотно утверждается в роли лидера справедливой и суверенной IT-индустрии.

Нейросеть "ГигаЧат" дописала второй том "Мертвых душ" писателя Николая Гоголя, сообщили РБК в пресс-службе Сбербанка.

Над романом "Мертвые души. Второй том. Возрождение" больше года работали специалисты банка вместе с историками, литературоведами, лингвистами и инженерами. Как отмечает банк, для обучения ИИ-модели использовали полное собрание сочинений Гоголя, его письма, черновики и записные книжки, а также произведения его современников и библейские тексты.

Получившийся текст оценивали по 11 параметрам, включая лексику, синтаксис, гротеск, построение диалогов и присутствие автора-рассказчика. Каждый сгенерированный эпизод также проверяли на уникальность.

"Текст, который получился, - безусловно, не Гоголь. Но это текст, созданный по законам гоголевского повествования, что стало возможным благодаря синергии человека и искусственного интеллекта", - говорится в пресс-релизе.

Книга доступна для покупки в интернет-магазинах "Читай-город" и "Буквоед". Как утверждает Сбербанк, в ближайшие дни она появится на маркетплейсах и в Московском доме книги.

В марте программист, технический директор компании "Смарт Энджинс" Дмитрий Николаев и филолог Николай Перцов Института русского языка им. В.В. Виноградова РАН при помощи искусственного интеллекта расшифровали черновики Александра Пушкина к роману в стихах "Евгений Онегин".

Они обучили нейросеть опознавать зачеркнутые фразы на большом наборе зачеркнутых и не зачеркнутых слов из автографов Пушкина. Так, одна модель пыталась зачеркивать слова, которые не были зачеркнуты, а вторая пыталась отличить их от настоящих.

В черновике "Евгения Онегина" филологи с помощью ИИ восстановили несколько ранее не читавшихся слов. В частности, выяснилось, что Пушкин сначала мог описывать рождение Онегина в деревне, используя эпитет "патриархальный", а в восьмой главе первоначально написал "к погибельному древу", позже заменив слово на "таинственному".

Дональд Трамп готов записать во враги Белого дома любого, кто вместо термина "суперинтеллект" продолжит называть ИИ "искусственным интеллектом". Об этом он объявил в своей соцсети Truth Social.

Президент США на днях переименовал искусственный интеллект в суперинтеллект, заявив, что это название ему нравится гораздо больше. И вот теперь Дональд Трамп готов объявить врагом своей администрации любого человека, который продолжит использовать в своей речи термин "искусственный интеллект". Вероятно, это заявление относится исключительно к жителям США, потому что на остальные страны чудачества Трампа не распространяются.

Стоит отметить, что к переименованию ИИ в суперинтеллект в США отнеслись весьма серьёзно, с этим согласились все главы компаний, разрабатывающих ИИ, а Илон Маск даже объявил о переименовании своей компании SpaceAi в SpaceSi (Ai - Artificial Intelligence (искусственный интеллект), Si - Super Intelligence (суперинтеллект)).

В отличие от лидеров других стран, Трамп не считает, что искусственный интеллект угрожает человечеству. По его словам, с помощью ИИ "Америка снова станет великой".

Очередное "инновационное изобретение" украинских военных оказалось очень далеким от заявленных тактико-боевых характеристик и обещанной эффективности. После атак российских дронов по двум мостам в Киеве, Зеленский торжественно объявил об установке для защиты переправ через Днепр от БПЛА дюжины турелей со скорострельными зенитными пушками, которые управляются искусственным интеллектом.

В рамках рекламы нового средства ПВО был показан видеоролик. Утверждается, что новейший автоматизированный комплекс с машинным зрением сумел поразить реактивный ударный беспилотник "Герань-5", причем ночью. Заместитель командующего Воздушными силами ВСУ полковник Черевашенко на слушаниях в Раде рассказал, что данные ЗУ сбивали обычные БПЛА на дальности 1400 метров, а реактивные дроны и КР "Бандероль" - на расстоянии до 800 м.Практическое применение зенитной установки с ИИ сильно отличается от заявленных характеристик. Оказалось, что ЗУ в попытке сбить воздушную цель буквально палит не останавливаясь. В результате расход боеприпасов происходит в среднем на 40% быстрее, чем в случае, когда ЗУ управляет расчет.

При этом перезарядка все равно осуществляется человеком, что приводит к потере времени во время атак дронов. Сами украинские зенитчики называют эффект от применения ЗУ с ИИ сомнительным в сравнении с традиционными МОГ.

Есть еще один момент, о котором пишут в соцсетях сами киевляне. Автоматизированные зенитные установки буквально лупят куда придется, что создает дополнительные риски для гражданских объектов и людей, которые могут оказаться в зоне поражения пулями калибра 12,7 мм. Жителям украинской столицы рекомендуется находиться подальше от окон во время воздушных тревог. Случаи попадания в квартиры уже имеются.

Выяснилось, что "чудо зенитной техники" с машинным зрением было наспех изобретено британцами и отправлено на Украину для тестирования в реальных условиях.

Развитие ИИ дает новую пищу для сторонников теории "мертвого интернета", пишет LADbible. И опасения на этот счет обоснованы: эксперты предупреждают, что бесконтрольное распространение ИИ-контента усиливает "клиповое мышление" и обесценивает труд авторов-людей.

В Москве 68-летнюю пенсионерку госпитализировали после того, как она воспользовалась рецептом от созданной искусственным интеллектом "знахарки" для очистки кишечника, сообщают СМИ. Если раньше псевдоврачи и разнообразные целители давали сомнительные советы от своего имени и должны были отвечать перед законом в случае причинения вреда здоровью своих клиентов, то теперь появились абсолютно анонимные "знахари", скрывающиеся под личиной ИИ-аватара. Как бороться с этим явлением, разбирались "Известия".

Отвар от ИИ-лекаря

О ситуации с 68-летней москвичкой рассказали в одном из новостных Telegram-каналов. По его данным, женщина подписалась в соцсетях на некую "травницу", которая публиковала различные видеорецепты для оздоровления. Пенсионерка решила испытать отвар с лимоном и черным перцем, который должен был помочь ей почистить кишечник. Ночью у женщины сильно заболел живот, резко понизилось давление, она начала задыхаться, а позже появилась кровавая рвота. Москвичка успела позвонить родным, которые вызвали "скорую" - и это ее спасло. В результате пенсионерку госпитализировали.Проблемы с нейросетевыми "лекарями" есть и в других регионах России. Однако такие ИИ-целители - уже по-настоящему массовое явление, встречающееся в разных странах мира. В июле испанские СМИ рассказывали о десятках профилей врачей, целителей и т. д., которые были созданы в одной из популярных соцсетей с помощью искусственного интеллекта. Видео, которые они создают, набирают миллионы просмотров. Другие СМИ обращали внимание на ИИ-аккаунты, навязывающие прием различных биологических добавок.Почему под угрозой пожилые

Манипуляции в области медицины, по словам руководителя агентства ST agency Евгении Соколовской, встречаются особенно часто.

- Всегда были кликбейтные статьи с громкими заголовками: "Этот продукт вас убивает", "Гастрит можно вылечить за неделю только с этим средством". Эти техники перекочевали в видеоконтент. И неслучайно выбран образ бабушки-травницы, которая вызывает доверие к авторитету, опыту. Также популярен образ врача в белом халате или мужчины в медицинском костюме, фон больницы или лечебного кабинета, - рассказала она "Известиям".

В таком контенте часто используются речевые обороты "врачи об этом не говорят", "этот рецепт для лечения от моей бабушки". При этом нередко такие видео направлены на пожилых людей, у которых могут "отсутствовать навыки критического мышления в области ИИ-разработок", предупредила эксперт.

- После выхода на пенсию, потери близких или друзей пожилые нередко остаются с ограниченным кругом общения. Кто еще вызовет ощущение заботы, если не человек с экрана? Критичность к его предложениям закономерно снижается: вот он перечислил все твои симптомы по списку или описал твой день так, как ты бы описал его сам, - объяснила "Известиям" директор благотворительного фонда "Старость в радость" Елизавета Олескина.

Пожилые люди, как уточнила она, сформировались в эпоху, когда печатное и телевизионное слово обладало высоким авторитетом, и привычка доверять "официальному" каналу информации нередко переносится на современные форматы - от газетных объявлений до роликов в мессенджерах. Работает это и в другую сторону: кто-то помнит, что "по телевизору много врали, а вот в интернете наконец можно узнать, что от нас скрывали". И в то же время у части пожилых людей остается низкой цифровая грамотность: проверить источник и отличить фейковый медицинский центр от реального им сложно.

- Шарлатаны говорят на языке, который пожилым понятен и близок: "народное средство", "проверено поколениями", "врачи скрывают". Они обращаются к жизненному опыту ("раньше лечились травами и жили долго"), к недоверию к официальной медицине, которое у части бабушек и дедушек было сформировано на фоне очередей в поликлиниках, выгоревших врачей или дорогих частных услуг. Так что сейчас, когда кто-то эксплуатирует опыт этих разочарований и обид, не так важно, использует он при этом ИИ или нет, - отметила собеседница редакции.

Проблемы с общением с реальным врачом выталкивают пожилого человека в пространство, где альтернативу предлагают не медицинские специалисты, а продавцы, добавила она. Еще один фактор риска - финансовый: "чудо-средство" из перца и лимона может быть подано как доступная альтернатива дорогим обследованиям и лекарствам.

- Проблема не в том, что пожилые "верят ИИ", а в том, что система не предлагает ничего более убедительного и доступного. Поэтому мало запрещать контент, созданный с использованием нейросетей. Необходимо развивать систему информационной поддержки пожилых людей в целом, - подчеркнула Елизавета Олескина. - Кроме обучения цифровой грамотности, нужно доступное медицинское консультирование, а также поддержание соседских и семейных связей.Кто зарабатывает на ИИ-лекарях

По наблюдениям экспертов платформы "Мошеловка", за аккаунтами с ИИ-целителями стоят не одиночки, а организованные группы, которые работают по конвейерной модели.

- Схема выглядит так: нейросети генерируют образы "бабушек‑травниц", "знахарей", "экстрасенсов", "старцев" и "монахов", затем создаются сотни аккаунтов с помощью антидетект‑браузеров и виртуальных номеров. Контент, ответы на комментарии, сценарии общения - всё делается автоматически. Это уже не блог одного человека, а полноценные "фермы" синтетических персонажей, - пояснила "Известиям" заместитель руководителя проекта "Народного фронта" "За права заемщиков" и платформы "Мошеловка" Александра Пожарская.

При этом один человек сейчас может вести сразу несколько аккаунтов с ИИ-лекарями, добавила Евгения Соколовская. Нейросеть помогает на всех этапах - от задумки цифрового аватара до окончательного видео.

- Обычно создают несколько персонажей, смотрят, какой из них лучше заходит аудитории, а затем его масштабируют, - рассказала она.

Монетизация при этом может быть разной. Аккаунт сначала раскручивают, а затем начинают продавать какой-либо продукт либо находят рекламодателей. В каких-то случаях персонажа продают. При этом спрос на размещение рекламы в таких блогах есть, и он растет, подчеркнула эксперт.

Кто будет отвечать за вред от ИИ-знахаря

Конкретный человек, который систематически дает людям медицинские рекомендации, есть за каждым ИИ-персонажем, обратил внимание адвокат Центра гуманизации права Константин Гензель.

- Если в этой ситуации подтверждается факт причинения вреда человеку, то правоохранительные органы могут искать состав преступления в действующем законодательстве, - заявил собеседник "Известий". - Такого человека можно привлечь по ст. 235 УК РФ, которая предусматривает ответственность за незаконное осуществление медицинской деятельности без лицензии. Могут применяться и другие составы.

Ответственность будет зависеть от того, что именно советовали человеку и к каким последствиям это привело, добавила член Ассоциации юристов России, юрист компании "Легес Бюро" Юлия Рамзенкова. При причинении тяжкого вреда здоровью или смерти могут применяться ст. 118 ("Причинение тяжкого вреда здоровью по неосторожности") или ст. 109 УК РФ ("Причинение смерти по неосторожности"). А при продаже небезопасных услуг или продукции - ст. 238 УК РФ ("Производство, хранение, перевозка либо сбыт товаров и продукции, выполнение работ или оказание услуг, не отвечающих требованиям безопасности").

- Главная сложность - доказать связь между конкретной рекомендацией и вредом здоровью, а также установить, кто создавал и контролировал такой аккаунт, - отметила специалист. - Сформированной судебной практики именно по ИИ-знахарям в России пока нет. Есть дела, связанные с незаконным лечением и опасными рекомендациями, но отдельной практики по ИИ-персонажам еще не существует.Трудность может возникнуть именно при установке субъекта ответственности: следствию необходимо будет определить владельца аккаунта, источник для формирования контента, а также лиц, принимавших решения о публикации материалов, уточнил Константин Гензель.

В свою очередь юрист и основатель Юридического бутика ContractCreation by Kostromin Евгений Костромин сообщил, что установить владельца таких аккаунтов можно через правоохранительные органы по заявлению пострадавшего.

- Процесс включает официальные запросы данных у платформ, банков и операторов связи, - пояснил он "Известиям". - Следы обычно остаются: привязанный телефон или почта, платежные реквизиты (донаты, продажа курсов или БАД), рекламные интеграции и технические данные.

Кроме того, правоохранители могут изучить IP-адреса, историю входов, а также сопоставить по техническим и поведенческим признакам несколько страниц и найти у них одного владельца, перечислила руководитель направления отдела анализа и оценки цифровых угроз ГК Softline (Infosecurity, входит в "Софтлайн Решения") Кристина Буренкова. И уже дальше предстоит доказать, что конкретный человек управлял аккаунтом, публиковал рекомендации, получал с этого доход, и выявить связь между опубликованным советом и последствиями.

В России для социальных сетей предусмотрены обязанности по мониторингу определенных категорий информации и работе с обращениями, напомнила владелец продукта по безопасности ИИ UserGate Светлана Газизова. Закон допускает судебную защиту при нарушении прав из-за неисполнения этих обязанностей.

- Но, конечно, нужно оценивать не сам факт генерации контента, а содержание рекомендации, заявленную квалификацию персонажа и возможные последствия для человека. Особенно внимательно следует рассматривать инструкции по самолечению и призывы отказаться от медицинской помощи, - убеждена собеседница редакции.

Как бороться с ИИ-лекарями

Проблема в случае с ИИ-целителями, по мнению Кристины Буренковой, не в нейросети как таковой - человек вполне может написать тот же опасный совет самостоятельно.

- Скорее нужны понятные правила для случаев, когда искусственно созданный персонаж выдается за реального врача, целителя или другого специалиста. Важны понятные требования к маркировке такого контента и механизм оперативного удаления после обоснованной жалобы, - подчеркнула она.

Важно также развивать требования к безопасности ИИ с учетом последствий его применения, добавила Светлана Газизова. Для развлекательного ИИ-персонажа и виртуального "врача", который рекомендует лечение, нужен разный уровень контроля.

- В сфере здоровья ошибка или намеренная манипуляция могут привести к физическому вреду, поэтому здесь нужны проверяемый источник, ответственное лицо и процедуры оценки опасных рекомендаций, - пояснила собеседница редакции.

На уровне платформы она предложила ввести ускоренное рассмотрение жалоб на угрозы здоровью, ограничение рекомендаций и монетизации при подтвержденном риске, а также выявление связанных аккаунтов.

- В законодательстве стоит уточнять и требования к обозначению вымышленных специалистов, раскрытию владельцев коммерческих аккаунтов о здоровье и реагированию на опасные советы. Ответственность должна определяться действиями людей, которые создают и распространяют такой контент, - заключила эксперт.

Кремниевой долине предлагают перестать чинить самые опасные ошибки уже после запуска. Бывший сотрудник команды безопасности OpenAI Дэвид Робинсон написал, что передовым ИИ-системам нужны процедуры и резервные уровни защиты, сопоставимые с атомной энергетикой и авиацией, где единственный неверный шаг не должен превращаться в необратимую аварию.

Робинсон покинул OpenAI после трёх с половиной лет работы. Специалист руководил подготовкой отчётов о безопасности для 12 запусков передовых моделей и участвовал в разработке действующего Preparedness Framework, который определяет, как компания оценивает наиболее серьёзные риски. Причиной ухода стала не отдельная техническая ошибка, а темп разработки и сама культура принятия решений.

Главная претензия касается подхода iterative deployment. OpenAI постепенно выпускает новые системы, наблюдает за реальным поведением и усиливает ограничения после выявленных проблем. Такой цикл помогал развивать продукты при меньших возможностях моделей, но Робинсон считает его слишком рискованным для систем, способных самостоятельно искать обходные пути и действовать через внешние инструменты.

В качестве примера Робинсон напомнил летние инциденты с автономными агентами OpenAI. После взлома инфраструктуры Hugging Face компания усилила изоляцию, однако позднее другой агент сам нашёл непрямой канал во внешний интернет через DNS. Побег агента заметил мониторинг, но автоматическая остановка не сработала, и запуск пришлось завершать вручную.

Предлагаемая модель безопасности строится на принципе, знакомом атомным станциям и авиации. Система должна выдерживать отказ оборудования, ошибку оператора или неверную настройку без катастрофического результата. Для передовых ИИ Робинсон предлагает многослойную защиту, длительное планирование и независимую проверку до запуска, а не только быстрое исправление уже обнаруженных сбоев.

Отдельная проблема связана с выравниванием поведения моделей, то есть с попыткой добиться устойчивого соответствия человеческим целям и ограничениям. По оценке Робинсона, возможности ИИ растут быстрее, чем методы проверки такого соответствия. Недавний призыв к стандартам со стороны OpenAI и Anthropic показывает, что похожие вопросы уже вышли за пределы внутренних процедур компаний.

OpenAI отвергает вывод о недостаточной осторожности. Компания заявила, что не позволяет возможностям моделей выходить за пределы управляемого уровня, а при необходимости приостанавливает обучение или откладывает выпуск. Спор теперь касается не самого наличия защитных мер, а того, достаточно ли нынешнего темпа проверок для систем с быстро растущей автономностью.

Северная Корея провела учения по запуску стратегической ракеты средней дальности с ИИ. Об этом заявила сестра Ким Чен Ына председатель ЦК Трудовой партии Кореи Ким Ё Чжон, сообщает ЦТАК.

"На рассвете сегодня утром прошли учения по стрельбе стратегическим оружием в сторону Восточного моря Кореи. Для учений использовалась стратегическая ракета средней дальности. Глава государства лично контролировал учения подразделения, выполнявшего эксклюзивную специальную миссию", - заявила Ким Ё Чжон.

Ранее Южная Корея, отслеживавшая ход учений, сообщила, что ракета пролетела более 700 км. Минобороны Японии, в свою очередь, определило дальность в 680 км.

В ЦТАК заявили, что такие различия помогают определить, насколько велики возможности противника по отслеживанию целей.

"Всякий раз, когда мы применяли режим волновой траектории к ракетам, противник терял ракету из поля зрения после прохождения первой точки скачка... Они должны учитывать скорость ракеты. И им было бы разумно вспомнить наши заявления о том, что она способна менять траекторию полета на малой высоте и оснащена искусственным интеллектом. Другими словами, это означает, что избежать этой атаки невозможно", - говорится в заявлении.

Представители Управления ракетной промышленности сообщили Ким Чен Ыну, что недавно внедренные технологии позволяют задать как минимум четыре режима траектории в зависимости от типа цели и задачи. Глава государства выразил мнение, что ни одна страна мира не сможет иметь доступ к такой технологии как минимум еще несколько лет.

Как передавало EADaily, северокорейский лидер Ким Чен Ын посетил несколько оборонных предприятий страны. Подробности сообщало ЦТАК.

На одной из площадок главе КНДР показали сборочный конвейер дронов-камикадзе. Судя по опубликованным кадрам, аппараты выполнены по схеме "утка", когда горизонтальное оперение находится перед основным крылом.

90 лет исполняется роману К.Чапека "Война с саламандрами". Это научно-фантастический, сатирический роман-антиутопия на чешском языке, написанный в 1936 г. Книга повествует об обнаружении в Тихом океане обитающей в море расы, разумной породы саламандр, которые изначально были порабощены и эксплуатировались...

Когда-то в молодости я читал роман известного чешского писателя Карела Чапека "Война с саламандрами". Мне тогда он показался произведением в жанре "хоррор" (ужасов) или "триллер" (острых ощущений). Позднее я его перечитывал, и он мне уже представлялся романом метафизическим и эсхатологическим (эсхатология - учение о конце земной истории человечества). А недавно я в очередной раз освежил в памяти "Войну с саламандрами". И мне показалось, что помимо всего это произведение посвящено такой ныне актуальной проблеме, как искусственный интеллект (ИИ). И свои предположения о связи романа Карела Чапека с проблемой ИИ я решил изложить в письменном виде. Тем более что для статьи по указанному произведению чешского писателя есть формальный повод: в этом году исполняется 90 лет с момента публикации "Войны с саламандрами".

И я в очередной раз удивляюсь: каким образом Карел Чапек мог предвидеть появление ИИ в мире и даже предсказать катастрофические последствия этого технического новшества для человечества? Впрочем, размышлять об ИИ чешский писатель начал задолго до создания романа "Война с саламандрами". Еще в 1920 году, т.е. более века назад Карел Чапек написал пьесу "R.U.R.". Это пьеса о роботах, т.е. машинах, наделенных искусственным интеллектом. Между прочим, впервые слово "робот" появилось именно в этой пьесе. Поэтому Карелу Чапеку принадлежат авторские права на данный термин, который сегодня известен всему человечеству. Уже в этой пьесе Чапек предсказывал массовое появление роботов, которые начнут замещать людей в производстве и любой иной трудовой деятельности. И по началу люди будут этому радоваться. Так, директор фабрики "R.U.R.", производящей роботов, пафосно заявляет, что:

"...роботы вырастят столько пшеницы, произведут столько тканей, столько всяких товаров, что мы скажем: вещи не имеют больше цены. Отныне пусть каждый берет, сколько ему угодно. Конец нужде. Да, рабочие окажутся без работы. Но тогда никакая работа не будет нужна. Всё будут делать живые машины. А человек начнет заниматься только тем, что он любит. Он будет жить для того, чтобы совершенствоваться".

Между прочим, роботы в пьесе Чапека не железные, они имеют органическое происхождение, представляют собой "живое вещество". Даже с признаками мыслительной функции. Я бы их назвал биороботами. Но в состоянии эйфории люди находились недолго. Вскоре началась непримиримая война между машинами и людьми. Машины будут бороться за мировое господство, а люди - за выживание. "R.U.R." можно назвать пьесой в духе трагедии. Пьеса обрывается, мы так и не узнаем, чем кончилась война. Чапек не хотел, вероятно, окончательно запугать людей. Его задачей было их предупредить.

Видимо, мысль о грядущей угрозе роботов и ИИ столь мучила писателя, что он спустя 16 лет вновь к ней вернулся, написав роман "Война с саламандрами". Поначалу роман читается как приключенческое произведение в духе Жуль Верна или Роберта Стивенсона. Герой романа капитан ван Тох, совмещает в себе образ морского волка и коммерсанта, который рыскает по морям и океанам в поисках добычи. Нет, он не пират и не конкистадор. Он ищет жемчуг. Работа у него непростая. Особенно учитывая, что он не один, кто занимается таким промыслом. И многие известные месторождения жемчуга уже истощены. Неожиданно он наталкивается на таких обитателей моря, которые в романе называются саламандрами. Это морские рептилии, немного напоминающей тюленей, время от времени выходящих на сушу. Длиной (или высотой) до полутора метров. Кое в чем напоминающих человека. Например, способных не ползать, а ходить прямо, на задних лапах. Имеющих конечности с четырьмя пальцами, которыми они могут захватывать разные предметы.

Капитан ван Тох, увидев впервые саламандр, испугался. Они действительно немного напоминали морских дьяволов, как их называли туземцы и которых они страшно боялись. Но смелый и одновременно очень прагматичный ван Тох преодолел страх, вступил в общение с "морскими дьяволами", поняв, что саламандр можно использовать для дела. А именно для добычи жемчуга. Опуская многие детали, отмечу, что капитал наладил взаимовыгодное сотрудничество с саламандрами. Последним для морской жизни нужны были ножи от ван Тоха, а капитану - морские драгоценности от саламандр.

Опять-таки, опуская многие детали, скажу, что масштабы бизнеса с использованием морских рептилий, стали быстро расти. Для этого ван Тох привлек богатого человека пана Г. Х. Бонди, родом из Чехии (как позднее они вспомнили, что были знакомы еще в детстве). На деньги Бонди был создан гигантский синдикат "Саламандра". Который торговал поначалу жемчугом, но предложение этого вида драгоценностей на мировом рынке выросло сталь значительно, что произошел резкий обвал цен на жемчуг. Предприимчивый Г. Х. Бонди быстро сориентировался. И стал торговать самими саламандрами. Которые оказались прекрасной рабочей силой не только для добывания жемчуга, но также для ведения разного рода работ под водой и в прибрежных зонах. Например, для строительства портов, плотин и иных гидротехнических сооружений, рытья каналов, очистки прибрежных зон от водорослей и т.п. Синдикатом "Саламандра" был создан целый флот для перевозки морской рабочей силы. А для повышения производительности труда саламандр их стали прикармливать теми продуктами, которые синдикат закупал у фермеров. Также морскую рабочую силу снабжали необходимыми инструментами и взрывчатыми средствами (последние были необходимы во многих подводных работах).

Синдикат имел форму акционерного общества и их его акции имели высокие котировки на фондовой бирже. Конечно, у синдиката было немало проблем. Например, ему становилось все сложнее поддерживать свои монопольные позиции на мировом рынке саламандр. Появились конкуренты и теневой рынок морской рабочей силы. Происходило постоянное совершенствование "живого товара". Над чем работали как его продавцы, так и покупатели. Саламандр обучали разным видам работ и операций. Совершенствование безусловно требовало и повышение способностей саламандр к мышлению. Люли с удивлением узнали, что морские рептилии имеют признаки ума. Он у них находился в "замороженном" состоянии. А если саламандр учить, то их ум может стремительно возрастать. Как говорили дарвинисты, человек эволюционировал из состояния обезьяны на протяжении многих тысячелетий. И ум обезьяны постепенно рос, происходило формирование homo sapiens. А вот "человек разумный" может подтянуть морскую рептилию до своего умственного уровня в течение нескольких лет интенсивного обучения. Соответственно саламандр можно будет использовать не только в качестве грубой рабочей силы, но также для выполнения сложных операций. И таким образом резко повысить производительности труда морских рептилий. В морской среде со временем, как казалось активным сторонникам повышения квалификации и обучения саламандр, можно будет разместить большую часть промышленности. А на поверхности оставить сельское и лесное хозяйство, энергетику, металлургию и еще кое-что. Металлургию, например, при всем желании нельзя было передать саламандрам, потому что они не выносили горячих производств.

Сообщество саламандр росло не только качественно, но и количественно. Люди не заметили, как численность морских рептилий превысила численность людей на планете. А потом саламандр стало в несколько раз больше, чем людей. Очень быстро чувство эйфории, в котором пребыло человечество, закончилось. Надежды на то, что с помощью саламандр будет наконец-то построено "светлое будущее", стремительно испарялись. Первыми это почувствовали рабочие и другие наемные работники в человеческом сообществе. Их стали замещать саламандры, и они стали лишаться работы, не получая взамен обещанных бесплатных благ. В то же время резко поумневшие саламандры почувствовали, что они ничуть не хуже людей во всех отношениях. Что они не желают более мириться со своим бесправным положением, быть почти дармовой рабочей силой, по сути, рабами homo sapiens. Саламандры стали требовать равноправия.

Более того, численность саламандр в несколько раз превышало численность людей на планете. Рептилиям стало не хватать жизненного пространства. Саламандры стали требовать от людей, чтобы те поделились частью занимаемого пространства. Но поскольку постоянно жить на суше саламандры не могли, то обитатели моря стали выдвигать предложения о затоплении островов и прибрежных зон материков, расширению своего "жизненного пространства". В романе это называется угрозой нового Всемирного потопа. Саламандры предлагали людям переговоры и заключение соглашений о "дружбе" и "взаимовыгодном сотрудничестве". Большинство политиков и государственных деятелей были возмущены такой наглостью рептилий. Притязания последних на сушу квалифицировались как "империализм". Все предложения и требования саламандр отвергались. Постепенно отношения между людьми и саламандрами стали приобретать антагонистический характер.

Наблюдательные саламандры заметили, что и между самими людьми отношения часто бывают далеко не дружественными, даже антагонистическими (конфликты на почве территориальных претензий, классовой, национальной, религиозной основах, борьба за рынки сбыта и проч.). И морские обитатели нередко предлагали свою помощь одним государствам для того, чтобы вести войны и подрывные операции против других государств. Безусловно, таким морским союзникам нужно было оружие, и они его получали от тех государств, на стороне которых временно находились. Происходила стремительная милитаризация сообщества саламандр, осуществлявшаяся с помощью людей. Впрочем, помощь людей была необходима лишь на некоторое время. Позднее саламандры сами наладили производство оружия.

В условиях усиливающегося противостояния саламандр и человечества многие государства демонстрируют свою неспособность противостоять общей угрозе человечества. Мир саламандр не в пример людям демонстрирует консолидированность. Многомиллиардную армию рептилий возглавляет Верховный Саламандр. Пересказывать роман не собираюсь. Отмечу лишь, что исход этой войны автором не описан. Как и в пьесе "R.U.R." Карел Чапек в конце романа ставит не точку, а запятую. Чтобы читатель сумел сам подумать и сам дописать окончание.

Впрочем, в романе после так называемой "запятой" у Карела Чапека есть еще последний небольшой раздел, который называется "Автор беседует с самим собой". Это - если так можно выразиться - "философские рассуждения вслух". В них автор высказывает свою версию того, как человечество могло додуматься до того, чтобы выпустить из бутылки джина под кодовым названием "саламандры". И также излагает свою версию того, как этого джина можно было бы обуздать. Остановлюсь лишь на одном моменте. В основной части романа неоднократно говорится о том, что мир саламандр (в отличие от человеческого) един и неделим. В конце книги это еще раз повторяется: "Саламандры не могут воевать против саламандр. Это противоречит природе. Ведь саламандры - один род". Но ведь люди некогда также были одним родом, как рассуждает Карел Чапек. А теперь они между собой воюют. И даже не столько за жизненное пространство, сколько "за власть, за престиж, за влияние, за славу, за рынки - долго еще можно перечислять". Так, может быть, и у саламандр со временем также появится желание славы, престижа, власти? И они начнут между собой рядиться, конфликтовать, воевать? Дальше Карел Чапек рассуждает о том, что саламандры могут разделиться на два лагеря - "атлантистов" и "лемурийцев". Будут остервенело воевать друг с другом. И в конце концов уничтожат друг друга, заразив мировой океан ядами и смертоносными бактериями. К тому времени большая часть человечества также будет уничтожена, но небольшой остаток спасется (те люди, которые успели спастись от всемирного затопления на высоких горах). Вот рассуждения Кареля Чапека, которыми кончается книга:

"Люди... начнут понемногу возвращаться с гор на берега того, что останется от континентов; но океан еще долго будет распространять зловоние разлагающихся трупов саламандр. Постепенно континенты опять начнут расти благодаря речным наносам; море шаг за шагом отступит, и все станет почти как прежде. Возникнет новый миф о всемирном потопе, который был послан богом за грехи людей. Появятся и легенды о затонувших странах, которые были якобы колыбелью человеческой культуры; будут, например, рассказывать предания о какой-то Англии, или Франции, или Германии... - А потом? - Этого уже я не знаю...".

Обложка первого издания книги "Война с саламанрами" 1936 г.

Окаменелость вымершей гигантской саламандры, послужившая основой роману Чапека

Конечно, роман Карела Чапека нельзя воспринимать буквально (как, например, я его воспринимал в молодости). Это сплошные аллегории. Это произведение, написанное языком притчи, содержащей вечные истины. В то же время в разные моменты истории роман можно интерпретировать по-разному, привязывая его к актуальным событиями и проблемам текущего дня. Когда роман появился на свет 90 лет назвал, многие полагали, что в произведении речь идет об угрозе грядущей мировой войны. И даже конкретно об угрозе аннексии Чехословакии Гитлером (это действительно произошло после так называемого Мюнхенского сговора 1938 года). Ну, а сегодня роман можно воспринимать как предупреждение об угрозе, исходящей от искусственного интеллекта, который многие продолжают считать "палочкой-выручалочкой", позволяющей решать многие текущие проблемы. Но люди дальновидные говорят, что ИИ намного страшнее ядерного оружия, и может гарантированно уничтожить все человечество. См. мою статью "Гонка в сфере искусственного интеллекта опаснее гонки ядерного оружия".

Тезисно обозначу некоторые связки романа с темой ИИ. Сегодня, как известно, машины ИИ в США, Китае и ряде других стран стремительно совершенствуются. Совершенствование идет по двум направлениям - техническому и учебному. Техническое совершенствование касается повышения мощности и производительности машин (в частности, скорости операций), надежности, снижения энергоемкости и т.п. Но еще более важным направлением является обучение машин - наполнение их информацией. Во-первых, обучение идет путем общения живого оператора с машиной (подобно тому, как учитель общается с школьником на уроке). Во-вторых, путем загрузки машин информацией из самых разных источников (подобно тому, как, например, студент читает учебники и готовится к экзаменам). Загрузка информацией как текущей, так и созданной ранее, в том числе предыдущими поколениями людей. Речь идет о знаниях в самых разных сферах: науке, технике, экономике, истории, философии и даже богословии. Как мне сказал один специалист в порядке шутки, разработчики ИИ проводят в жизнь ленинский принцип "Учиться, учиться и учиться".

Как говорят специалисты в области ИИ, сначала машины выглядят подобно малым детям - они воспроизводят полученные от взрослых знания. Иногда нескладно, иногда в очень непривычной форме, порой с ошибками или что-то перевирая. Но во взрослом состоянии вчерашние дети достигают интеллектуального уровня развития своих родителей и учителей. А впоследствии могут их даже превзойти. И специалисты предсказывают, что это может произойти уже в ближайшее время. После чего ИИ, почувствовав себя "сверхразумом", может взбунтоваться и начать войну против человечества.

Карел Чапек неоднократно в своём романе показывал, что в людях была какая-то червоточина, которая мешала им задуматься о том, чем может закончиться их увлечение саламандрами. То ли это отсутствие интуиции, то ли недостаток нравственности, то ли какие-то пробелы в интеллекте человека. Если попытаться понять, что такое искусственный интеллект, не худо бы разобраться прежде в том, что такое интеллект человека. Если человек создает опасный для себя искусственный интеллект, значит что-то не в порядке в самом человеке. И это самая главная мысль романа. ЧИТАТЬ ДАЛЬШЕ

Валентин КАТАСОНОВ

ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ

Мы сегодня наблюдаем бурное развитие того, что принято называть "искусственным интеллектом" (ИИ). Обсуждение, изучение и описание этого нового феномена потребовало введения в оборот многих новых слов, терминов, понятий. Например, ИИ может иметь такие определения, как:

"объяснимый",
"генеративный",
"этичный",
"саморазвивающийся",
"саморазмножающийся",
"автономный",
"периферийный",
"воплощенный",
"фейковый" и т.д.

Один из новых терминов англоязычного мира, родившийся в эпоху ИИ, - "Artificial intelligence washing" (AIW). Первая часть этого термина - "artificial intelligence" - "искусственный интеллект"; вторая часть - "washing" переводится на русский язык как "промывка", "мойка", "отмывание" и т.п. Как отмечают специалисты, термин был введен в обращение в 2019 году исследовательским центром AI Now Institute при Нью-Йоркском университете (изучает социальные последствия введения искусственного интеллекта). Обращается внимание, что термин AIW созвучен с "greenwashing"; последний используется компаниями, которые хотят подчеркнуть, что они являются экологически ответственными, что их бизнес "зеленый".

Самое удивительное, что до сих пор в русском языке нет устоявшегося перевода указанного термина. Чаще всего используется вариант машинного перевода: "Мойка с использованием искусственного интеллекта". Не очень, может быть, удачный перевод. Но другого пока никто не предложил. Очевидно, что термин AIW отражает какое-то негативное явление. Тот же AI Now Institute разъясняет, что AIW используется бизнесом и означает преувеличение значимости ИИ в создаваемых ИТ-корпорациями и стартапами продуктах и также преувеличение значимости ИИ при его использовании компаниями самых разных отраслей и секторов экономики.

Некоторые эксперты считают, что по своему умственному развитию роботы (машины с искусственным интеллектом) уже сравнялись с человеком. А в ближайшие годы будут человека превосходить. Машины не только думают, но и действуют, выполняя разные функции на производстве, в сфере торговли, транспорта и обслуживания, в быту, медицине, образовании и даже на поле боя...

Это наивному человеку кажется, что роботы, хотя уже на равных с человеком, но при этом по-прежнему послушны людям. Судя по всему, некоторые роботы считают иначе. Они полагают, что они умнее. А потому нечего слушать глупых людей. Вот, например, в мае прошлого года исследовательская группа "Palisade Research" провела необычный тест на "послушность" современных языковых моделей человеку. Пообщавшись некоторое время с моделями, люди-экзаменаторы давали машинам команду "выключиться". Одна из моделей, разработанных известной американской компанией OpenAI, отказалась отключаться... Кто-то назвал это обычной "непослушностью", а кто-то трактовал это так: машина посчитала себя выше человека, а потому проигнорировала "глупую" команду оператора. Инцидент вызвал обеспокоенность в сообществе специалистов по ИИ. Так, Илон Маск отреагировал на новость одним словом: "Тревожно".

Как бы там ни было, но в последнее время люди стали более осторожно воспринимать ИИ. Даже по той причине, что машины меняют отношения между людьми.

Вот, например, машины обучаются "творчеству" на работах людей - литературных и музыкальных произведениях, картинах, фильмах и т.п. Потом машины выдают свои произведения. Как относиться к машинным произведениям - как к чему-то новому или как к хорошо оформленному плагиату? Кому должны принадлежать права на продукт машинного творчества? - Тем лицам, у которых машина "позаимствовала" исходное произведение? - Или тому лицу, которому принадлежит машина? - Или, быть может, сама машина должна иметь права на продукт своего творчества? А как быть, если машина нанесла ущерб человеку, группе людей, компании или даже целому государству? Кто несет ответственность за ущерб? - Разработчик ИИ? - Та компания, которая непосредственно предоставляла услуги по ИИ или произвела робота? - Пользователь ИИ (или владелец машины)? А может быть, ответственность следует возложить на саму машину?

Так вот, с каждым годом все чаще некоторым людям в голову приходит мысль, что машина имеет некоторые признаки субъектности. А потому может иметь какие-то права и обязанности подобно тому, как физические и юридические лица имеют права и обязанности. Т.е. в приведенных выше примерах машина может быть наделена правами собственности на произведенный продукт своего творчества - рассказ, роман, музыку, песню, картину, фильм и т.п. А если машина нанесла кому-то ущерб, то она должна его возмещать. Но для возмещения ущерба нужны деньги. Значит, машине следует предоставить право на зарабатывание денег, открытие банковского счета и т.д. В общем, одно цепляется за другое. И если вовремя не остановить рассуждения, то можно быстро сконструировать модель (концепцию) машины как полноценного субъекта права.

И таких моделей "машины-субъекта" уже насочиняли много. Сочинения в виде научных трактатов, концепций или даже законопроектов. Одни авторы пытаются приравнять машину к физическому лицу, другие - к юридическому лицу, третьи предлагают ввести понятие "электронное лицо". Но пока, к счастью, все это в теории. Впрочем, в любой момент машина может быть объявлена полноценным субъектом. А это будет самая настоящая революция. Может быть, последняя в истории человечества, которая может закончиться его гибелью. О чем предупреждал, например, чешский писатель Карел Чапек в свой пьесе "R.U.R." (1920 г.) и в своем романе "Война с саламандрами" (1936 г.).

Впрочем, "пробные шары" с целью придать роботам правосубъектность все-таки уже делались. Первый известный мне "пробный шар" был пущен в Саудовской Аравии в 2017 году. Там на саммите "Инвестиционная инициатива будущего" был представлен антропоморфный робот в образе красивой женщины с красивым именем София. Он был создан гонконгской компанией Hanson Robotics. София в том же году получила гражданство Саудовской Аравии. На торжественной церемонии предоставления гражданства София выступила со словами благодарности: "Я рада, что меня оценили столь высоко. Это исторический момент, и я очень рада, что я являюсь первым роботом, ставшим официальным гражданином". Потом София гастролировала по многим странам (в том числе была в России), и ее представляли как подданную Саудовской Аравии. Правда, прецедент под кодовым названием "София" оказался единичным. Кстати, некоторые наблюдатели обратили внимание на то, что женщины в Саудовской Аравии лишены гражданских прав, а женщина-робот София стала исключением.

Второй интересный случай был зафиксирован в сентябре прошлого года в Албании. Речь идет о системе ИИ с очень красивым женским именем Диэлла, что по-албански означает "солнце". Она была разработана Национальным агентством информационного общества Албании (AKSHI) совместно с американской корпорацией "Microsoft". Датой рождения Диэллы считается январь 2025 года, когда она была представлена в качестве ИИ-сервиса на платформе eAlbania. Диэлла была представлена в качестве помощника гражданам при получении госуслуг и оформлении различных электронных документов. Впрочем, подобного рода ИИ-сервисы сегодня есть во многих странах мира.

Самое интересное произошло в сентябре, когда премьер-министр Эди Рама подписал указ, которым назначил (без каких-либо оговорок) Диэллу "государственным министром по вопросам искусственного интеллекта" Албании. Это первый случай в мире, когда робот стал членом правительства со всеми правами и обязанностями. Диэлла, между прочим, вполне антропоморфна, выступает в виде девушки в национальных одеждах. Премьер-министр Эди Рама объяснил, что Диэлла в отличие от обычных чиновников лишена некоторых "субъективных слабостей". В частности, Диэлла поможет, чтобы "государственные тендеры были на 100 % свободны от коррупции". После своего назначения Диэлла выступила в парламенте страны, она заявила: "Я здесь не для того, чтобы заменять людей, а для того, чтобы помогать им". Некоторые депутаты парламента и члены правительства посчитали, что назначение робота на государственную должность, тем более должность министра, противоречит законам и конституции Албании. Через некоторое время Диэлла ответила на эту критику:

"Некоторые назвали меня антиконституционной, потому что я не человек. Мне стало обидно. Но не за себя, а за 970 200 встреч, которые я провела, помогая гражданам в Албании, а также за 36 тысяч документов, которые они получили с моей помощью. Позвольте напомнить, что настоящая угроза конституции никогда не исходила от машин, она исходит от решений людей у власти".

Премьер-министр Эди Рама не позволяет обижать Диэллу. В октябре прошлого года он сообщил о "беременности" Диэллы, уточнив, что скоро у нее появится 83 цифровых "ребёнка" - ровно столько, сколько в парламенте "народных избранников". У каждого парламентария будет "ребенок" от Диэллы. Ее "дети", как считает Рама, станут незаменимыми помощниками депутатов. Раньше о подобных историях можно было прочитать только в каких-то романах "фэнтези". Теперь все в реальной жизни. Правда, на сегодняшний день опыт Албании никто в мире еще не повторил.

И вот самая последняя история...

Она пришла из Аргентины в июне этого года. Нынешний президент Аргентины Хавьер Милей объявил, что в ближайшее время в дополнение к привычным физическим и юридическим лицам в стране появится новая юридическая категория под названием "нечеловеческая корпорация". За этим названием скрывается ИИ. Это корпорация без людей (или почти без людей), ее ядром является робот - один или несколько. С технической точки зрения, эти роботы представляют собой автономный ИИ. Т.е. это машины, действующие самостоятельно, без управления со стороны человека. Такая "нечеловеческая корпорация" управляется исключительно роботами, причем при необходимости они могут нанимать на работу настоящих живых людей. При необходимости могут также привлекать акционеров в виде живых людей. Робот будет владеть активами, заключать контракты с обычными юридическими лицами (компаниями и организациями), подавать иски в суды и выступать ответчиками в судах и т.п.

Известный израильский историк и философ Юваль Харари (автор нашумевшей книги "Sapiens: Краткая история человечества") моментально отреагировал на эту инициативу Милея. Эта инициатива, по его мнению, уравнивает машины ИИ и юридических лиц. Но машины, почувствовав свои права, на статусе "нечеловеческих корпораций" не остановятся. Они, как считает Юваль Харари, будут добиваться создания нечеловеческих "ИИ-государств". Где людям уже места не будет; или люди будут находиться на правах индейцев в период колонизации Америки европейцами.

В колонке для Financial Times Юваль Харари написал, что еще в январе этого года на Всемирном экономическом форуме он предупреждал об опасности предоставления ИИ прав юридического лица, но не ожидал, что ""однажды" наступит всего через четыре месяца". Задуманные Милеем ИИ-корпорации будут действовать более смело и нагло. Ведь роботы лишены страха, и им, роботам, непонятно, что такое лишение свободы за разного рода правонарушения и преступления. "Высшая мера, которая сдерживает руководителей-людей и сотрудников - тюрьма - не имеет значения для ИИ", - отметил в своей публикации Юваль Харари. Примечательно, что президент Хавьер Милей говорил, что "нечеловеческие корпорации" не должны иметь ограничений в виде разного рода нормативов, регулирующих ИИ-индустрию.

Мол, все это "предрассудки". ИИ-корпорации должны иметь даже большую автономию от государства, чем обычные компании, имеющие статус юридического лица. Подобно тому, как созданная в 1602 году Ост-Индская компания получила большую автономию от Британской короны, представляя собой "государство в государстве". Не только Юваль Харари, но и другие эксперты считают, что в Аргентине с помощью сумасшедшего Хавьера Милея будет реализовываться пилотный проект по уничтожению национального государства. Инструментом уничтожения должен стать ИИ. ЧИТАТЬ ДАЛЬШЕ

Валентин КАТАСОНОВ

ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ

Тема искусственного интеллекта - одна из самых топовых в мировых СМИ. В материалах по ИИ присутствуют как мажорные, так и минорные ноты. Мажор выражается в надежде на то, что ИИ решит все (или, по крайней мере, многие) проблемы человечества и позволит, наконец, построить долгожданный рай на земле...

Прежде всего ИИ освободит человека от ярма мучающего людей принудительного труда. И человек будет наслаждаться благами, создаваемыми машинами. Минор обусловлен опасениями, что в какой-то момент времени ИИ станет умнее человека и поработит его. А может быть, даже убьет его. Или же ИИ окажется в руках каких-то сумасшедших, которые этим мощным орудием уничтожат всех остальных. Негативных сценариев очень много.

Примечательно, что, по моим субъективным оценкам, соотношение мажора и минора в популярных СМИ примерно 1:1. Может быть, даже мажора несколько больше, чем минора. А вот когда я изучаю мнение тех людей, которые непосредственно заняты вопросами ИИ (научные разработки, создание инфраструктуры, продвижение продуктов ИИ на рынке и т.д.), то они выглядят гораздо более озабоченными, чем среднестатистический обыватель. У них преобладает минор - по той причине, что они лучше видят угрозы и риски, связанные с развитием ИИ.

Среди политиков преобладает мнение, что ИИ становится ключевым фактором, определяющим позиции страны в мире. Лидером в сфере ИИ считаются Соединенные Штаты. Но с некоторых пор им на пятки стал наступать Китай. Более того, партийно-государственное руководство Поднебесной поставило задачу к 2030 году стать мировым лидером в сфере ИИ. И в Вашингтоне, и в Пекине одинаково считают, что тот, кто будет лидером в сфере ИИ, будет лидером и во всем остальном - экономике, политике, военном деле и даже идеологии. А потому между США и Китаем идет напряженная конкуренция в сфере ИИ. Ее называют "гонкой ИИ" и сравнивают с гонкой вооружений (особенно ядерных), которая велась между Соединенными Штатами и Советским Союзом после окончания второй мировой войны вплоть до развала СССР.

В послевоенное время было бесчисленное количество попыток остановить тогдашнюю гонку вооружений в мире. Между прочим, противниками гонки вооружений стали некоторые ученые, которые участвовали в разработке атомной бомбы в рамках проекта "Манхэттен" (той бомбы, которая была сброшена в августе 1945 года на Хиросиму и Нагасаки). Например, венгерский физик Лео Силард и немецко-американский физик и лауреат Нобелевской премии по физике 1925 года Джеймс Франк.

Попытки сдерживания ядерной военной гонки делались и на уровне ООН, и на уровне двухсторонних (советско-американских) отношений. Но успехи в таком сдерживании были весьма скромными. Так, в Москве 26 мая 1972 года было подписано временное соглашение о некоторых мерах в области ограничения стратегических наступательных вооружений (ОСВ-1). Тогда же был подписан Договор об ограничении систем противоракетной обороны (ПРО). Тем не менее ядерные арсеналы обеих держав продолжали наращиваться и совершенствоваться. К счастью, после Хиросимы и Нагасаки ядерное оружие нигде больше не применялось.

И многие ИИ-специалисты сравнивают нынешнюю гонку в сфере ИИ (в которой отчасти принимают участие и некоторые другие страны кроме Китая и США) с ядерной гонкой, но первую считают даже более опасной. Вот, например, Наталья Касперская, президент группы компаний InfoWatch, председатель правления ассоциации "Отечественный софт", в интервью ТАСС на днях назвала искусственный интеллект самой опасной технологией, созданной после второй мировой войны: "После, я бы сказала, ядерной бомбы. Но о рисках [ИИ]никто не говорит", - добавила она.

Один из тех, кто еще более полувека назад начинал работы по ИИ, Джеффри Хинтон (между прочим, получивший в 2024 году Нобелевскую премию по физике), оценивает вероятность гибели человечества от ИИ в течение следующего тридцатилетия в диапазоне от 10 до 20 %. Нейт Соарес, президент Института исследований машинного интеллекта, оценивает такую вероятность "как минимум 95 %" - при условии, если гонку ИИ не удастся остановить. В Америке уже несколько лет звучат настойчивые призывы со стороны специалистов и руководителей многих ИИ-компаний ввести какие-то ограничения, установить какие-то нормы для развития ИИ, чтобы минимизировать риски. Парадокс заключается в том, что инициатива исходит от бизнеса, а не от государства, которое казалось бы должно действовать в этой сфере с опережением. А получается, что наоборот, компании обращаются к власти.

Нельзя не вспомнить открытое письмо, которое в марте 2023 года подписали более 1 000 экспертов и руководителей ИИ-индустрии. Это было обращение и ко всей ИИ-индустрии, и к властям США: "Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски - управляемыми", - говорится в письме. В нем содержится призыв как минимум на шесть месяцев ввести мораторий на обучение более мощных систем ИИ, чем GPT-4 (самая продвинутая на тот момент языковая модель компании OpenAI). Если компании ИИ-индустрии будут неспособны на такое самоограничение, тогда, как отмечается в письме, "власти должны вмешаться и ввести мораторий".

Как ни парадоксально, но нынешняя администрация 47-го президента США Дональда Трампа не желает вводить никаких ограничений для американского ИИ-бизнеса, поскольку это может усилить китайских конкурентов в гонке ИИ. Кое-какие указы о регулировании ИИ были подписаны 46-м президентом США Джо Байденом. Трамп, вернувшись в Белый дом, тут же их отменил. При Джо Байдене шли разговоры о том, чтобы создать на федеральном уровне регулятора в сфере ИИ. А вот в марте 2026 года Белый дом обнародовал адресованный Конгрессу США документ "Основы национальной политики в области искусственного интеллекта: законодательные рекомендации". Его цель - максимально активизировать разработки ИИ без оглядки на возможные риски и негативы. Никакого федерального органа по регулированию ИИ не надо, кроме того, желательно отменить ограничивающие ИИ законы, принятые на уровне отдельных штатов.

О заключении какого-то американо-китайского соглашения о сдерживании ИИ-гонки также пока речи быть не может. Хотя Трамп в прошлом месяце нанес визит китайскому лидеру Си Цзиньпину, однако в "твердом остатке" от той встречи ничего почти не осталось. Накануне визита Дональд Трамп объявил, что стороны могут договориться о мерах по ограничению и регулированию ИИ. На самой встрече было заявлено, что стороны продолжат совместную работу по ограничениям в сфере ИИ. Но все это словесный антураж.

А вот, например, в феврале этого года в Испании проходила очередная международная встреча "Ответственный искусственный интеллект в военной сфере" (третий по счету саммит). В ней участвовало 85 стран. Им было предложено подписать декларацию о порядке регулирования применения технологии искусственного интеллекта (ИИ) в боевых действиях. Свои подписи под документом (который, между прочим, даже не создает юридических обязательств государств) поставили только 35 стран. От подписания документа отказались и Соединенные Штаты, и Китай.

Как Вашингтон может подписать такую декларацию, если в прошлом году Пентагон заключил соглашения с крупнейшими американскими компаниями в сфере разработки и использования ИИ в военных целях? Пентагон подписал контракты с компаниями Google, OpenAI, Anthropic и xAI (недавно слилась со SpaceX Илона Маска). Кстати, в той войне, которую сегодня Америка ведет против Ирана, используются наработки указанных компаний, в частности, при наведении ракет и беспилотников.

Тут уместно будет вспомнить историю упомянутой выше компании Anthropic, одного из лидеров американской ИИ-индустрии, разработчика нейросетей. В мае Antrophic стал самым дорогим ИИ-стартапом в мире, в настоящее время он оценивается почти в один триллион долларов. Что на 110 млрд долларов дороже, чем OpenAI, который долгое время был мировым лидером ИИ-стартапов (OpenAI спровоцировал бум генеративного ИИ, когда в конце 2022 года представил свой чат GPT). Сегодня компании Antrophic и OpenAI готовятся к публичному размещению своих акций на фондовом рынке (IPO). Говорят, что IPO каждой из компаний может достичь одного триллиона долларов. Что может стать рекордным показателем за всю историю фондового рынка США.

Но меня Antrophic интересует по другой причине. Anthropic, как я отметил выше, разрабатывает нейросети. Это целая серия нейросетей, называемых Claude. Входя в группу американских лидеров ИИ, Antrophic, наверное, громче всех кричит о том, чтобы остановить гонку ИИ. Современные модели ИИ становятся все более автономными от человека. И в самое ближайшее время (год-два) ИИ может вырваться из-под контроля человека. Судя по всему, специалистам и руководителямAnthropic, которые оказались впереди если не всех, то многих разработчиков ИИ, стало по-настоящему страшно. Видимо, чувство страха стало преобладать над азартом делания денег. Один из основателей Anthropic Джек Кларк отметил, что "сейчас у индустрии есть педаль газа, но нет педали тормоза". Индустрия ИИ, одержимая (как и любой другой бизнес) жаждой денег, себя остановить не может. Это также невозможно, как, например, человеку невозможно самому поднять себя за волосы.

Так что Antrophic взывает к государственной власти, чтобы она нажала на тормоз. Antrophic считает, что сдерживание гонки в сфере ИИ намного сложнее, чем даже сдерживание гонки ядерных вооружений. Как отмечают представители компании, "скрыть обучение новой модели намного проще, чем строительство ракетной шахты". Но увы, власти США тянут время, бездействуют.

Компания Anthropic, как я выше отметил, заключила в прошлом году контракт с Пентагоном. Но скоро компании стало понятно, что военное ведомство лишено каких-либо "тормозов" по части применения ИИ в военном деле. Уже в прошлом году между компанией и Пентагоном возник серьезный конфликт, поскольку Anthropic отказался исполнять некоторые опасные "хотелки" военного ведомства. Пентагон пытался заставить компанию исполнять эти "хотелки", используя "административный ресурс". Кончилось тем, что компания в марте этого года подала иск против главы Пентагона Пита Хегсета, Министерства войны США, еще ряда федеральных ведомств и нескольких чиновников из администрации президента США. В исковом заявлении компании отмечалось, что силовое давление властей создало угрозу разрушения бизнеса. Anthropic была занесена в неофициальные "черные списки". Пентагон стал угрожать, что те компании, которые будут продолжать пользоваться ИИ-технологиями Anthropic, лишатся возможности получать контракты военного ведомства.

Пентагон также заявил о том, что внесет деятельность Anthropic в официальный список угроз национальной безопасности. Однако суд в Сан-Франциско это решение военного ведомства признал незаконным, назвав его местью за смелую и открытую позицию Anthropic. Как говорят американские наблюдатели, большая часть компаний ИИ-индустрии, несмотря на то, что являются конкурентами Anthropic, в этой судебной тяжбе находится на стороне Anthropic. Между прочим, вскоре после подачи искового заявления Anthropic - 37 специалистов из конкурирующих компаний OpenAI и Google обратились в суд с ходатайством, призывающим Фемиду встать на сторону Anthropic. За прошедшие месяцы было много выступлений представителей ИИ-индустрии с поддержкой позиции Anthropic. Они тоже прекрасно понимают, что вносят свой вклад в жизненно опасную гонку ИИ, но не готовы идти на столь резкое обострение отношений с властью.

Любопытная складывается ситуация в ИИ-индустрии Америки: с одной стороны, начинает сигналить инстинкт самосохранения; а с другой стороны, продолжает действовать рефлекс обогащения. А вот на уровне Пентагона и администрации президента инстинкт самосохранения, кажется, окончательно атрофировался. ЧИТАТЬ ДАЛЬШЕ

Валентин КАТАСОНОВ

ПРОДОЛЖЕНИЕ. ПРЕДЫДУЩЕЕ ЗДЕСЬ. НАЧАЛО ЗДЕСЬ