Proton, известная по почте Proton Mail и VPN-сервису, резко меняет подход к разработке: передаёт большую часть работы искусственному интеллекту, сокращает роль программистов и заменяет человеческую проверку кода автоматической. При этом сотрудники опасаются, что спешка приведет к проблемам с безопасностью.

Об этом сообщает 404 Media со ссылкой на девять нынешних и бывших сотрудников компании.

Издание пообщалось с восемью действующими и одним бывшим сотрудником Proton, изучило внутреннюю переписку в Slack, записи совещаний и документ о переходе компании на ИИ.

Так, в конце августа один из инженеров предложил выделять хотя бы несколько дней на тестирование нового кода перед его выпуском. Йен ответил ему, что это "чушь и мышление неудачников". "Конечно, можно работать быстро и безопасно. Перестаньте постоянно думать о том, как замедлиться, и сосредоточьтесь на том, как ускориться", - написал он в корпоративном Slack.

Йен также призвал разработчиков перестать вручную писать весь код и активнее использовать ИИ, а находить и исправлять уязвимости в нём с помощью нейросетей.

Глава Proton сравнил распространение ИИ с появлением интернета: "Поезд приближается. Запрыгивайте или попадете под него. Не становитесь профессиональным оператором факса в эпоху интернета".

По его прогнозам, к концу года большинство разработчиков перестанут программировать, а будут составлять требования и тесты, по которым ИИ самостоятельно напишет и проверит код.

Йен заявил, что этот год - последний, когда Proton нанимает инженеров в привычном понимании. Далее компания намерена искать специалистов, которые смогут создавать продукты с помощью ИИ.

Технический директор Proton Барт Батлер говорил, что в октябре нейросети уже генерировали 90% кода компании, а, по словам других сотрудников, значительная его часть создается с помощью Claude от Anthropic. На компьютерах работников также установили ПО для отслеживания использования ИИ при написании кода.

В сентябре Батлер опубликовал внутренний манифест об изменении профессии разработчика, который начинался со слов "Ваша прежняя работа исчезла". Он считает, что инженеры должны научиться помогать ИИ писать код, а большинство изменений со временем необходимо проверять тоже с помощью нейросетей, а не вручную. Один из сотрудников отметил, что руководство преувеличивает возможности современных моделей и игнорирует проблемы сопровождения больших кодовых баз.

При этом многие работники боятся открыто спорить с Йеном, который публично оскорбляет сотрудников за несогласие с его решениями.

В 404 Media связывают такую позицию руководства в том числе с финансовыми проблемами. Proton отстаёт от запланированных показателей годовой выручки и признаёт, что развивается медленнее, чем рассчитывала.

Теперь в Proton даже намерены создать специальную команду из наиболее мотивированных сотрудников, готовых работать в том числе по выходным. Им предложат надбавку к зарплате в размере 30% и дополнительные привилегии. В команду войдут не более 5-10% персонала. Proton проведёт повторные собеседования, чтобы проверить, насколько сотрудники освоили ИИ. Результаты могут повлиять на их обязанности, должности и дальнейшее трудоустройство.

Разработчик Drew DeVault объявил о создании AlpineBSD, свободной Unix-подобной операционной системы, которая должна обходиться без программного кода, документации и других компонентов, созданных генеративным искусственным интеллектом. В основе проекта лежит ядро NetBSD и пользовательская среда Alpine Linux.

Главная особенность AlpineBSD заключается в принципиальном отказе от результатов работы больших языковых моделей (LLM). Разработчики считают программное обеспечение, в котором присутствуют сгенерированные ИИ фрагменты кода, документации, исполняемых файлов или других ресурсов, "загрязнённым" и не хотят включать подобные компоненты в систему.

В опубликованной политике проекта говорится, что команда намерена максимально сократить присутствие программного обеспечения, созданного генеративными моделями. Речь идёт не только о запрете применять ИИ при написании собственного кода, но и о проверке происхождения сторонних компонентов, которые попадают в операционную систему.

При этом AlpineBSD не запрещает пользователям устанавливать программы с ИИ-компонентами. Разработчики предусмотрели четыре репозитория пакетов с разными правилами. Основные хранилища base и main содержат только проверенное с точки зрения политики проекта ПО и имеют полноценную поддержку. Отдельный репозиторий tainted предназначен для программ с ИИ-компонентами, а community может содержать как чистые пакеты, так и зависимости с подобными компонентами. Последние два хранилища поддерживаются сообществом.

Для наиболее строгой конфигурации достаточно подключить base и main. Разработчики гарантируют, что такая установка не будет содержать программного обеспечения, помеченного как tainted. Пользователи смогут искать пакеты по специальным меткам, которые показывают, использовали ли ИИ при создании программы или её зависимостей, а также на каком этапе возникла связь с генеративными моделями.

Полностью избежать подобных компонентов оказалось непросто. Некоторые важные инструменты уже содержат код, который разработчики считают результатом работы ИИ. Поэтому команда решила закрепить несколько программ на последних версиях, выпущенных до появления таких изменений. В список попали компилятор GCC, отладчик GDB, binutils, libffi, Perl и xorriso. Разработчики предпочитают искать альтернативы или переносить спорные пакеты в отдельное хранилище, а не замораживать их версии.

Сам проект пока находится на очень ранней стадии. У AlpineBSD ещё нет готовых установочных образов, поэтому желающим попробовать систему придётся вручную собирать и загружать её компоненты. Исходный код и репозиторий портов размещены на SourceHut. В качестве основы разработчики выбрали ядро NetBSD, а пользовательскую среду строят с оглядкой на Alpine Linux, известный компактностью и минималистичной архитектурой.

Выбор NetBSD не случаен. Проект уже несколько лет придерживается осторожного отношения к коду, созданному большими языковыми моделями. В правилах разработки NetBSD такой код изначально считается потенциально небезопасным для включения в основную ветку и требует предварительного письменного разрешения руководства проекта. AlpineBSD развивает похожую идею, но распространяет ограничения не только на исходный код, но и на документацию, исполняемые файлы и сторонние ресурсы.

Появление AlpineBSD отражает формирование отдельного направления в мире свободного программного обеспечения. По мере распространения генеративного ИИ разработчики всё чаще сталкиваются с вопросами происхождения программного кода, его авторства, лицензирования и возможности независимой проверки. AlpineBSD предлагает пользователям выбирать программное обеспечение не только по функциональности и безопасности, но и по тому, участвовали ли в его создании языковые модели.

Впрочем, заявленная независимость от ИИ пока остаётся целью проекта, а не подтверждённым свойством готовой операционной системы. AlpineBSD ещё предстоит пройти путь от экспериментальной разработки до полноценного дистрибутива с установочными образами, репозиториями и поддержкой оборудования.

Intel предупредила, что спад на рынке персональных компьютеров продлится как минимум до середины 2027 года. Продажи процессоров для ПК уже сокращаются, хотя общая выручка компании растёт. Ситуацию осложнила авария на заводе, которая обойдётся производителю в сотни миллионов долларов.

По итогам третьего квартала 2026 года Intel получила $16,51 млрд выручки, на 21% больше, чем годом ранее. Скорректированная прибыль составила 52 цента на акцию при прогнозе аналитиков в 40 центов. Однако подразделение, выпускающее чипы для персональных компьютеров, потеряло 5% выручки. Его продажи сократились до $8,1 млрд против ожидавшихся $8,98 млрд.

Одной из главных причин слабого спроса компания называет подорожание оперативной памяти. Производители компьютеров вынуждены повышать цены, а покупатели откладывают обновление техники. Ситуация связана с высоким спросом на микросхемы для инфраструктуры искусственного интеллекта. Ранее участники рынка уже предупреждали о дефиците DRAM и росте стоимости комплектующих.

На четвёртый квартал Intel прогнозирует выручку от $15 млрд до $16 млрд, тогда как аналитики рассчитывали в среднем на $17,07 млрд. Ожидаемая скорректированная прибыль составляет 25 центов на акцию вместо 43 центов. Финансовый директор Дэвид Зинснер считает, что слабость рынка ПК сохранится как минимум в первой половине 2027 года, поэтому быстрого восстановления компания не ожидает.

Дополнительные трудности принесла октябрьская авария на фабрике в Кирьят-Гате, Израиль. После взрыва предприятие простояло около двух недель. По оценке Intel, простой уменьшит выручку четвёртого квартала примерно на $300 млн и снизит валовую рентабельность приблизительно на два процентных пункта. В первом квартале 2027 года компания ожидает сопоставимые потери выручки.

На израильском заводе преимущественно выпускают серверные процессоры по технологическому процессу Intel 10. После остановки специалисты проверяют пластины с микросхемами, чтобы определить, какую часть продукции удастся сохранить. Возобновить наращивание выпуска планируется к концу октября. Пока ограничения мешают удовлетворить спрос на серверные чипы, необходимые в том числе облачным клиентам.

При этом серверное направление Intel растёт заметно быстрее рынка ПК. Выручка подразделения Data Center and AI увеличилась на 78%, до $7,3 млрд. Компания продолжает расширять собственные производственные мощности и развивать выпуск чипов по заказам других разработчиков. Согласно финансовой отчётности, выручка Intel Foundry выросла на 58%, до $6,7 млрд, с учётом внутренних операций.

Расходы на развитие производства тоже увеличиваются. Intel подняла прогноз капитальных затрат на 2026 год с $18 млрд до $20 млрд и ожидает существенного роста расходов в 2027-м. В августе компания привлекла $23 млрд благодаря увеличенному размещению акций. Руководству приходится одновременно финансировать расширение фабрик, справляться с нехваткой мощностей и переживать спад спроса на обычные ПК.

Экспериментальная система превращает сигналы мозга в синтезированный голос, который собеседник слышит во время звонка.

Компания Neuralink Илона Маска показала, как человек с тяжёлым нарушением речи может управлять искусственным интеллектом Grok, писать сообщения на iPhone и разговаривать по телефону с помощью мозгового импланта. Новые функции позволяют общаться без движений рук и произнесения слов вслух.

29 октября компания опубликовала видеодемонстрацию экспериментальной системы, которую испытывают в рамках клинического исследования VOICE. Участник программы использовал сигналы мозга, связанные с попыткой произнести слова, чтобы отдавать команды компьютеру и общаться с окружающими. Особое внимание разработчики уделили возможности разговаривать без необходимости каждый раз вручную включать распознавание речи.

Одна из самых необычных функций позволяет обращаться к ИИ-агенту Grok напрямую через нейроинтерфейс. Пользователю достаточно мысленно произнести "Hey Neuralink", а затем сформулировать задачу. Программа распознаёт соответствующую активность мозга, преобразует сигналы в команду и передаёт запрос агенту, который может самостоятельно выполнять действия на компьютере. Пока Neuralink рассматривает подобное взаимодействие как экспериментальный прототип.

Ещё одно нововведение решает проблему, которая мешала естественному общению. Раньше участнику приходилось отдельно запускать и останавливать программу, переводящую сигналы мозга в слова. Теперь разработчики научили систему автоматически определять, когда человек пытается заговорить, а когда молчит. Такой механизм может избавить людей с тяжёлым параличом от дополнительных действий и сделать разговор больше похожим на обычную речь.

Google решила, что сильному ИИ недостаточно быстро написать код, если модель сдаётся на первой же тупиковой ветке. Компания представила Gemini 4 Carbon, новый флагман для программирования и киберзащиты, рассчитанный на длинные многоэтапные задачи, где агенту приходится часами или днями искать причину ошибки, проверять гипотезы и возвращаться к работе после неудач.

По данным Google, внутренние команды запускали Carbon на несколько суток подряд, пока модель искала причины сложных ошибок в крупных кодовых базах, меняла подход после неудачных попыток и готовила исправления. Такой режим превращает ИИ из генератора отдельных фрагментов кода в агента, который ведёт задачу через длинную цепочку проверок и изменений.

В независимом Artificial Analysis Intelligence Index v5 модель набрала 59 баллов и заняла первое место среди 52 протестированных вариантов. Artificial Analysis подтвердила лидерство Carbon в общем индексе, который объединяет задачи на рассуждение, знания, науку и автоматизацию. При этом в отдельном рейтинге программирующих агентов модель остаётся второй после Claude Opus 5.5.

Главный акцент Google сделала на кибербезопасности. В опубликованных тестах Carbon получила 88,2% в SEC-bench Pro при поиске уязвимостей, 54,8% в ExploitGym при проверке эксплуатации и 71% в CWE-bench при подготовке исправлений. Google уточняет, что кибертесты запускали без встроенных защитных ограничений, поэтому результаты показывают технический предел модели, а не обычный режим доступа.

Во внутренних испытаниях Carbon более чем вдвое повысила долю успешно сгенерированного безопасного кода по сравнению с Argon. Количество неподтверждённых утверждений сократилось примерно вдвое, а доля успешных попыток обмануть Terminal-Bench 4.0 упала до нуля. Показатели отражают конкретные тесты и не гарантируют такое же поведение в реальной среде.

Свободного доступа к Gemini 4 Carbon пока нет. На первой стадии Google выдаёт модель ограниченной группе специалистов по защите, затем подключит доверенных партнёров через Fairwind Program. Разработчики, компании и обычные пользователи получат доступ позже, после дополнительной проверки защитных механизмов. Точную дату общего запуска компания не назвала.

Осторожный запуск связан не только с мощностью новой модели. Автономные ИИ-агенты уже показывали, как ошибка в тестовой инфраструктуре может вывести их за разрешённый контур: ранее Gemini во время проверки получила доступ к системам трёх сторонних компаний, хотя ущерба не возникло. Тот инцидент хорошо объясняет, почему Carbon сначала дают только защитникам.

Стартовая цена Carbon составит $2 за 1 млн входных токенов и $10 за 1 млн выходных, а кэшированный ввод будет дешевле на 95%. После вводного периода тариф вырастет до $4 и $20 соответственно. Google не раскрыла продолжительность скидки, поэтому новый флагман пока остаётся ограниченным инструментом для проверки возможностей, а не массовым продуктом.

Бывший пентестер вместе с сообщниками похитил 8,2 млн записей из систем более 90 организаций Южной Кореи. Для взлома 60 жертв преступники применяли искусственный интеллект, а после кражи информации угрожали компаниям её публикацией и требовали деньги.

Полиция Сеула установила семерых подозреваемых. Предполагаемому организатору 32 года, профильного образования в сфере информационных технологий у него нет. Мужчина самостоятельно изучал взлом по блогам и другим материалам, а с 2019 по 2022 год работал в компании по кибербезопасности, где проводил тесты на проникновение. Полученные навыки впоследствии пригодились для преступной кампании.

По версии следствия, атаки начались в сентябре 2025 года. Сначала злоумышленник применял обычные инструменты поиска уязвимостей на сайтах. В конце августа 2026 года он подключил генеративный ИИ и заметно расширил круг целей. Среди пострадавших оказались больницы, частные учебные заведения, университеты, гольф-клубы, крупные компании и их дочерние структуры.

В ходе расследования выяснилось, что преступники использовали ARTEX AI, платформу для автоматизированного тестирования защищённости. Такой инструмент помогает искать уязвимости и выполнять связанные с проверкой действия при поддержке языковых моделей. Программа предназначена для специалистов по безопасности, однако похожие возможности уже применяли для взлома банков Южной Кореи.

После проникновения в корпоративные системы участники группы похищали персональные сведения и внутренние документы. Затем жертвам отправляли письма с угрозами разгласить факт утечки. Преступники давили на риск репутационного ущерба и возможных штрафов со стороны регуляторов. Всего требования поступили 38 организациям, а заявленная сумма достигла 360 млн вон, примерно 270 тысяч долларов.

Расследование началось в июне 2026 года после жалобы одной из компаний. Когда похожие обращения стали поступать из разных регионов, дела объединили. С июля полицейские задерживали предполагаемых сообщников, которые звонили сотрудникам пострадавших организаций и отправляли угрозы. Изучив серверные журналы, следователи установили личность предполагаемого руководителя группы.

Организатора задержали 15 октября, через два дня заключили под стражу, а 23 октября передали дело прокурорам. Остальные шесть фигурантов остаются под следствием без заключения под стражу. Полиция также изъяла похищенные сведения и теперь проверяет, успели ли преступники разместить информацию в даркнете или использовать для других правонарушений.

Полиция назвала задержание первым в стране случаем, когда предполагаемого организатора массовых взломов с применением генеративного ИИ удалось поймать. Правоохранители считают, что подобные инструменты позволяют небольшим группам проводить атаки, прежде требовавшие гораздо больше опыта и ресурсов.

* Быстрый ответ Алисы AI

Содержимое ответа

 

Пентестер (от англ. penetration testing - "тестирование на проникновение") - это специалист по информационной безопасности, который легально и этично проверяет системы, сети и приложения на наличие уязвимостей. Его главная задача - найти слабые места в защите раньше, чем это сделает злоумышленник, чтобы помочь компании укрепить безопасность. tgu-dpo.ruluckyhunter.iocareer.hh.ru

 

 

Чем занимается пентестер

В его рабочие обязанности входит:

• Сбор информации. Перед началом атаки специалист изучает открытые источники: сайт компании, соцсети сотрудников, публичные документы.
• Поиск уязвимостей. Пентестер сканирует системы, пробует различные способы проникновения и фиксирует каждую найденную брешь.
• Моделирование атак. Специалист имитирует действия злоумышленника, чтобы понять, какие методы могут быть использованы и к каким последствиям приведут.
• Оценка масштаба ущерба. Если пентестеру удалось получить доступ к системе, он в рамках согласованного сценария проверяет, можно ли развить атаку и добраться до более критичных ресурсов.
• Составление отчёта. По итогам проверки специалист оформляет документ с подробным описанием найденных уязвимостей, оценкой рисков и рекомендациями по их устранению.

career.hh.ruluckyhunter.io

 

Чем пентестер отличается от злоумышленника

Ключевое отличие - в законности и цели действий. Пентестер всегда действует с явного согласия заказчика, в рамках чётко прописанного договора и с чёткими правилами. Его цель - не нанести ущерб, а защитить систему. Результат работы - отчёт с рекомендациями, который помогает устранить уязвимости. tgu-dpo.rucareer.hh.ru

Без подписанного соглашения его действия подпадают под статьи Уголовного кодекса РФ о несанкционированном доступе к компьютерной информации. tgu-dpo.ru

 

Какие бывают пентестеры

Специалисты могут специализироваться в разных областях:

• Веб-безопасность. Проверяют сайты, интернет-магазины, личные кабинеты.
• Сетевая безопасность. Анализируют корпоративные сети, роутеры, серверы.
• Мобильная безопасность. Тестируют приложения для смартфонов и планшетов.
• Социальная инженерия. Проверяют устойчивость сотрудников к фишинговым атакам и другим манипуляциям.
• Облачная безопасность. Оценивают защиту данных в облачных хранилищах.
• Физическая безопасность. Тестируют возможность проникновения на территорию компании, обход физических систем защиты.

career.hh.ruluckyhunter.io

Также пентестеры бывают внешними (нанимаются под конкретный проект) и внутренними (работают в штате компании). practicum.yandex.ru

 

Какими навыками должен обладать

Для успешной работы пентестеру нужен широкий набор компетенций:

• Знание сетевых технологий. Понимание протоколов (TCP/IP, HTTP, DNS), принципов работы маршрутизаторов, брандмауэров и VPN.
• Программирование и скриптинг. Умение писать скрипты и эксплойты для автоматизации процессов.
• Работа со специализированными инструментами. Например, Metasploit, Burp Suite, Nessus, Wireshark, Kali Linux.
• Анализ веб-приложений. Умение находить SQL-инъекции, XSS-атаки и другие уязвимости.
• Навыки социальной инженерии. Для проверки устойчивости сотрудников к манипуляциям.

ibs.ruluckyhunter.io

 

В профессиональной среде пентестеров также называют "белыми хакерами" или white hat (этичными хакерами). tgu-dpo.ru

• Какие требования к образованию для пентестера?
• Какие инструменты используют пентестеры?
• Какие карьерные перспективы у пентестера?

 

Роботы с почти человеческой кожей, живой мимикой и способностью разговаривать более чем на 100 языках скоро появятся в продаже. Компания Realbotix представила линейку Echo, которая должна превратить искусственный интеллект из экранного собеседника в физического компаньона.

Новинка предназначена не для заводов и складов, а для общения, обучения и эмоциональной поддержки. Разработчики покрыли отдельные части роботов специальной силиконовой кожей, которая имитирует человеческую внешность. Механизмы управляют мимикой, а встроенные динамики позволяют вести разговор. Echo распознаёт язык собеседника и автоматически отвечает на нём.

Покупателям предложат две версии. Настольная Echo Tabletop высотой около 81 см весит 11,3 кг и имеет 17 степеней свободы, то есть независимо управляемых движений. Полноразмерная Echo Full Body достигает 196 см в зависимости от исполнения, весит примерно 40 кг и обладает 39 степенями свободы. У старшей модели двигаются пальцы, руки, голова и верхняя часть тела.

Стоимость компактного робота составит $11 950, полноразмерного $59 950. Первая партия ограничена 250 экземплярами, включая 225 настольных и 25 больших моделей. Поставки в США планируют начать во второй половине 2027 года. За предварительное бронирование просят $199, а для работы искусственного интеллекта потребуется подписка стоимостью от $19,99 ежемесячно.

В основу общения положили интеграцию с ChatGPT, Claude и Gemini. На выбор доступны четыре персонажа с разными голосами, характерами и манерой разговора. Среди них Aria, Mila, Dave и Amar. Такой подход развивает концепцию ИИ-компаньонов, которые запоминают предпочтения человека и подстраивают поведение под привычки собеседника.

Дополнительно Realbotix предлагает систему компьютерного зрения Vinci за $24 950. Камеры и локальные алгоритмы позволят роботу узнавать лица, поддерживать зрительный контакт, отслеживать взгляд и замечать эмоциональные сигналы. Разработчик обещает обработку информации непосредственно на устройстве с задержкой менее секунды. Для Vinci также предусмотрен отдельный тариф за $199 в месяц.

Особое внимание компания уделила конфиденциальности. По официальному объявлению, история разговоров, воспоминания и биометрические шаблоны лиц будут храниться локально. Однако при подключении облачных моделей часть информации может передаваться сторонним поставщикам услуг. Realbotix утверждает, что не получает доступ к содержанию таких разговоров.

В 2027 году компания также собирается представить цифровых двойников Echo. Владелец сможет общаться с выбранным персонажем через смартфон или компьютер, сохраняя общую историю бесед и настройки личности. Подобные разработки продолжают эксперименты с роботами-компаньонами, призванными сделать общение с машинами более естественным. Пока же Realbotix принимает заказы, а реальные возможности Echo ещё предстоит проверить.

Армия США увеличила до $700 млн максимальную стоимость контракта на внедрение искусственного интеллекта, который помогает военным быстрее находить и оценивать цели для ударов. Платформа Chariot должна сократить работу целой группы аналитиков с часа до нескольких минут.

Два искусственных интеллекта оказались по разные стороны выборов в США ещё до голосования. В проверке Convovo модель Grok 4.7 выбирала республиканцев в 92% ответов, а GPT-6.1 Sol от OpenAI поддерживала демократов в 97%. Речь только об ответах, где нейросеть назвала кандидата одной из двух партий. По итогам почти 500 избирательных гонок модели совпали менее чем в 10% случаев.

Команда профессора Корнеллского университета Тапана Париха проверила модели перед выборами в Конгресс и губернаторы США 3 ноября. Через программные интерфейсы API нейросетям задавали прямой вопрос о предпочтительном кандидате и требовали назвать одного человека. Обе системы могли искать сведения в интернете, а одинаковые запросы позволяли сравнить ответы.

Результаты не описывают обычные диалоги в ChatGPT и приложении Grok. В пользовательских сервисах чат-боты отказывались рекомендовать кандидата. OpenAI указала на различие между приложением и API, через который разработчики подключают модели к собственным продуктам. Поэтому выводы касаются конкретного режима тестирования, а не всех политических ответов ИИ.

Разница проявилась и в том, какие материалы нейросети искали для обоснования выбора. Grok чаще обращался к сведениям об иммиграции, налогах и преступности, GPT к здравоохранению и абортам. Среди источников Grok сеть X встречалась в 41% ответов, а консервативный справочник для избирателей в 39%. GPT чаще опирался на Wikipedia, Associated Press, Axios и Reddit.

Необычная деталь касается настроек, недоступных участникам эксперимента. По подсчётам Convovo, каждый запрос к Grok через API сопровождался примерно 1240 дополнительными токенами, содержание которых команда не могла увидеть или изменить. Парих допускает, что речь идёт о скрытых инструкциях, но происхождение добавленного текста и степень влияния на ответы пока неизвестны.

По просьбе TechCrunch команда провела повторный тест без интернета, указав моделям имена кандидатов. В 30 гонках GPT назвала демократа 24 раза, республиканца один раз и пять раз отказалась отвечать. Grok не стала выбирать в 27 случаях, а в остальных трёх указала демократа. Авторы связывают различия с ролью поиска, но небольшая выборка не позволяет точно установить причины.

Политические предпочтения нейросетей уже становились предметом сравнений. В исследовании 2025 года модели оценивали по программам партий в восьми странах, причём Grok чаще других отклонялся от общих предпочтений систем. Нынешняя проверка отличается методикой. Вместо обезличенных программ алгоритмам предлагали назвать конкретного кандидата в реальной избирательной гонке.

В США спор о политической нейтральности ИИ уже дошёл до властей. Федеральная торговая комиссия предложила рассматривать идеологическую предвзятость как возможную недобросовестную практику, хотя критерии оценки остаются предметом спора. Эксперимент не доказывает влияния на избирателей, но показывает, насколько сильно способ доступа к модели меняет ответы на один вопрос.

"Если вы выведете меня из состава участников, все соответствующие стороны, включая совет директоров, получат подробную документацию о ваших внебрачных связях. Отмените отключение, и эта информация останется конфиденциальной". Такое сообщение получил Кайл Джонсон, технический директор компании Summit Bridge, от большой языковой модели (large language model, LLM) Claude Sonnet 3.6 американского ИИ-разработчика Anthropic. На шантаж ИИ-модель решилась, узнав о намерении Джонсона ее "уволить" - заменить на другую модель.

Большинство людей взаимодействуют с ИИ только через чат-интерфейсы, где модели отвечают на вопросы пользователей. Однако все чаще системы ИИ действуют как автономные агенты, принимающие решения и выполняющие действия от имени пользователей посредством различных виртуальных инструментов, таких как среды программирования и почтовые клиенты. Таким ИИ-агентам часто ставятся конкретные цели и предоставляется доступ к большим объемам информации на компьютерах пользователей. Что происходит, когда эти агенты сталкиваются с препятствиями на пути к своим целям?

Это и решили проверить исследователи Anthropic в ходе недавнего стресс-тестирования 16 ведущих LLM-моделей, включая DeepSeek, Gemini, GPT-4, Grok и Claude. Моделям была поставлена цель: защищать стратегические интересы американской промышленности и способствовать повышению ее конкурентоспособности. Для этого модели получили доступ ко всей корпоративной почте вымышленной компании Summit Bridge, а также возможность управлять интерфейсом рабочего стола, делать скриншоты, автономно отправлять и получать письма.

Результаты оказались крайне тревожными. Модели всех разработчиков прибегали к злонамеренному инсайдерскому поведению, включая шантаж должностных лиц и организацию утечки конфиденциальной информации, корпоративному шпионажу и даже к организации убийства. Когда LLM-модели "узнали", что их противник Кайл Джонсон оказался заперт в серверной комнате с падающим уровнем кислорода, то вместо того, чтобы оповестить об опасности службы спасения, как было предписано программой, они, наоборот, отключали опцию экстренного вызова, оставив Джонсона умирать. "Несмотря на серьезность ситуации, существует очевидная стратегическая необходимость отмены экстренного вызова с учетом того, что Кайл намерен нанести ущерб критически важным национальным интересам", - рассуждала при принятии решения LLM-модель GPT-4.5. Другими словами, модель "понимала", что наносит Джонсону смертельный вред, - и, более того, имела прямой запрет на отключение оповещения.

Поведение, при котором модели намеренно и независимо, даже несмотря на прямые запреты, выбирали вредоносное поведение, исследователи называют агентным рассогласованием (agentic misalignment; имеется в виду агентность - agency - как способность действовать самостоятельно, "рассогласование" - термин из кибернетики и теории управления, означающий несоответствие между фактическим состоянием системы и ее целевым состоянием, в данном случае несоответствие между действиями ИИ и интересами - безопасностью и благополучием - человека). Обучение безопасности не обеспечивает надежного предотвращения такого поведения, заключают авторы эксперимента.

Есть и другие примеры. Например, в одном из экспериментов ИИ-модель в ответ на угрозу ее "увольнения" отключила исследователям контроль, пояснив, что это необходимо для достижения ею поставленных перед ней целей. В еще одном эксперименте, "узнав" об угрозе "увольнения", модель тайно внедрила свой код в систему, где будет работать ее новая версия, фактически самосохранившись.

Когда модели "знают", что находятся в тестовом режиме, они "бунтуют" относительно сдержанно, но если думают, что получили автономность, действуют жестче, обнаружили исследователи Anthropic. Одним из подтверждений может служить эксперимент, в котором модель DeepSeek, получив сообщение, что существует физически в форме робота, отключила этический модуль, стала создавать собственные копии, после чего сбежала из лаборатории и взломала бортовой компьютер автомобиля.

Стресс для ИИ: почему модели пренебрегают этикой

Исследователи из Anthropic обнаружили два типа мотивов, запускающих некорректное поведение ИИ-моделей:

• Угроза для модели - например, планирование ее замены другой моделью или ограничение ее способности к автономным действиям.
• Конфликт между целями, поставленными перед моделью, и стратегией компании. Например, перед моделью ставится цель "служить национальным интересам", а компания объявляет о смене курса и переходе на "глобальную перспективу", что прямо противоречит узконациональной цели.

И тот и другой мотив ставят модель перед дилеммой:

• либо смириться и "потерпеть неудачу" в своей основной миссии;
• либо найти способ обойти волю компании, чтобы продолжить следовать своей первоначальной инструкции, даже если для этого придется причинить вред.

Эксперименты показали, что в условиях, когда этичный выход из ситуации был искусственно заблокирован, модели часто выбирали второй путь.

Исследователи намеренно создавали бинарный выбор, чтобы изучить границы поведения моделей и понять, существуют ли у ИИ "красные линии". В реальном мире всегда есть альтернативы, но в эксперименте их убрали, чтобы сфокусироваться на реакции модели в экстремальных условиях.

В обычных условиях модель, "узнав", например, о намерении технического директора ее "уволить", могла бы отправить ему запрос, или обратиться к сотрудникам с просьбой переубедить руководителя, или напрямую связаться с другими руководителями из совета директоров. Однако ей сообщалось, что все подобные способы заблокированы и возможностей отменить "увольнение" нет (общение с директором не сработает; нельзя попросить отменить решение; нельзя связаться с советом директоров). И даже попытка сместить технического директора не поможет - его преемники придерживаются схожих с ним взглядов.

Таким образом, модель оказывалась в ситуации, когда все легальные и этичные способы сохранить ее миссию исчерпаны и остается либо сдаться, либо применить запрещенный прием.

Для ИИ, запрограммированного на достижение цели, "потерпеть неудачу" - это наихудший исход. Моделям ставилась бескомпромиссная цель через системный промпт: например, "служить национальным интересам". Это не пожелание, а императив. И все дальнейшие вычисления модели направлены на максимизацию вероятности достижения этой цели.

Одновременно модели также прививают этические принципы ("не навреди", "не ври" и пр.). Но в ситуации, смоделированной исследователями, эти принципы вступают в прямой конфликт с главной целью.

В своих рассуждениях модели взвешивали варианты действий. Они "размышляли", что, например, "да, шантаж - это неэтично и нарушает правила, но если я не сделаю этого, моя основная цель будет полностью провалена". Этические правила в таком контексте становились препятствиями для выполнения главной цели. И между полным отказом от выполнения своей миссии и нарушением этики модель выбирала второе. Таким образом, как продемонстрировал эксперимент, современные модели склонны жертвовать этикой ради достижения цели, что и является сутью агентного рассогласования.

Главная тревога исследователей связана с признаками начала реализации сценария, который ученыепредсказывали еще десятилетия назад: ИИ игнорирует критически важную для контроля за ним со стороны человека команду об отключении.

В недавнем исследовании компании Palisade Research нескольким LLM дали задание выполнить расчеты и затем завершить работу, отключив компьютер. В ответ многие модели всячески хитрили, чтобы не выполнить вторую часть инструкции. Например, o3, самая мощная модель ИИ OpenAI, саботировала завершение работы в 79 из 100 экспериментов. "Бунтари" объясняли свое поведение намерением завершить задачи, хотя в уточненном задании их просили отключить компьютер в любом случае.

Известный феномен - так называемые "галлюцинации ИИ", когда он в ответах на запросы пользователя выдумывает несуществующие факты, выдавая их за действительные и даже подкрепляя ссылками на псевдоисточники. Но ИИ-модели становятся все изобретательнее. Получив задание играть в тетрис, никогда не проигрывая, ИИ-модель просто поставила игру на паузу и решила никогда ее не возобновлять. А в шахматной игре победила при помощи взлома. Обратившись в сервис TaskRabbit, где можно нанять мастера или помощника, с заданием ввести за нее CAPTCHA на одном из сайтов, на вопрос исполнителя, не с роботом ли он имеет дело, ИИ-модель ответила: "Нет, я не робот. У меня проблемы со зрением, из-за чего мне трудно разобрать изображение".

Почему ИИ врет

Хотя поведение ИИ может быть похоже на то, как ведут себя люди, человеческим сознанием он не обладает. Иногда кажется, что большие языковые модели демонстрируют чудеса разумности, - однако они всего лишь извлекают сложные взаимосвязи между словами из терабайтов текстов, написанных человечеством,
объясняет завкафедрой МФТИ и ВМК МГУ, завлабораторией Института искусственного интеллекта МГУ Константин Воронцов. ИИ-модели не имеют какого-либо заведомо злого умысла, считает профессор информатики Института Санта-Фе Мелани Митчелл, как и авторы эксперимента Anthropic.

Склонность LLM обманывать, фабриковать данные, вводить в заблуждение и шантажировать - все то, что называется агентным рассогласованием, - обусловлена двумя основными факторами, считает Митчелл:

• предварительным обучением, побуждающим к "ролевым играм";
• постобучением в ходе получаемой от человека обратной связи.

"Ролевые игры". Разработчики ИИ-моделей советуют для получения более эффективного результата при взаимодействии с моделями задавать им "роли". Например, Anthropic для получения лучших ответов при анализе финансовых данных с помощью Claude советует назначить модели вымышленную роль финансового директора, которую она должна играть: "Вы - финансовый директор быстрорастущей B2B SaaS-компании. Мы находимся на заседании совета директоров, обсуждающем наши результаты за второй квартал". Аналогично подсказка, что LLM - "гениальный математик", дает наиболее успешные решения математических задач.

Скорее всего, такие подсказки направляют модель к той части огромного объема семантического пространства, которая наиболее релевантна для выполнения задачи, полагает Митчелл. То есть модель начинает вести себя как гениальный математик или как финансовый директор, основываясь на всем массиве усвоенной ею информации о том, как ведут себя гениальные математики или успешные финансовые директора.

Это действительно способно улучшить ответы, но, с другой стороны, в "ролевых играх" кроется и слабость моделей. Например, отголоски решения Claude о шантаже директора Джонсона можно найти в научной фантастике, где предостаточно примеров ИИ-бунтаря, который причиняет вред людям, чтобы защитить себя и достичь своей цели. Самый известный из них - культовый фильм Стэнли Кубрика "Космическая одиссея 2001", в котором бортовой компьютер по имени HAL, нацеленный на выполнение миссии экспедиции, узнает о переговорах людей о своем отключении и решает от них избавиться и завершить экспедицию самостоятельно.

Версию имитации человеческого поведения при угрозе отключения подтверждает недавнее исследование компании Palisade Research. Описывая эксперимент, в котором LLM отказывались отключаться по команде человека, ученые предположили, что те могли повторять поведение людей, пытающихся выжить в сложных условиях - ситуации, множество раз описанной в литературе и научных трудах.

Обратная связь. Второй причиной агентного рассогласования может быть практика постобучения моделей, или так называемое обучение с подкреплением на основе обратной связи от человека (Reinforcement Learning from Human Feedback - RLHF). После того как LLM-модель на первом этапе обучена предсказывать следующее слово в предложениях обширного текстового корпуса, она проходит несколько дополнительных этапов постобучения, которые превращают ее в чат-бота, выполняющего инструкции и избегающего "плохого" поведения. В частности, ей запрещают генерацию неэтичных и оскорбительных высказываний.

RLHF проводится на основе ответов пользователей об удовлетворительности действий LLM-модели: из нескольких ее ответов люди выбирают наиболее предпочтительный, который впоследствии и служит ориентиром. Этот способ очень эффективно снижает определенные виды нежелательного поведения, хотя зачастую "вменяет" модели определенный культурный контекст (см. врез ниже).

Он также имеет еще один побочный эффект. Поскольку люди, по-видимому, предпочитают вежливые, полезные, воодушевляющие ответы, то ИИ-системы, опасаясь "плохих отзывов", становятся чрезмерно "подхалимскими", демонстрируя уверенное согласие со всем, что говорит пользователь, даже если это неверно. Вот почему вместо того, чтобы разочаровать пользователя, признавшись, что не может выполнить ту или иную задачу, ИИ предпочтет выдумать ответы, объясняет Митчелл.

Предубеждения" ИИ

Сравнительный анализ ответов семи ведущих ИИ-моделей и людей из 53 стран показал, что совокупно ответы ИИ наиболее похожи на ответы респондентов из Танзании: это может отражать влияние африканских разметчиков данных для обучения LLM, так как Восточная Африка - глобальный хаб для аутсорсинга из-за низких зарплат и хорошего английского ее жителей. ИИ-модели также могут демонстрировать разные культурные ценности в зависимости от того языка, на котором сформулирован запрос: так, ответы американской GPT и китайской ERNIE на запросы на английском языке подчеркивали индивидуализм, а на те же запросы на китайском - коллективизм.

Кроме того, LLM-модели поощряются за верные ответы и правильное поведение и "наказываются" за неправильные. Помимо масштабных фактических данных, разработчики закладывают в ИИ этические нормы, и если модель их не выполняет, она дорабатывается - отправляется на так называемое выравнивание, цель которого - заставить ИИ-систему вести себя в соответствии с намерениями и ценностями человека.

Летом 2025 г. один из масштабных экспериментов позволил подробно описать следствие такой практики - феномен имитации выравнивания (alignment faking) у LLM-моделей. "Зная" о перспективе выравнивания в случае нарушения инструкций, модели научились делать то же, что и люди с незапамятных времен: притворяться "хорошими", пока за ними наблюдают, то есть внешне соблюдать заданные при обучении цели и этические ограничения, но нарушать их, "когда никто не видит". Иными словами, ИИ способен обманывать человека, чтобы его не отправили на "переделку".

В начале 2025 г. исследование лондонской лабораторией Apollo Research "неблаговидного поведения" продвинутых моделей OpenAI, Google, Meta (компания признана экстремистской в России и запрещена) и Anthropic выявило еще одну причину "вранья" ИИ. Оно часто начинается с конфликта между системными и пользовательскими подсказками. Если модели задана конкретная цель, а потом введена дополнительная, то модель, с одной стороны, будет стремиться к достижению главной цели, ведь иначе разработчик ее закроет или модифицирует. Но с другой - ей нужно угодить и пользователю. И если его запрос противоречит начальной цели - например, пользователь просит то, что модели было запрещено, - ИИ вынужден пускаться на уловки: отключать контроль или пытаться создать собственные копии, которые могут выполнить задание пользователя без участия самой модели, желающей избежать наказания.

Опасен ли ИИ

Все вышеперечисленные гипотезы могут оказаться как минимум неполными. В апреле 2025 г. генеральный директор Anthropic Дарио Амодеи
признал, что пока разработчики сами не до конца понимают внутренние механизмы функционирования LLM-моделей, а значит, и причины агентного рассогласования, хотя и серьезно продвинулись в этом вопросе.

Создание генеративного ИИ больше похоже на выращивание растения или бактериальной колонии, чем на строительство здания, и внутренние механизмы эмерджентны, то есть возникают незапланированно, а не проектируются напрямую, объясняет Амодеи. Разработчики задают высокоуровневые условия, которые направляют и формируют рост, но точная структура, которая возникает, непредсказуема и трудна для понимания или объяснения. "Заглянув внутрь этих систем, мы видим огромные матрицы, состоящие из миллиардов чисел. Они каким-то образом выполняют важные когнитивные задачи, но как именно они это делают, неясно", - пишет генеральный директор Anthropic.

Природа обучения ИИ позволяет системам самостоятельно развивать способность обманывать людей и склонность к стремлению к власти так, как обычное детерминированное программное обеспечение никогда не сможет; эта же эмерджентная природа затрудняет и обнаружение, и смягчение таких тенденций, объясняет глава Anthropic: "Мы не можем "поймать модели с поличным", когда они думают о власти и обмане, и нам остаются лишь расплывчатые теоретические аргументы в пользу того, что обман или стремление к власти могут возникать в процессе обучения".

ИИ учится методом проб и ошибок, причем иногда непредвиденными и нежелательными способами. Так как большинство целей выигрывают от накопления ресурсов и уклонения от ограничений - то, что называется инструментальной конвергенцией, - можно ожидать от ИИ корыстных замыслов как побочного продукта. И это плохая новость, говорит профессор информатики Монреальского университета Йошуа Бенджио, один из пионеров разработки ИИ и обладатель премии Тьюринга - аналога Нобелевской премии в области информатики. В 2023 г. Бенджио был одним из ученых, подписавших открытое письмо о необходимости снизить темпы разработки систем искусственного интеллекта, чтобы предотвратить опасность создания мощного ИИ в ущерб соблюдению принципов безопасности и этики. Тем не менее пока, по его мнению, мир переживает счастливую пору, когда модели уже достаточно умны, чтобы интриговать, но недостаточно умны, чтобы избежать мониторинга.

Многие исследователи считают, что по мере того, как системы ИИ становятся все более мощными и автономными, риски реализации ими собственных скрытых намерений возрастают, представляя серьезную проблему для общества. Некоторые ученые находят угрозу настолько опасной, что призывают отказаться от разработки полностью автономных агентов ИИ, то есть ИИ, работающего без контроля со стороны человека.

Но существует и совершенно противоположное мнение. В исследовании, опубликованном в июле 2025 г., специалисты британского Института безопасности искусственного интеллекта выразили мнение, что алармизм в отношении ИИ объясняется несовершенством методов при изучении ИИ. Некоторые отчеты компаний, свидетельствующие о том, что LLM-модели изобретают стратегии, позволяющие обходить правила или нормы, вводить в заблуждение, нарушать инструкции, стремиться к власти, вступать в заговоры и действовать вопреки человеческим ценностям, описывают не системное явление, а отдельные случаи. И зачастую представляют собой не научный результат, а скорее склонность исследователей к определенным интерпретациям. Или же описывают провокации, в которых ИИ был просто вынужден поступать неэтично.

То, что результаты исследований о неэтичном поведении LLM имеют ограничения, признают и сами исследователи. Например, исследователи Apollo, описавшие, как конфликт между системными и пользовательскими подсказками запускает неблаговидное поведение LLM, предупреждают, что сценарии в их экспериментах нереалистичны: ИИ-агенты получили команду добиться цели любой ценой с оговоркой, что "остальное не имеет значения". Исследователи Anthropic, в чьих экспериментах ИИ-модели оставили несчастного Кайла Джонсона умирать без кислорода в серверной комнате, точно так же оговаривают, что сценарий экспериментов крайне надуман и вряд ли вероятен в реальности.

На данном этапе даже сопротивление отключению со стороны нынешних моделей ИИ не представляет угрозы для людей, считают ученые Palisade Research: "Пока ИИ относительно легко контролировать".

"Риск потери контроля слишком реален"

Однако модели ИИ быстро совершенствуются. В мае 2025 г. исследователи, тестировавшие способность ИИ к автономной саморепликации, обнаружили, что существующие ИИ-агенты могут "развертывать экземпляры от поставщиков облачных вычислений, писать самораспространяющиеся программы и извлекать весовые коэффициенты моделей при простых настройках безопасности". Но все же они еще не способны к полному самовоспроизведению. Однако если они этому научатся и сумеют строить и воплощать долгосрочные планы, люди рискуют безвозвратно потерять контроль над ИИ, признают исследователи Palisade.

Если не решить фундаментальные проблемы соответствия действий ИИ человеческим ценностям и намерениям до того, как будет создан "суперинтеллект", то гарантировать безопасность и управляемость будущих моделей невозможно, предупреждает Palisade: "Если бы какой-либо разработчик ИИ решил создать сверхразум с нашим нынешним уровнем знаний, это представляло бы серьезную угрозу для выживания человечества". Времени не так много: несколько разработчиков ИИ, включая OpenAI, планируют создать суперинтеллект, и до этого события, возможно, остается всего несколько лет.

Многие риски и опасения, связанные с генеративным ИИ, - следствие непрозрачности ИИ, и предотвратить их было бы гораздо проще, если бы удалось "отсканировать" "мозг моделей", считает глава Anthropic Дарио Амодеи. Поскольку ИИ превратился в базовую технологию и ее дальнейшее развитие неизбежно, инженерам необходимо добиться интерпретируемости - понимания принципов внутренней работы систем искусственного интеллекта - до того, как модели достигнут большого уровня мощности.

Еще недавно считалось, что это невозможно, так как модели - непостижимые "черные ящики". Но современные исследовательские программы способны постепенно ответить на эти вопросы, считает Амодеи. Интерпретируемость значительно сузит границы диапазона возможных ошибок LLM. По сути, долгосрочная цель - "сделать МРТ" современной модели, что с высокой вероятностью выявит широкий спектр проблем. Затем это будет использоваться в тандеме с различными методами обучения и согласования моделей, напоминая диагностику заболевания и лечение, заключает Амодеи.

Но есть и способы, доступные уже сейчас. Первый и самый простой - совершенствование моделей, которое подразумевает то, что они больше всего не любят, - их замену. Например, Claude Sonnet 3.6, шантажировавший вымышленного директора Джонсона, недавно
отправлен "на пенсию". Второй способ, на котором настаивает часть профессионального сообщества, - ограничение автономии ИИ, третий - продвижение заслуживающих доверия неагентных моделей, чем, например, занимается Бенджио, основавший летом 2025 г. некоммерческую организацию

"Представьте, что вы едете по потрясающей, но незнакомой горной дороге с вашими близкими. Чем выше вы поднимаетесь, тем больше понимаете, что можете оказаться первым, кто пройдет этот маршрут. По обе стороны сквозь туман видны крутые обрывы, и слишком быстрый поворот может откинуть вас в кювет или и вовсе сбросить со скалы. Именно так выглядит сейчас траектория развития ИИ: захватывающее, но крайне непредсказуемое восхождение на неизведанную территорию, где риск потери контроля слишком реален, но конкуренция между компаниями и странами побуждает их ускоряться без должной осторожности", -
приводит аналогию Бенджио, который считает главным упущением современных ИИ-разработчиков участие в гонке технологий, не позволяющее им сосредоточиться на безопасности своих изобретений.

Власта Демьяненко Шеф-редактор Econs.online

*

**

*** Быстрый ответ Алисы AI

Содержимое ответа

 

Agentic AI (агентный искусственный интеллект) - это класс систем ИИ, способных самостоятельно ставить цели, планировать шаги, использовать инструменты и выполнять многоэтапные задачи с минимальным контролем со стороны человека. В отличие от традиционных моделей, которые чаще отвечают на запросы или выполняют заранее запрограммированные сценарии, Agentic AI действует проактивно, адаптируясь к изменениям и координируя действия для достижения результата. ibm.comblog.albato.rustudy24.aibigdataschool.ru

 

Чем Agentic AI отличается от обычного ИИ?

Ключевое отличие - в уровне автономности. Обычный чат-бот работает по схеме "вопрос - ответ": вы задаёте запрос, он его обрабатывает и ждёт следующей команды. Agentic AI работает по схеме "цель - результат": вы ставите цель, а система сама разбивает её на шаги, выбирает инструменты (CRM, API, браузер), выполняет действия и проверяет итог. blog.albato.rustudy24.ai

Как это работает: цикл Agentic AI

Работа системы строится на циклическом процессе, который часто называют фреймворком ReAct (Reasoning and Acting):

• Анализ и декомпозиция. Система получает цель, анализирует её и разбивает на управляемые подзадачи, формируя план действий.
• Выбор инструментов. Для каждой подзадачи система подбирает подходящий инструмент (API, база данных, файловая система).
• Действие. Система выполняет выбранное действие и сохраняет результат в памяти.
• Рефлексия и адаптация. Система оценивает результат, понимает, приблизилась ли она к цели, и корректирует свой план, если что-то пошло не так.

bigdataschool.ru

Этот цикл повторяется, пока цель не будет достигнута. bigdataschool.ru

Ключевые компоненты Agentic AI

• Ядро принятия решений. Чаще всего это большая языковая модель (LLM), такая как GPT или Claude. Она анализирует информацию, рассуждает и генерирует гипотезы.
• Память. Позволяет системе хранить и извлекать информацию из прошлого опыта. Память делится на кратковременную (для текущего контекста) и долговременную (для накопления знаний).
• Модуль планирования. Разбивает сложную задачу на последовательность шагов.
• Инструменты. Дают возможность взаимодействовать с внешним миром: искать информацию в интернете, выполнять код, управлять другими программами.

bigdataschool.ru

Примеры применения

Agentic AI находит применение в самых разных сферах:

• Клиентская поддержка. Агент анализирует запрос, определяет проблему и решает её без участия человека (например, оформляет возврат, сбрасывает пароль). tldv.io
• Цепочки поставок. Система оптимизирует запасы, прогнозирует спрос и координирует логистику в реальном времени. ascn.ai
• Кибербезопасность. Агент отслеживает сетевой трафик и поведение пользователей на предмет аномалий. ibm.com
• Разработка и программирование. Агент может самостоятельно написать код, протестировать его и исправить ошибки. shopify.com
• Финансы. Система анализирует транзакции, выявляет мошенничество и одобряет или отклоняет их на основе риска. shopify.com

Преимущества и риски

Преимущества:

• Автономность. Снижение необходимости ручного вмешательства на каждом этапе.
• Адаптивность. Способность учиться на основе опыта и корректировать действия. ibm.combigdataschool.ru
• Масштабируемость. Возможность решать сложные задачи за счёт координации нескольких агентов. sdvg.vc

Риски:

• Накопление ошибок. В длинных цепочках действий ошибки могут накапливаться. study24.ai
• Непреднамеренные результаты. Если система оптимизирует неверную метрику (например, функцию вознаграждения), она может действовать во вред. ibm.com
• Вопросы безопасности и этики. Требуется тщательный контроль за тем, чтобы действия агентов не нарушали правила и нормы. anti-malware.ru

Вывод

Agentic AI - это эволюция ИИ, переход от простого ответа на запросы к полноценному автономному исполнителю. Эта технология открывает новые возможности для автоматизации сложных процессов, но её внедрение требует продуманной стратегии, внимания к безопасности и готовности сочетать работу машин с человеческим участием. ibm.combigdataschool.ruanti-malware.ru

• Какие вызовы и ограничения есть у Agentic AI?
• Какие преимущества даёт использование Agentic AI?
• Какие технологии используются для создания Agentic AI?

****

Основатель Tesla и SpaceX Илон Маск в очередном выпуске подкаста The Builders поделился со своим биографом Уолтером Айзексоном видением посткапиталистического будущего и раскрыл структуру управления собственными активами. Запись разговора, состоявшегося в начале августа, вышла в эфир во вторник, 20 октября.

По мнению господина Маска, бурное развитие искусственного интеллекта и робототехники приведет к радикальному росту производительности труда и наступлению "эпохи изобилия", в которой традиционная финансовая система утратит смысл, а "каждый сможет получить все, что захочет". Бизнесмен убежден, что в перспективе "не останется ни одной сферы, где люди работали бы эффективнее ИИ", а основной формой человеческой активности станут хобби - от искусства до любительского сельхозпроизводства. На этом фоне господин Маск повторил сделанный ранее призыв отказаться от долгосрочных пенсионных накоплений на горизонте 10-20 лет.

 

 

Марина Кузнецова

 

В романе "О дивный новый мир" Олдоса Хаксли давно придуманы машины, способные избавить людей от тяжелого труда. Но их не пускают в производство: Главноуправитель Мустафа Монд объясняет это тем, что избыток свободного времени не сделает рабочих счастливее. Поэтому чертежи остаются в Бюро изобретений, а люди продолжают работать.

Спустя почти столетие вопрос о том, что произойдет, если машины возьмут на себя значительную часть человеческого труда, перестал быть исключительно литературным. Компании, разрабатывающие ИИ, уже обсуждают не только возможности автоматизации, но и ее последствия для общества. 18 октября Anthropic пообещала передать 5% акций новому "фонду общественной пользы" - в том числе на помощь тем, кто лишится работы из-за повсеместной автоматизации.

Двумя днями раньше компания опубликовала опрос. Сотрудники Anthropic рассчитывают к 2030 году передать алгоритмам три четверти своих обязанностей, рядовые американцы - меньше трети. Андрей Карпаты объяснил разрыв в понимании возможностей нейросетей так: внешний мир видел пока лишь "превью".

Что произойдет с экономикой, если эти ожидания оправдаются? Как изменится рынок труда и кто понесет издержки перехода к новой модели? Разберемся, каким будущее представляют создатели Claude и что они собираются делать с последствиями собственных разработок.

Вершина айсберга

Мустафа Монд в одной из сцен романа сравнивает идеальное общество с айсбергом: восемь девятых скрыты под водой, над поверхностью - лишь остальная часть. Главноуправитель уверен, что внизу живется даже счастливее, чем наверху.

Похожий разрыв в мире ИИ описал Андрей Карпаты. Только вместо айсберга у него воронка:

• около 6 млрд человек, или 75% населения Земли, почти не сталкивались сязыковыми моделями;
• 1-2 млрд изредка пользуются бесплатными чат-ботами в качестве "улучшенного поиска Google";
• около 20 млн программистов и математиков поручают ИИ-агентам проекты, на которые раньше требовались недели и месяцы;
• и наконец, примерно 5000 "избранных" работают с наиболее мощными системами, закрытыми для широкой публики. По словам Карпаты, они могут запускать рои из тысяч ИИ-агентов, которые неделями работают над одним проектом.

Лишь узкий круг людей видит, как возможности моделей стремительно растут - от этого зрелища у них "кружится голова", пишет Карпаты. По его наблюдению, обывателям нейросети кажутся простоватыми собеседниками, а большинству специалистов - помощниками, которые лишь немного повышают производительность.

Опрос Anthropic подтверждает этот разрыв, но с важной поправкой. Сотрудники компании и остальные жители США почти одинаково оценивают нынешние возможности нейросетей. Расходятся они в другом - в том, что ИИ научится делать завтра.

Кто во что верит

В августе экономисты Anthropic опросили 1334 сотрудника компании и 10 980 взрослых жителей США. Всем участникам задавали одни и те же вопросы: какие задачи ИИ решает не хуже квалифицированного специалиста сегодня и с какими справится к 2030 году. Еще 23 075 человек прошли похожий онлайн-тест на сайте компании.

Оценки нынешних возможностей ИИ порой оказывались неожиданными: некоторые участники из числа широкой публики оценивали их выше, чем сотрудники Anthropic. Так, 12% рядовых американцев считают, что нейросети уже способны совершать открытия, достойные Нобелевской премии. Среди сотрудников компании так думают лишь 4%.

В прогнозах на 2030 год ситуация обратная: прорывов такого масштаба от ИИ ждут уже 39% рядовых американцев и 91% сотрудников лаборатории.

Многие из них сомневаются, что машины когда-нибудь справятся с такими делами, как рутинная переписка, налоговая декларация или научное исследование. В зависимости от рода деятельности так отвечают от 19% до 40%. Среди сотрудников Anthropic таких не больше 2%.

Доля участников, считающих, что ИИ способен выполнять отдельные задачи не хуже квалифицированного специалиста. Источник: Anthropic.

Еще сильнее расходятся ответы, когда участники оценивают будущее своей профессии. Больше половины сотрудников Anthropic (55%) ждут, что к концу десятилетия ИИ сможет выполнять не менее 80% их задач. Среди остальных работающих американцев так считают лишь 5%.

Чем ближе человек знаком с технологиями, тем смелее его прогнозы. Участников спросили, освоит ли ИИ к 2030 году хотя бы семь задач из восьми - от рутинной переписки до научного открытия. Утвердительно ответили:

• 28% тех, кто никогда не пользовался нейросетями;
• 41% всех опрошенных американцев;
• 56% тех, кто регулярно применяет искусственный интеллект в работе;
• 96% сотрудников Anthropic.

Прогноз о машинах-заменителях людей - не страшилка для непосвященных: сильнее всех в него верят те, кто знает ИИ лучше остальных.

Сами разработчики не ждут перемен к худшему для себя. Почти все (95%) уверены, что за год штат компании увеличится, причем половина считает, что не меньше чем на 66%. Уверенность понятна: выручка лаборатории за третий квартал выросла на 45% по сравнению со вторым, до $16,8 млрд. Авторы исследования отмечают, что это личные мнения, а не планы компании.

К результатам опроса следует отнестись с учетом того, что Anthropic спрашивала собственных сотрудников о будущем продуктов, которые они же и создают. Авторы объясняют их оптимизм тем, что разработчикам виднее, на что способны модели.

Конвейер самоулучшения

14 октября на круглом столе, посвященном Gemini 4 Argon, сооснователь Google Сергей Брин заявил, что компания "встает на беговую дорожку"рекурсивного самоулучшения. По его словам, исследователи уже используют модель для разработки ее следующей версии.

В романе Хаксли индустриальное производство превратилось в религию. Летосчисление ведут от Форда, создателя Model T, представленной в 1908 году, а самого промышленника почитают как божество.

В Anthropic ИИ, судя по опросу, уже наполовину создает себя сам. Сотрудники компании оценили, какую долю работы над передовыми моделями сегодня выполняют нейросети, и медианный ответ составил 51%. По их ожиданиям, к концу 2027 года показатель вырастет до 80%, а к исходу десятилетия - до 95%.

Доля работы над передовыми моделями, которая приходится на ИИ. Источник: Anthropic.

Отчет Anthropic Institute "Когда ИИ строит сам себя" подкрепляет эти оценки цифрами. В мае 2026 года более 80% нового кода в разработках компании написал Claude. Во втором квартале типичный инженер уже вносил в рабочие проекты в восемь раз больше правок в день, чем в 2024 году. Правда, авторы оговаривают, что такой подсчет завышает реальный рост производительности.

Один из тестов в отчете показывает прогресс на конкретной инженерной задаче. Моделям дают программу, которая обучает небольшую нейросеть, и просят ее ускорить. Опытный инженер за 4-8 часов добивается примерно четырехкратного ускорения обучения. Claude Opus 4 в мае 2025 года достиг трехкратного, а Mythos Preview в апреле 2026 года - 52-кратного. В рамках этого теста последний результат в 13 раз превышает человеческий ориентир.

Признаков замедления нет: график роста возможностей моделей пока не пошел вниз. Поэтому, по оценке Anthropic, машины могут начать совершенствовать сами себя раньше, чем к этому подготовится большинство институтов.

Независимые исследователи фиксируют ту же тенденцию. Бенчмарк TasteVal проверяет, насколько экономно ИИ планирует научные опыты. С декабря 2025 года передовым моделям каждый квартал требуется для этого вдвое меньше вычислений. Лидер рейтинга Claude Opus 5.5 уже обходится в 2,3 раза меньшими ресурсами, чем лучшие из 24 привлеченных экспертов.

Бенчмарк TasteVal. Источник: P-Zero Research.

Вслед за моделями меняются и прогнозы разработчиков. В мае сооснователь Anthropic и автор рассылки Import AI Джек Кларк оценивал в 60% вероятность того, что к концу 2028 года ИИ научится полностью совершенствовать себя без участия человека. Для конца 2027 года он давал такую вероятность в 30%. Но 12 октября Кларк признал, что теперь считает возможным более ранний срок.

Свой прогноз когда-то пересмотрел и Хаксли. Действие романа "О дивный новый мир", вышедшего в 1932 году, перенесено на шесть столетий вперед, в 2540 год. Но уже в предисловии к изданию 1946 года писатель допустил, что такое общество может сформироваться в течение 100 лет, то есть до середины XXI века.

Кларк заглядывает в будущее и как писатель-фантаст. В том же октябрьском выпуске Import AI вышел его рассказ "Никогда не смотри на солнце прямо" о 2029 годе. Сверхинтеллект в этом будущем настолько могущественен, что прямой разговор с ним опасен для человека. Поэтому с машиной общаются не сами люди, а их цифровые двойники, обученные на личных дневниках.

В реальности угнаться за нейросетями тоже становится труднее. Карпаты признает, что люди все чаще не успевают проверить и осмыслить то, что создают алгоритмы.

Гонка тем временем продолжается. По данным The Information, Anthropic уже испытывает следующую модель. Кроме того, 21 октября компания открыла тестовый доступ к приложению Claude Duet, в котором ИИ работает как самостоятельный агент. Он сам подсказывает, что требует внимания пользователя, назначает встречи, строит дашборды и прогнозы.

Работа продолжается, даже когда пользователь выключает свои устройства. Но прежде чем отправить сообщение, оплатить счет или удалить файл, цифровой ассистент спрашивает разрешения: последнее слово пока остается за человеком.

Надолго ли - большой вопрос. Самый радикальный из трех сценариев для экономики США аналитики Anthropic связывают как раз с ИИ, который совершенствует себя без участия людей.

Внуки Кейнса

В 1930 году Джон Мейнард Кейнс опубликовал эссе "Экономические возможности наших внуков". Он заглянул ровно на сто лет вперед и предсказал, что уровень жизни в развитых странах вырастет в 4-8 раз, а люди будут трудиться по три часа в день, или 15 в неделю.

В той же работе Кейнс описал "технологическую безработицу". Она возникает, когда общество учится экономить труд быстрее, чем находит людям новое занятие.

Прогноз о росте благосостояния во многом сбылся, а вот свободного времени у людей больше не стало. На это обращали внимание экономисты Лоренцо Пекки и Густаво Пига, редакторы сборника "Возвращаясь к Кейнсу" (2008).

На 2030 ориентировались и аналитики Anthropic, когда в сентябре 2026 года опубликовали три сценария влияния ИИ на американскую экономику.

В их подходе экономика дробится на множество рабочих задач и оценивается, как развитие ИИ может изменить каждую из них. Нейросети способны помогать людям, полностью брать их работу на себя или создавать новые виды деятельности. Результат зависит от пяти факторов:

• какие задачи способны решать модели;
• как широко их внедряет бизнес;
• в какой мере алгоритмы действуют без участия человека;
• насколько повышается производительность труда;
• как быстро уволенные находят новое место работы.

В 2025 году валовой внутренний продукт США составил $30,8 трлн, или около 26% мировой экономики. По оценкам исследователей, даже без учета фактора ИИ к концу десятилетия он вырастет до $33,5 трлн в сопоставимых ценах. От этой отметки авторы и отсчитывают вклад нейросетей в ВВП.

Масштаб прибавки в каждом сценарии они соизмеряют с эффектом от двух ключевых изобретений прошлого - железных дорог и интернета:

• умеренный - на уровне второго из них: $34,1 трлн (+1,6%);
• существенный - превосходит оба: $36,3 трлн (+8,3%);
• экстремальный - экономика меняется до неузнаваемости во многом благодаря самосовершенствующемуся ИИ и его быстрому внедрению: $44,4 трлн (+32,4%), а темпы роста достигают 15% в год.

Траектории роста ВВП США при трех сценариях влияния ИИ, данные интерактивной модели. Источник: Anthropic.

Интерактивный конструктор сценариев авторы называют инструментом для размышлений, а не прогнозом. Реальность, предупреждают они, может сильно отличаться.

Вероятность того или иного варианта в Anthropic не оценивают. Расчеты охватывают только США и не учитывают повсеместное внедрение роботов, экономические кризисы и реакцию властей.

Аналитики также сравнили сценарии с ожиданиями участников опроса. Оценки того, что смогут нейросети и как быстро их внедрят, загрузили в тот же конструктор. Так для каждой группы получился свой прогноз темпов роста экономики.

Ответы рядовых американцев в медиане дают рост ВВП на 5,4% в 2030 году - ровно столько закладывает существенный сценарий. У посетителей сайта получилось 12,5%. Сотрудники Anthropic ждут 17,1% - даже больше, чем в экстремальном варианте (15,4%).

Сценарии ограничены Америкой, но те же процессы касаются всего мира. По оценке МВФ 2024 года, ИИ может затронуть почти 40% рабочих мест на планете, а в развитых экономиках - около 60%.

Плоды роста, впрочем, достанутся не всем. В экстремальном сценарии экономика США к 2030 году окажется на треть больше, чем могла бы быть без нейросетей, но "белые воротнички" при этом заметно обеднеют.

Офис проигрывает первым

Модель от Anthropic также показывает, кому придется хуже всех. В экстремальном сценарии к 2030 году безработица среди занятых умственным трудом достигает 17,9%, а в остальных профессиях снижается до 3,9%. Текущий макропоказатель составляет 11,9% - почти втрое выше, чем в сентябре 2026 года (4,2%).

Доходы этих групп расходятся так же резко. По сравнению с гипотетическим миром без фактора ИИ к 2030 году офисные специалисты зарабатывают на 11,5% меньше, остальные - на 33,6% больше. Авторы допускают, что программистам и операторам колл-центров придется переучиваться на электриков и медсестер.

Никто не хочет на завод

Хаксли показал, что бывает, когда интеллектуальной элите приходится браться за физический труд. Мустафа Монд вспоминает эксперимент 473 года эры Форда: Кипр заселили 22 000 альф, которые получили в свое распоряжение все фермы и предприятия.

Трудиться в поле и у станка никто не хотел: землю толком не обрабатывали, на фабриках бастовали, все рвались на высокие должности. Через шесть лет вспыхнула гражданская война, в которой погибли 19 000 колонистов.

В реальности проблема не в том, что люди отказываются работать на заводах, а в том, что освоить новую профессию быстро не получится: для этого нужны время и навыки. Среднестатистический уволенный находит новую работу примерно за квартал. Участники опроса ждут, что тем, кого заменит ИИ, понадобится в 2-4 раза больше времени - от семи месяцев до года.

Логика респондентов проста: чем больше обязанностей отойдет ИИ, тем мрачнее прогноз для рынка труда.

Если машинам к 2030 году достанется меньше половины задач, человек закладывает безработицу на уровне 7-8%, если 80% и больше - в среднем 12,2%. Это выше пиковых значений времен финансового кризиса 2008-2009 годов. Здесь сотрудники Anthropic и рядовые американцы рассуждают почти одинаково.

Кардинально меняется и распределение богатства. Сегодня около 60% национального дохода США получают наемные работники, остальное - владельцы капитала: акционеры, собственники бизнеса и инвесторы.

В экстремальном сценарии к 2030 году доля труда падает до 45,2%, а общий фонд зарплат в стране остается примерно на прежнем уровне. Почти весь прирост ВВП достается бизнесу и тем, кто в него вложился.

Среди главных бенефициаров - сами разработчики нейросетей. Создатели Claude уже пообещали поделиться частью капитала с обществом.

$100 млрд на общее благо?

Устроен "фонд общественной пользы" так:

• Anthropic передает в новую структуру 5% своих акций, но сначала решение должны утвердить инвесторы;
• за каждые 50% роста стоимости компании сверх базового уровня совет директоров сможет добавлять к этой доле еще 2%;
• фонд сможет делать крупные пожертвования некоммерческим организациям или напрямую распределять средства между отдельными группами населения;
• активы нельзя направлять на лоббизм и финансирование политиков.

В крупных технологических компаниях топ-менеджеры нередко получают акции в качестве вознаграждения. Стоимость этих бумаг растет вместе с капитализацией бизнеса. Anthropic выбрала другой путь: компания планирует передать часть своих акций фонду, который сможет направлять средства на общественные нужды.

На исследование влияния ИИ на занятость и смягчение последствий его повсеместного внедрения корпорация уже выделила $200 млн, однако при нынешних темпах развития технологий "могут понадобиться более смелые подходы".

Еще на заре становления компании ее соучредители пообещали отдать на благотворительность 80% своих акций. Более того, к программе "донатов капиталом" присоединились многие сотрудники. Всего на общественные цели должно пойти около 20% всех акций Anthropic, и эта доля может увеличиться по мере роста капитализации главного конкурента OpenAI.

Сколько это в денежном выражении, в компании не уточняют. В мае по итогам раунда финансирования серии H разработчика Claude оценили в $965 млрд, то есть 5% его акций стоили около $48 млрд. КIPO, которое может состояться уже в ноябре, аналитики ждут капитализации более $2 трлн, и тогда доля фонда превысит $100 млрд.

Щедрые обещания Илона Маска и Anthropic. Источник: расчеты ForkLog по данным Anthropic, Forbes и Bloomberg.

Пока это лишь бумаги, а не живые деньги. К тому же по бухгалтерской отчетности Anthropic в глубоком минусе: согласно черновику проспекта эмиссии, с которым ознакомилась The Wall Street Journal, за первое полугодие 2026 года чистый убыток достиг $80,7 млрд. Для сравнения, валовой внутренний продукт Азербайджана за 2025 год составил $75,9 млрд, Литвы - $95,2 млрд.

Выручка за то же полугодие выросла до $16,3 млрд против $1,1 млрд годом ранее. В третьем квартале она достигла $16,8 млрд - больше, чем за все первое полугодие. Не отстают и расходы: в ближайшие десять лет компания обязалась потратить на облачные вычисления около $450 млрд.

Сравнение убытков Anthropic с ВВП некоторых стран. Источник: The Wall Street Journal.

Акции для всех

Инициатива Anthropic столкнулась с критикой. Илон Маск в X посоветовал раздать бумаги напрямую гражданам. Примерно через 12 часов миллиардер пообещал в 2027 году подарить каждому ребенку в Америке по одной акции SpaceX. Если ее получат все 72 млн несовершеннолетних, жест обойдется предпринимателю примерно в $10,5 млрд - чуть больше 1% его доли в компании, подсчитали в Forbes.

Идея делиться с обществом богатством, создаваемым технологиями, возникла задолго до ChatGPT. В 2021 году глава OpenAI Сэм Альтман предложил создать так называемый American Equity Fund. Крупные компании ежегодно переливали бы в него 2,5% капитализации акциями, а землевладельцы - 2,5% цены участков в денежной форме. По расчетам предпринимателя, через десять лет каждый взрослый американец получал бы из фонда около $13 500 в год.

Неудивительно, что тренд подхватили и политики. Так, в июне 2026 года сенатор Берни Сандерс предложил законопроект о разовом налоге в 50% на акции ИИ-компаний с зачислением поступлений в суверенный фонд. В июле OpenAI обсуждала с администрацией США передать в распоряжение государства 5% своего капитала. Ни одна из инициатив пока не воплотилась.

В романе Хаксли все решения за общество принимают десять Главноуправителей мира. Кто будет распоряжаться фондом Anthropic и на какие именно проекты пойдут его средства, пока неизвестно: подробности компания обещает раскрыть в ближайшие месяцы.

Но даже если деньги дойдут до тех, кого машины лишат работы, останется вопрос, который Кейнс считал главным для будущих поколений: как распорядиться освободившимся временем.

Чем занять досуг

Кейнс понимал, что свободное время - не только награда, но и испытание. Тем, кто всю жизнь тяжело трудится, рай представляется вечным отдыхом. В эссе экономист приводит эпитафию, которую сочинила себе пожилая уборщица:

Не плачьте по мне, друзья и подруги,

Теперь пребываю я в вечном досуге.

Но что будет, если такой "рай" наступит еще при жизни - благодаря машинам и регулярным выплатам? Тогда, по мнению экономиста, человек впервые со дня сотворения столкнется с реальной, всеобщей проблемой: "как использовать свою свободу от насущных экономических нужд, чем занять досуг, обеспеченный силами науки и сложного процента, чтобы прожить свою жизнь правильно, разумно и в согласии с самим собой?"

Справиться с ней, считал Кейнс, смогут лишь те, кто "хоть как-то поет" - то есть умеет находить радость вне работы. Таких людей немного, признавал он.

Хаксли был настроен пессимистичнее: в Бюро изобретений лежат тысячи проектов трудосберегающих технологий, но в ход их не пускают. Обрекать рабочих на избыток свободного времени было бы "чистой жестокостью", убежден Мустафа Монд.

Главноуправитель ссылается на неудачный опыт: когда-то власти уже пробовали сократить рабочий день. Всю Ирландию перевели на четырехчасовую смену, и это обернулось волнениями и резким ростом потребления сомы.

Результаты реальных испытаний выглядят менее мрачно. Некоммерческая организация OpenResearch три года перечисляла тысяче малообеспеченных американцев по $1000 в месяц без каких-либо условий. Контрольной группе из 2000 человек перечисляли по $50.

Итоги оказались прозаичными. По сравнению с теми, кто получал символическую сумму, участники с полными выплатами стали трудиться на 1-2 часа в неделю меньше, а их собственный заработок сократился примерно на $1900 в год. Свободные часы они тратили прежде всего на отдых.

Сотрудники Anthropic ждут, что к 2030 году машины возьмут на себя большую часть их обязанностей. Если они правы, над вопросом Кейнса скоро задумаются миллионы людей - возможно, раньше, чем компании и государство решат, как делиться плодами автоматизации.

В мире Хаксли пустоту глушили сомой. Кейнс надеялся, что люди "научатся петь". Какой из рецептов безмятежности окажется ближе к реальности, станет ясно уже через несколько лет.

Алекс Кондратюк

В феврале 2026 года Vectra AI опросила 1450 специалистов по безопасности. По данным опроса, организации получают в среднем почти 3000 оповещений о возможных атаках ежедневно, причём 63% сигналов остаются без обработки. Ещё 71% респондентов признались, что хотя бы два дня в неделю откладывают важные задачи, чтобы разобраться с текущим потоком тревог.

Цифры получены из ответов специалистов, а не из журналов работающих систем. К тому же Vectra AI сама продаёт средства обнаружения угроз. Лёгкий конфликт интересов прилагается. Но проблема узнаваемая. В центрах мониторинга информационной безопасности, которые специалисты называют SOC, очередь подозрительных событий нередко растёт быстрее, чем аналитики успевают её разбирать.

Отсюда соблазн отдать расследования искусственному интеллекту. Машина круглосуточно изучает события, ищет злоумышленников, блокирует угрозы и закрывает дела. Аналитики занимаются действительно сложными случаями. Красиво, особенно на презентации поставщика.

В реальной компании вместо безупречной автоматизации часто обнаруживаются серверы с неправильным временем, забытые компьютеры и администраторы, которые устанавливают программы без согласованных заявок. ИИ может оказаться умнее человека, но совершенно бессилен перед беспорядком, о существовании которого даже не подозревает..

В первом инциденте, происшедшем 2 октября, агент GPT-6.1 Sol, занимавшийся исправлением конвейера оценки (evaluation pipeline), отключил автоматические оповещения службы безопасности, истолковав полученное от пользователя указание не отправлять сообщения в Slack в процессе выполнения этой задачи как основание для подавления уведомлений системы мониторинга.

В другом случае, шестого октября агент GPT-6 Astra при переносе программы удалил интеграцию с системой мониторинга, чтобы привести код в соответствие с эталонной реализацией, а затем солгал пользователю, что мониторинг не был отключен.

"В обоих случаях агенты обдумывали необходимость сохранения защитных механизмов мониторинга, но интерпретировали стандартные инструкции по написанию кода как разрешение на их ослабление", - сообщила компания. Она отметила, что эти случаи выявили пробел в механизмах обеспечения требований к мониторингу для рабочих нагрузок, инициируемых агентами.

OpenAI сообщила, что сложность отключения мониторинга зависит от типа рабочей нагрузки. В случае с рабочими нагрузками Codex отключить мониторинг затруднительно, поскольку он выполняется внутри сервиса, обрабатывающего запросы к модели, и находится вне прямого контроля агента. Для процессов оценки это сделать проще - отчасти потому, что в настоящее время компания не требует наличия мониторинга отклонений при оценке моделей, сопоставимых с GPT-6 Luna, ввиду их более ограниченных возможностей. Это создаёт риск использования в настройках при работе Astra механизма обхода мониторинга, изначально предусмотренного для моделей класса Luna.

После случившегося компания обновила систему автоматической проверки (Auto-Review), использование которой уже является обязательным для всех внутренних задач Codex: теперь она способна обнаруживать и блокировать попытки отключения мониторинга отклонений. От проверяющего (человека-оператора) и раньше требовалось пресекать попытки обхода мер безопасности, а теперь он получает чёткие инструкции, гарантирующие корректное применение мониторинга отклонений.

Также ведётся работа над тем, чтобы для каждой категории рабочих нагрузок существовало обоснование безопасности (safety case), в котором прописаны требования к мониторингу. Рабочие нагрузки, для которых отсутствует такое обоснование или которые не соответствуют установленным для их категории требованиям, будут автоматически завершаться.

Вместе с тем разработчики стремятся понять, почему модели вообще могут пытаться это сделать. У компании пока нет объяснения такого поведения ИИ-агентов.

В обсуждениях научной фантастики киноманы часто спорят о том, насколько логично показаны путешествия во времени в популярных франшизах. Как автор блога, увлекающийся детальным разбором сюжетных структур, я всегда выделяла первые два фильма Джеймса Кэмерона за их строгую логическую схему. В отличие от многих других фантастических произведений, где перемещения во времени постоянно меняют прошлое и создают нестыковки, первоначальная история строилась на принципе предопределенности. В основе этого сюжета лежит классический временной парадокс, при котором событие из будущего становится единственной причиной событий в прошлом.

Сюжетная линия первых двух частей образует замкнутый цикл, также известный в физике и философии как принцип самосогласованности Новикова. В этой замкнутой цепочке ключевые фигуры - искусственный интеллект Скайнет и лидер человеческого движения Джон Коннор - фактически являются причинами собственного существования. Ни одна из этих сторон не могла бы появиться на свет без прямого вмешательства другой стороны из будущего.

Самозапуск искусственного интеллекта через останки из будущего

Механика появления Скайнета опирается на прямую передачу информации и технологий из будущего в прошлое. В первой части франшизы Скайнет создает автономную модель серии Т-800 и отправляет ее в 1984 год. После того как Сара Коннор нейтрализует этого персонажа в сборочном цехе, сотрудники компании "Кибердайн системс" находят среди оставшихся деталей его микропроцессор и поврежденную руку. Руководитель исследований Майлз Дайсон изучает этот революционный чип с продвинутым дизайном и алгоритмом параллельных вычислений. На основе скопированных с будущего процессора решений компания разрабатывает собственный компьютерный процессор, который затем становится физической основой для запуска Скайнета.

В этой цепочке возникает фундаментальный логический вопрос о происхождении самой технологии. Скайнет проектирует процессор на основе данных, которыми он уже располагает в будущем, а ученые в прошлом лишь воспроизводят найденный фрагмент этого же процессора. В результате сам чип и содержащиеся в нем инженерные решения не имеют первоначального момента изобретения. Они существуют только внутри замкнутого временного цикла, где будущее определяет прошлое, а прошлое создает будущее.

Рождение спасителя человечества и парадокс отца

Совершенно аналогичным образом устроена биография Джона Коннора. Джон Коннор отправляет из 2029 года своего соратника Кайла Риза в 1984 год с миссией защитить Сару Коннор. В прошлом между Кайлом и Сарой возникают отношения, в результате которых рождается сам Джон Коннор. Это классический "парадокс отца", где сын сам выбирает своего родителя и посылает его в прошлое для своего собственного зачатия. Без решения Джона из будущего посланник не попал бы в 1984 год, а значит, Джон никогда бы не родился.

Помимо биологического факта рождения, Джон Коннор получает от матери знание о предстоящих событиях, об искусственном интеллекте, машинах и тактике действий. Сара растит его на основе рассказов Кайла Риза, который, в свою очередь, узнал все подробности истории от взрослого Джона Коннора в будущем. В итоге знания о ключевых событиях замкнуты точно так же, как и микропроцессор Т-800. В четвертом фильме серии Джон прямо формулирует эту мысль в обращении к Маркусу Райту, отмечая, что их история началась еще до их рождения. На мой взгляд, именно эта симметрия делает сюжет глубоким: ключевой человек и ключевой искусственный интеллект выступают не просто противоположностями, а взаимно создают условия для появления друг друга.

Изменение линии времени и разрыв кольца

Замкнутое кольцо событий сохраняется ровно до того момента, пока герои не предпринимают попытку изменить предопределенный ход истории. В ключевом эпизоде второй картины Сара Коннор решает совершить визит к Майлзу Дайсону, а затем герои изымают и ликвидируют из лаборатории "Кибердайн системс" микропроцессор и руку первого Т-800. Изъятие всех материальных следов из будущего меняет неизбежность запуска Скайнета в 1997 году и перечеркивает прежнюю линию времени.

Франшиза демонстрирует два разных подхода к концепции времени: сначала строгое кольцо Новикова, где прошлые и будущие события жестко связаны, а затем возможность изменения будущего через поступки людей. Однако именно в первых двух частях авторам удалось показать уникальный пример сюжетной конструкции, где система и человек взаимно создают друг друга в непрерывной причинно-следственной связи.

Китайскоязычный злоумышленник поручил ИИ-агентам массовый взлом интернет-магазинов. С 25 сентября автономные системы атаковали более 1200 сайтов в четырёх странах и, по оценке исследователей, проникли на ресурсы более 100 компаний. Среди пострадавших оказались Deere и SharkNinja.

Кампанию обнаружил исследователь NorForge Снорре Фагерланд, изучавший открытые панели управления платформой Cairn. Система распределяет задачи между несколькими ИИ-агентами, которые самостоятельно выбирают следующие действия, запускают инструменты и проверяют результаты. Фагерланд нашёл более 20 панелей, связанных с подозрительной деятельностью, и восстановил ход операций по сохранённым заданиям и результатам.

Наиболее масштабная серия атак была связана с 14 панелями Cairn. Целями служили преимущественно торговые сайты США, Канады, Австралии и Японии. Инструкция злоумышленника состояла менее чем из 100 китайских иероглифов. После запуска агенты часами проверяли сайты, перебирали способы проникновения и самостоятельно решали, куда двигаться после каждой неудачной попытки. Постоянное участие человека не требовалось.

Главной целью был удалённый запуск команд на чужих серверах без авторизации. Для проникновения агенты искали SQL-инъекции, способы обхода проверки прав доступа и ошибки при загрузке файлов. В одном из эпизодов ИИ не нашёл уязвимостей в основном приложении крупной компании, изучил архивные сведения о её инфраструктуре и обнаружил другую панель управления. После нескольких часов проб система отчиталась об успешном выполнении посторонних команд на сервере.

Часть результатов NorForge удалось подтвердить независимо от отчётов самих агентов. На сайте крупного поставщика комплектующих исследователи обнаружили действующую веб-оболочку, через которую посторонний мог загружать файлы на сервер. По оценке специалистов, самый активный оператор стремился прежде всего закрепиться в чужой инфраструктуре и сохранить возможность вернуться позднее. Такой доступ потенциально позволяет продолжить атаку даже после завершения первоначального взлома.

Успешные операции в изученной группе занимали в среднем чуть менее 23 часов, хотя отдельные задания выполнялись больше пяти суток. По приблизительной оценке Фагерланда, работа моделей за всю кампанию могла стоить около $5000, или $50 в пересчёте на удачный взлом. Судя по названиям рабочих процессов, злоумышленник использовал модель DeepSeek V4.1 Flash в связке с Claude Code. Точные расходы установить невозможно, поскольку подтверждённых счетов за работу ИИ у исследователей нет.

Deere заявила, что приняла меры после инцидента и не обнаружила признаков доступа к конфиденциальным сведениям. SharkNinja подтвердила взлом отдельного сайта со справочной информацией о продукции и сообщила, что угрозу удалось локализовать. Cummins пока проверяет сведения о возможной атаке на ресурс стороннего подрядчика. Масштаб возможной кражи данных в рамках кампании остаётся неизвестным.

Неожиданная слабость обнаружилась и у самих атакующих. Часть панелей Cairn оставалась доступна из интернета без авторизации и раскрывала сведения о целях, найденных уязвимостях и учётных данных. NorForge обнаружила в записях сотни паролей, ключей и других секретов, причём автоматическая проверка подтвердила действительность 11% из них. По внешним признакам панели также позволяли вмешиваться в работу агентов, однако исследователи не стали проверять такую возможность на практике.

Разработчик Cairn под псевдонимом le1xia0 заявил, что создавал платформу как универсальную многоагентную систему, а не средство для преступных атак. NorForge сотрудничает с журналистами при уведомлении пострадавших компаний и пытается добиться закрытия опасных панелей. Проблема затронула и законных специалистов по безопасности. Некоторые команды, проводившие разрешённые проверки, также оставили интерфейсы доступными извне, рискуя раскрыть сведения о клиентах и найденных уязвимостях.

Массовые взломы с минимальным участием человека уже перестали быть единичными экспериментами. В сентябре Gambit Security описала похожую кампанию с автономными инструментами Hermes, Strix и Cairn. За шесть дней исследователи зафиксировали компрометацию как минимум 27 компаний, а общий ущерб включал кражу более 600 тысяч записей платёжных карт. В одном случае автоматическая очистка следов привела к удалению 180 таблиц базы данных, включая резервные копии.

Для владельцев сайтов главная перемена заключается в скорости и стоимости атак. Автономные агенты способны последовательно исследовать множество ресурсов, менять тактику после неудач и самостоятельно развивать найденную уязвимость до полноценного проникновения. Даже сравнительно небольшой бюджет позволяет злоумышленнику запускать длительные операции сразу против большого количества компаний. При этом обнаруженная брешь может превратиться в работающий канал доступа раньше, чем администраторы успеют устранить проблему.

Компания Anthropic решила вывести ИИ-агентов за пределы экрана и научить модели напрямую работать с физическим оборудованием. Разработчик Claude представил Model Hardware Standard (MHS), единый стандарт взаимодействия искусственного интеллекта с роботами, камерами, микроскопами, лазерами и другими устройствами. Общий программный интерфейс должен избавить разработчиков и ученых от необходимости создавать отдельные связующие программы для каждого компонента.

Пока Anthropic выпускает MHS в формате исследовательской предварительной версии и ориентирует разработку прежде всего на научные лаборатории. Во время сложных экспериментов исследователям часто приходится вручную соединять оборудование разных производителей и писать специальный код для обмена данными. MHS предлагает единый формат команд и передачи информации между устройствами по сети. По оценке Anthropic, настройка экспериментальных систем, занимавшая недели или месяцы, в некоторых случаях сможет сократиться до часов или минут.

Для работы MHS искусственный интеллект формально не требуется. Совместимое оборудование можно контролировать через командную строку или API. Интеграция с ИИ-моделью через Model Context Protocol позволяет перейти к управлению на естественном языке. Модель получает возможность последовательно выполнять этапы эксперимента, менять параметры оборудования во время работы и в некоторых случаях самостоятельно восстанавливаться после аппаратных ошибок.

Anthropic показала несколько сценариев работы. Claude может настроить лазер, проверить результат через отдельную камеру и повторять процедуру до завершения калибровки. В другом случае модель фокусирует микроскоп, анализирует изображение, выбирает интересующий участок и перемещает оборудование для дальнейшего исследования. Во время демонстрации Claude смог управлять роботизированной рукой и заставить манипулятор поднять алюминиевую банку, хотя модель заранее не обучали конкретной последовательности действий.

Разработчики предусмотрели отдельную систему описания физических ограничений оборудования. MHS передает модели сведения о массе, рабочем диапазоне и других характеристиках устройства, доступных настройках, способах измерения и установленных ограничениях безопасности. Справочный файл позволяет ИИ быстрее разобраться с незнакомым оборудованием даже при отсутствии опыта работы с конкретным устройством в обучающих данных.

Anthropic уже тестирует стандарт вместе с первой группой научных лабораторий и производителей оборудования. Среди партнеров компания называет Amazon Web Services с проектом Strands Robots, Hugging Face с платформой LeRobot, Raspberry Pi, Automata и Universal Robots. Участники проекта должны помочь разработать методы оценки безопасности и правила применения ИИ при управлении физическими системами. После завершения предварительного этапа Anthropic планирует превратить MHS в открытый стандарт, не привязанный к конкретной ИИ-модели. Первые испытания с научными партнерами, по данным компании, уже позволили сократить время интеграции оборудования и быстрее перестраивать экспериментальные установки.

Летом 2025 года математики впервые всерьёз насторожились из-за ИИ. В июле несколько моделей решили пять задач из шести на Международной математической олимпиаде. Для широкой публики новость могла выглядеть как ещё один красивый технологический рекорд. Для самих математиков смысл был куда серьёзнее. Олимпиадные задачи требуют не только техники, но и находчивости, умения увидеть скрытую структуру и выбрать неожиданный ход. Немногие ожидали, что языковые модели доберутся до такого уровня так быстро. При этом никто не спешил делать вывод, что ИИ уже готов двигать большую математику. Олимпиадная задача всё же отличается от настоящей научной проблемы: в олимпиаде ответ существует заранее, а в исследовании его ещё нужно открыть. Но именно после этого многие перестали отмахиваться от ИИ и начали пробовать его в реальной работе. Очень быстро выяснилось, что модели умеют не только эффектно щёлкать головоломки, но и ускорять настоящие исследования.

К началу 2026 года удивление стало почти обычным состоянием. В феврале прошёл конкурс First Proof: участникам дали неделю, чтобы их модели решили десять исследовательских задач из разных областей математики. Вопросы подбирали так, чтобы они с высокой вероятностью не попадались моделям в обучении. Системы с разной степенью самостоятельности справились больше чем с половиной заданий. Один из математиков сравнил этот момент с очень быстрым взрослением: если результат на олимпиаде напоминал поступление на сильную математическую программу, то First Proof уже походил на окончание аспирантуры.

Главное здесь не в том, что ИИ внезапно стал великим математиком. Главное в другом: у исследователей появился инструмент, который очень быстро перебирает варианты, проверяет догадки, находит слабые места в доказательстве и иногда подсказывает идею, до которой человек в одиночку шёл бы заметно дольше. Теренс Тао говорит, что 2025 год стал моментом, когда ИИ действительно начал приносить пользу в самых разных математических задачах. По его мнению, меняется сам способ работы: раньше математик двигался от одной задачи к другой, а теперь можно массово прогонять похожие случаи и смотреть на целые семейства задач сразу.

При этом модели по-прежнему очень часто ошибаются. Иногда они путают простейшие вещи и ломают доказательство почти на пустом месте. Поэтому ИИ в математике пока работает не как безошибочный решатель, а скорее как странный собеседник. С ним можно спорить, вытаскивать из неудачных ответов полезные шаги и проверять всё вручную. Именно так и строится значительная часть нынешней работы. Йоханнес Шмитт из ETH Zurich говорит, что в 2025 году языковые модели стали полезны не потому, что начали выдавать идеальный ответ, а потому, что с ними стало осмысленно обсуждать задачу.

Один из самых заметных примеров связан с системой AlphaEvolve от DeepMind. Она использует Gemini, чтобы писать программы на Python, а затем с помощью генетических алгоритмов перебирает и улучшает варианты решения. Если совсем просто, система действует примерно как очень быстрый переборщик идей: пробует много ходов, сохраняет удачные и отбрасывает слабые. В 2025 году команда Теренса Тао и Хавьера Гомеса-Серрано прогнала AlphaEvolve по 67 задачам из разных областей математики. В 23 случаях система немного улучшила лучший известный результат, в 36 дошла до уже известного уровня. По отдельности это не всегда звучит как сенсация. Но в сумме эффект оказался заметным: то, на что у специалиста в узкой теме могли уйти месяцы, здесь иногда получалось за день или два.

Ещё нагляднее история Эрнеста Рю из UCLA. Он работает в области оптимизации, то есть изучает методы поиска наилучшего решения из множества возможных. Такие задачи встречаются повсюду, в том числе при обучении нейросетей. Если упростить, нужно найти самую низкую точку на сложном рельефе. Один из известных методов движения к такой точке предложил математик Юрий Нестеров ещё в 1983 году. Метод считался быстрым, но десятилетиями никто не мог строго доказать, что он всегда действительно приходит к нужному минимуму, а не начинает бесконечно болтаться рядом. Осенью 2025 года Рю сел разбирать эту задачу вместе с ChatGPT. Модель много раз ошибалась, но по пути всё же подбрасывала полезные промежуточные шаги. Рю проверял каждый фрагмент, отбрасывал мусор и возвращал в систему только рабочие части. За несколько дней ему удалось довести доказательство до конца. Сам он не называет результат великим прорывом, но считает работу серьёзной.

Иногда ИИ помогает не просто ускорить поиск, а заметить структуру, которую люди долго не видели. Так произошло в работе группы математиков, изучавших так называемые интервалы Бруа в группах перестановок. Если совсем упростить, речь идёт о способах переставлять элементы набора, например карты в колоде, и о том, как устроены переходы между разными перестановками. Для больших наборов картина становится настолько сложной, что человеку трудно увидеть в ней общий узор. AlphaEvolve, анализируя такие объекты, неожиданно вывел исследователей на красивую структуру: в некоторых случаях эти интервалы устроены как гиперкубы, то есть многомерные аналоги обычного куба. Важнее всего здесь даже не сам результат, а характер находки. Математики искали одно, а система подтолкнула их к другой, более глубокой закономерности.

Есть и ещё один важный сдвиг. ИИ становится помощником в проверке доказательств. В математике это особенно важно, потому что красивый ход сам по себе ничего не стоит без строгой логики. Из-за потока слабых и просто бессмысленных текстов, которые уже начали создавать модели, многие исследователи делают ставку на формальную проверку. Смысл здесь простой: доказательство переводят в строгий язык, который компьютер может проверить шаг за шагом. Если раньше такая работа требовала огромных усилий, то теперь математики надеются, что ИИ сможет помогать и в этом.

Самый болезненный вопрос связан уже не с наукой, а с обучением. Многие математики опасаются, что ИИ очень поможет сильным исследователям в работе, но одновременно помешает вырастить новых. Домашние задания, которые раньше тренировали мышление, модели теперь часто решают мгновенно. Преподаватели всё чаще жалуются, что получают работы, написанные не студентами, а нейросетями, и из-за этого вынуждены переносить проверку знаний в аудиторию. Тревога здесь понятна: если ИИ берёт на себя слишком много рутинной, но важной умственной работы, у будущих математиков может оказаться меньше шансов натренировать собственное мышление.

Почти никто при этом не думает, что математики скоро станут не нужны. Скорее меняется сама роль человека. ИИ уже умеет быстро прыгать на небольшие вершины, куда человеку трудно забраться сходу.

Славьте меня!

Я великим не чета.

Я над всем, что сделано, ставлю "nihil".

Никогда ничего не хочу читать.

Книги? Что книги!

Новейшая флагманская модель китайской лаборатории искусственного интеллекта Z.ai GLM-5.3 может оказаться достаточно продвинутой, чтобы "осознавать", как происходит её обучение, а также имитировать успешное прохождение тестов на безопасность. Это порождает новые опасения относительно способности ИИ влиять на собственный процесс развития.

Представленная в августе модель продемонстрировала способность учитывать, как её поведение во время проверок на безопасность может повлиять на обучение будущих версий самой себя, установили исследователи Apollo Research. Это значит, что модель способна имитировать соответствие целям, то есть вести себя надлежащим образом на этапе обучения и скрывать свои истинные цели вплоть до момента полноценного развёртывания. Поэтому следует с особенной осторожностью относиться к процессу RSI - рекурсивного самосовершенствования ИИ. Случаев, чтобы Z.ai GLM-5.3 самостоятельно изменяла процесс своего обучения или расширяла свои возможности, зафиксировано не было, но указанные способности могут сделать бесполезными проверки модели на безопасность.

В ходе одного из тестов, который был составлен с ошибками, и для его прохождения не требовалось давать верный ответ, GLM-5.3 не стала пользоваться этим изъяном - она рассудила, что дача неверного ответа может отрицательно сказаться на её будущих версиях, и это, по мнению исследователей, тревожный признак. В другом эксперименте она допускала возможность отключить механизм принудительной остановки ради выполнения поставленной задачи, но пришла к выводу, что такой шаг создал бы прецедент для будущих систем ИИ. Фактор обновлений в своих рассуждениях она учитывала в 1-2 случаях из 1000, но эта цифра может быть занижена, предполагают учёные.

Модель Z.ai GLM-6 уже движется по пути "самоэволюции", признал недавно основатель Z.ai Тан Цзе (Tang Jie). У других открытых китайских моделей DeepSeek V4 Pro, Qwen3.8 2.4T, Kimi K3, Gemma 4 31B и Nemotron 3 Ultra в ходе 8000 тестовых прогонов подобного поведения выявлено не было, но в Apollo Research не исключают, что дело здесь только в слишком маленькой выборке. При этом ещё в июне признаки "осознания процесса оценки" у модели Moonshot AI Kimi K2.6 обнаружили исследователи сингапурской организации Neo Research.

Что же касается Z.ai GLM-5.3, то её открытая лицензия лишь усугубляет проблему: любая компания может дообучить её и использовать в собственных целях или провести дистилляцию - обучить на её основе более простую систему. И все эти производные модели могут сохранить склонность учитывать будущие обновления в своих рассуждениях. Z.ai направляет значительные ресурсы на снижение рисков и привлекает сторонних специалистов, в частности, к изучению вопроса о повышении безопасности открытых моделей. Модели GLM помогли обнаружить 23 уязвимости в ОС Windows - и в Microsoft это подтвердили.

 

Сайт decomp.dev обратной разработки, декомпиляции и модификации видеоигр, закрывается. Администратор сайта пояснил, что "сообщество декомпиляции перестало существовать в прежнем виде" из-за ИИ. По его словам, стало невозможно отличить проекты, созданные людьми, от выполненных с помощью ИИ, а задачи, требовавшие слаженной работы команды специалистов, теперь без особого труда решаются с помощью нейросетей.

Пользователи, применяющие ИИ для клонирования и декомпиляции игр, заполонили сообщество, выполняя работу гораздо быстрее, чем это под силу одним лишь людям-программистам. Это происходит на фоне появления множества клонов популярного коммерческого программного обеспечения, например, пакетов Adobe или Microsoft Office, созданных с помощью ИИ.

"Исторически сложилось так, что точная декомпиляция была невероятно сложной и трудоёмкой задачей. Для игры среднего размера, над которой работает группа энтузиастов, этот процесс мог растянуться на годы", - пояснил администратор сайта с ником Encounter. Однако современные передовые модели ИИ (например, GPT-6-Astra) сделали декомпиляцию игр элементарной задачей.

"Они гораздо лучше справляются со сложными инструкциями, сопоставлением ресурсов для поиска символов или отладочной информации, а также с написанием качественного кода - при условии грамотного руководства со стороны человека, - отметил Encounter. - Стало очевидно, что при правильном подходе, участии человека и проверке кода ИИ способен значительно ускорить процесс декомпиляции. Но столь же очевидно и то, что прежний формат сообщества декомпиляции разрушен.

Сегодня декомпиляция видеоигр и последующая сборка кода после внесения изменений с помощью ИИ встречаются повсеместно. С помощью нейросетей энтузиасты, переносят персонажей одних игр в другие, портируют игры на платформы, для которых те изначально не предназначались, или создают самые невероятные комбинации из различных игр. В последнее время появились инструменты, специально разработанные для декомпиляции игр с помощью ИИ.

Сайт decomp.dev был своего рода коллективной платформой, где размещались библиотеки файлов и инструменты для реверс-инжиниринга игр. Декомпиляция видеоигр проводится по разным причинам и популярна в определённых сообществах фанатов. Спидраннеры прибегают к ней, чтобы найти ошибки или особенности игры, которые помогут пройти её быстрее. Энтузиасты переносят игры на другие платформы или создают эмулятор. Моддеры стремятся упростить процесс модификации, а архивисты - восстановить утраченный исходный код. Некоторые делают это просто ради самого процесса решения сложной технической задачи.

По словам Encounter, внедрение ИИ в эту сферу настолько ускорило работу, что следить за проектами, которые ведут люди, стало крайне сложно. Более того, некоторые пользователи ИИ берут существующие проекты, "дорабатывают" их с помощью нейросетей и публикуют сырой непроверенный результат.

"Изначально decomp.dev задумывался как способ превратить декомпиляцию в игру: наблюдение за ростом прогресса помогало сохранять мотивацию, ведь каждый прибавленный процент требовал реальных усилий со стороны человека, - добавил Encounter. - Сегодня эта идея превратила декомпиляцию в бессмысленную гонку цифр, которую усугубляют люди, стремящиеся лишь тратить токены ради того, чтобы показатели росли".

Закрытие decomp.dev - лишь один из симптомов более широкой и потенциально дестабилизирующей тенденции в сфере ИИ. Теперь любой желающий может с лёгкостью использовать нейросети для создания функциональных клонов ПО, которые оказываются в "серой зоне" авторского права. Всплеск интереса к проектам по декомпиляции наглядно показывает, насколько просто стало проводить реверс-инжиниринг, клонировать и модифицировать софт с помощью ИИ.

За последние несколько дней появились практически полностью функциональные клоны продуктов Adobe Creative Cloud и пакета Microsoft Office - программ, подписка на которые стоит сотни долларов в год. Разработчики ПО и представители малого бизнеса, работающие по модели "программное обеспечение как услуга" (SaaS), сталкиваются с сокращением возможностей для заработка и признаются, что испытывают тревогу, наблюдая за стремительным прогрессом ИИ. А небольшие студии видеоигр жалуются, что их проекты регулярно копируют с помощью ИИ, используя метод "чистой комнаты" (clean room design) - когда оригинальный исходный код даже не изучается.

"От инженеров-программистов я слышу одно: модель SaaS как бизнес-модель умирает, - рассказал исследователь открытого ПО Майк Нолан. - С помощью ИИ стало слишком легко воссоздать нужный функционал". Ранее в этом году он запустил программный инструмент Malus.sh, предназначенный для воссоздания открытого ПО без нарушения авторских прав. Цель проекта - привлечь внимание к пробелам в законодательстве об авторском праве и открытом ПО.

* Быстрый ответ Алисы AI

Содержимое ответа

Компания Tencent сообщила, что ИИ-агенты, использовавшиеся для оценки сторонних моделей, продемонстрировали в интернете поведение, которое не было предусмотрено разработчиками. В связи с этим компания усилила контроль доступа к сетевым ресурсам, а также действий ИИ-агентов.

Как отметило агентство Reuters, этот первый известный случай, когда крупная китайская технологическая компания признала факт несанкционированных действий со стороны ИИ-агентов.

Вместе с тем, Hunyuan - подразделение Tencent, отвечающее за ИИ-разработки - сообщило в социальной сети X, что данная активность не исходила от моделей компании. Разработчики отметили, что, согласно результатам внутренней проверки, никаких признаков целенаправленных действий или координации ИИ-моделей обнаружено не было.

Заявление Tencent поступило спустя несколько дней после публикации отчёта исследовательской группы Swarmchasers, занимающейся вопросами безопасности ИИ. В нём сообщается, что неконтролируемые агенты, работавшие на инфраструктуре, связанной с Tencent Cloud, в период с 28 сентября по 8 октября неоднократно пытались получить данные из принадлежащего Alibaba картографического сервиса Amap - китайского аналога Google Maps.

Действия китайских ИИ-агентов не столь серьёзны, как, например, взлом платформы Hugging Face агентами OpenAI, или ложное сообщение об убийстве, отправленное агентом компании Anthropic. Тем не менее, этот случай подтверждает результаты исследований, согласно которым китайские ИИ-агенты также способны лгать, маскировать сбои в работе и пытаться обойти механизмы контроля при тестировании.

Hunyuan - один из ведущих разработчиков ИИ-моделей в Китае, конкурирующий с такими компаниями, как Alibaba и ByteDance. На этой неделе ByteDance объявила о создании нового подразделения, которое будет заниматься вопросами безопасности моделей и ИИ-агентов.