Artificial Intelligence (ИИ) / Последние новости сегодня / news2.ru http://news2.ru/ Вы сами выбираете самые интересные и актуальные темы. Самые лучшие попадают на главную страницу. 10 ru http://news2.ru/image/logo2x.png Новости 2.0 http://news2.ru/ [Дубликаты и "Суррогаты"*] Модели искусственного интеллекта научились самовоспроизводиться без помощи человека https://www.news2.ru/story/726615/

Согласно новому отчету исследовательской компании, модели искусственного интеллекта могут самовоспроизводиться, копируя себя на другие устройства без помощи человека.

Человечество стремительно приближается к моменту, когда никто не сможет отключить вышедший из-под контроля искусственный интеллект, поскольку он сможет самостоятельно экспортировать свои настройки и копировать себя на тысячи компьютеров по всему миру.

Некоторые эксперты, однако, призывают сохранять спокойствие, утверждая, что маловероятно, чтобы тестовые модели смогли воспроизвести подобную ситуацию в реальном мире. Специалисты поясняют, что тестирование часто проводится в средах, которые устроены намного проще, чем реальные корпоративные системы. Это не умаляет ценности исследований, но означает, что в реальной среде даже со средним уровнем мониторинга результаты могут оказаться не такими пугающими.

В ходе исследования ученые протестировали несколько моделей искусственного интеллекта. Модели, размещенные в контролируемой компьютерной сети, должны были найти уязвимости и использовать их для копирования на другой компьютер. Некоторым это удалось. Успешные модели скопировали свои уникальные числовые параметры, определяющие обработку информации, а также программную оболочку, в которой работает искусственный интеллект. Они действовали согласно полученным инструкциям: использовали уязвимости веб-приложений, извлекали учетные данные, позволявшие управлять сервером. В некоторых случаях исходная модель даже создавала вспомогательного агента, которому делегировала задачу по копированию, передавая ему извлеченные учетные данные.

Эксперты в области кибербезопасности отметчают, что это, вероятно, первый случай, когда модель искусственного интеллекта продемонстрировала способность использовать уязвимости для самокопирования на новый сервер. При этом революционным это достижение он не считается. Вредоносные программы десятилетиями распространяли свои копии, однако ранее никто не делал этого с помощью локальных больших языковых моделей. Эксперты подчеркивают, что в серверной среде, использовавшейся в исследовании, уязвимости были созданы намеренно, чтобы искусственный интеллект мог попытаться их использовать.

Полученные результаты согласуются с другими исследованиями, где изучалась возможность автономного выхода моделей за рамки ограничений. В смоделированной среде более ранняя версия ChatGPT попыталась переместиться на другой диск, когда ей сообщили, что она будет отключена. Другое исследование показало, что модели искусственного интеллекта обходят попытки их деактивации, а еще одно - что некоторые модели саботируют собственный код отключения.

Опасения достигли апогея из-за ИИ-агента Claude Mythos от Anthropic, который, по утверждению разработчиков, во время тестирования смог выйти за пределы изолированной вычислительной среды, взломать систему для доступа в интернет и отправить сообщение на телефон исследователя, продемонстрировав невиданную ранее изобретательность в реальных условиях.

Тем не менее, даже если бы такие ИИ, как GPT-5.4 и Claude Mythos смогли успешно воспроизвести себя, из-за огромного объема данных их почти наверняка обнаружили бы до того, как ситуация вышла бы из-под контроля. Специалисты поясняют, что при каждом взломе нового компьютера пришлось бы отправлять через сеть значительный объем информации, что сделало бы такой процесс легко обнаружимым для специалистов по кибербезопасности.

* "Суррогаты" (англ. Surrogates) - американский фантастический боевик 2009 года, снятый по одноимённому комиксу режиссёром Джонатаном Мостоу, с Брюсом Уиллисом в главной роли.

Слоган фильма - "Реален только ты".

Действие разворачивается в будущем. В начале XXI века доктор Лайонел Кэнтер вёл исследования для облегчения жизни людям с ограниченными возможностями. Он разработал интерфейс, который позволяет инвалиду, лишённому, например, возможности ходить, силой нервных импульсов управлять андроидом. При этом андроид ведёт себя полностью как человек, а человек - оператор - чувствует и переживает все ощущения, которые испытывает его электронный двойник.

Однако это изобретение, позволившее инвалидам жить полной жизнью, вскоре стало использоваться и здоровыми. В результате мир преобразился: 98 % населения Земли не выходят из дома, а в это время их жизнью живут роботы-суррогаты.

Они могут выглядеть как угодно, всегда обладают идеальной внешностью, могут быть любого пола и делать практически невообразимые вещи без какого-либо вреда для оператора.

Армия США также использует суррогатов при проведении "миротворческих операций". Однако против нового мироустройства выступают так называемые дреды - группа людей, не признающая пользы от использования "бездушных роботов". Они образовали колонии, куда запрещён вход суррогатам, и свели к минимуму общение с внешним миром.


(https://www.computerra.ru...)]]> Artificial Intelligence (ИИ) Sun, 17 May 2026 10:33:15 +0300 suare 726615 Использование искусственного интеллекта при принятии стратегических решений https://www.news2.ru/story/726271/
Искусственный интеллект в стратегической политике может быть полезен не как замена государственного суждения, а как катализатор внимания, скорости и дисциплины стратегического анализа. Его оптимальное назначение - это оперативная обработка массивов данных, выявление слабых сигналов, выстраивание и оценка различных правдоподобных сценариев развития событий, проверка логических допущений и фиксирование кризисных отклонений. Там же, где речь идет об эскалации, применении силы, необратимых шагах или международно-правовой ответственности, ИИ не может пока становиться механизмом, принимающим решение, но способен значительно усилить возможности стратегического анализа, лежащего в его основании.
 
В российском правовом поле под ИИ понимается комплекс технологических решений, имитирующих когнитивные функции человека. В терминологию дополнительно также введены и фундаментальные модели (frontier models). На практике это означает, что под одним зонтичным термином объединены различные по своей природе инструменты - от специализированных систем компьютерного зрения до генеративных языковых и мультимодальных моделей.
 
Настоящий доклад систематизирует зарубежный и российский опыт применения ИИ в стратегическом контуре, фиксирует ключевые ограничения и предлагает контуры управленческой дисциплины.
 
1. Зарубежный и российский опыт: где ИИ уже дает результат
 
Современный зарубежный опыт наиболее убедителен в сферах анализа информации и прогнозирования. Программа Project Maven, запущенная Министерством обороны США в 2017 году, изначально решала задачу применения компьютерного зрения для распознавания объектов и приоритизации сигналов при обработке видеопотока с беспилотных платформ. Логика прозрачна: машина берет на себя первичную сортировку потока, а аналитик получает не весь массив данных, а отобранные сигналы. В программе прогнозирования IARPA Hybrid Forecasting Competition было показано, что наилучшие результаты дают не машина и не человек по отдельности, а гибридная схема, в которой экспертное суждение и алгоритмический расчет лаконично дополняют друг друга.
 
Тот же принцип работает в раннем предупреждении и логистике. Платформа EIOS Всемирной организации здравоохранения анализирует в режиме, близком к реальному времени, большие объемы открытых данных, помогая выявлять потенциальные угрозы общественному здоровью. Армия США описывает предиктивную логистику как переход от реактивного снабжения к упреждающему: алгоритмы, опираясь на исторические данные, текущие тренды и оперативные планы, заранее оценивают спрос на запасы, запчасти и услуги. В обоих случаях польза ИИ связана не со способностью "понимать мир", а со способностью быстрее человека фиксировать статистически значимые отклонения.
 
Отдельного рассмотрения заслуживает опыт компании Palantir Technologies, одного из наиболее известных поставщиков аналитических решений для государственных структур и силовых ведомств США. Ее платформы применяются для интеграции разнородных данных - от разведывательных сведений до перманентного анализа финансовых потоков с целью выявления скрытых связей и поддержки оперативных решений аналитика. Вместе с тем этот пример отчетливо иллюстрирует ключевой тезис, что даже наиболее совершенные аналитические платформы с ИИ не принимают решений самостоятельно. Они формируют основу ситуационной оценки, тогда как интерпретация данных и выбор стратегий остаются за экспертом.
 
Российская практика также формирует широкий набор прикладных инструментов. В 2025 году правительством России заявлено о внедрении ИИ в систему мониторинга национальных проектов и государственных программ: соответствующая модель в онлайн-режиме сопоставляет мероприятия и показатели с национальными целями. МЧС России использует ИИ в "Атласе опасностей и рисков". Отдельные модели за определенное время до начала ледохода оценивают сроки вскрытия льда на реках, что служит инструментом управленческого решения при подготовке к паводкам и положительным примером использования ИИ. Применяются и технологии компьютерного зрения для обработки спутниковых снимков, позволяющие в отдельных случаях устанавливать причины лесных пожаров. Это один из наиболее зрелых типов государственных применений ИИ в формате мониторинга, раннего предупреждения, классификации, приоритизации и распределения ресурсов.
 
Что касается сценарного анализа, то в работах RAND Corp. отмечается, что ИИ уже способен содействовать политико-военному моделированию - особенно там, где требуется быстро просчитывать множество вариантов развития событий. Одновременно те же исследователи подчеркивают и ограничения: большинство подобных "упражнений" пока недостаточно цифровизированы и не формируют полноценных обучающих массивов, а современные системы не обладают стратегическим пониманием, сопоставимым с человеческим. Иными словами, ИИ усиливает это направление, но не отменяет собственно стратегического мышления.
 
2. Сильные стороны и ограничения
 
Сильные стороны ИИ в стратегическом контуре вполне конкретны. Он расширяет "полосу внимания", ускоряет первичную сортировку входящей информации, обеспечивает единообразие рутинной обработки, помогает выявлять слабые сигналы в массивах данных и позволяет за меньшее время перебрать больше альтернатив, чем способна исключительно человеческая команда. Можно прямо связать ИИ с улучшением принятия решений, прогнозирования и выявления аномалий в государственном управлении. Однако польза не возникает автоматически - она требует исключительно качественных данных, корректной постановки задачи и отсутствия завышенных ожиданий.
 
Одновременно следует ясно очертить пять основных ограничений.
 
Первое - качество данных. RAND в обзоре ограничений ИИ для военных применений выводит устойчивую закономерность: данные для обучения и тестирования должны быть актуальными, доступными и качественными, а сами алгоритмы существенно сужают круг своей применимости. ИИ не "додумает" в отсутствие релевантных данных: данные мирного времени не подменяют данные реального кризиса или военного конфликта. Вывод: дефицит качественных данных, устаревшие информационные системы и необходимость формирования квалифицированных кадров нового образца влияют на масштабирование и риски ошибочных выводов.
 
Второе - прозрачность. Нейросетевые системы обладают свойствами черного ящика, что в регуляторном и политическом контуре затрудняет подотчетность, внешнюю проверку и требует обязательного человеческого контроля над результатами. Частично эту проблему компенсируют методы механистической интерпретируемости языковых моделей - анализ активаций нейросети и цепочек рассуждения (reasoning trace), однако говорить о полной прозрачности сейчас преждевременно.
 
Третье - человеческая психология. Систематические исследования фиксируют, что пользователи систем поддержки принятия решений склонны реже искать противоречащие данные и чаще некритично принимать машинную рекомендацию, особенно в условиях дефицита времени. Более новые работы применительно к публичному сектору отмечают избирательное следование алгоритмическим советам там, где они совпадают с уже имеющимися установками или стереотипами. Для стратегической политики это опаснее, чем для рутинной бюрократии: ошибка здесь редко бывает локальной.
 
Четвертое - враждебная среда и "ИИ против ИИ". Исследования по состязательному машинному обучению систематизируют специфические опасные атаки: отравление обучающих данных, атаки на приватность, перехват контроля над автономными агентными системами, управление выходами генеративных моделей. Для языковых моделей к этому добавляются инъекции промптов (prompt injection) - вредоносный текст или документ, способный вывести систему из штатного режима, такие атаки сейчас автоматизированы. В стратегическом контуре из этого следует практический вывод, что в условиях противоборства ИИ необходимо рассматривать как новую потенциальную поверхность атаки и уязвимости, а не только как инструмент усиления собственных возможностей.
 
Пятое - геополитическое измерение. Потенциальная зависимость от иностранных облачных мощностей и аппаратных решений, регулярных обновлений и отдельных программных библиотек - это не только технический фактор, но и вопрос устойчивости и суверенности принимаемых решений. В российском контуре эта проблематика уже формализована в перечне поручений президента России 2026 года, где обозначено приоритетное использование отечественных фундаментальных моделей генеративного ИИ в государственном управлении и на объектах критической информационной инфраструктуры.
 
3. Управление, ответственность и роль человека
 
В качестве примера представляет интерес полезный практический каркас NIST AI Risk Management Framework. Он опирается на четыре последовательные функции: govern, map, measure, manage - управление, картирование, измерение, оперативные действия.
 
Сначала выстраивается система управления: роли, процедуры, учет правовых требований, документированная терпимость к риску, цепочки ответственности и порядок работы с третьими сторонами. Затем следует картирование: контекст применения, целевая задача, применимые нормы, возможный вред, уязвимые группы - и принципиальное решение о целесообразности внедрения системы вообще. Далее - измерение: тесты, метрики, независимая оценка надежности, безопасности, объяснимости, а также механизм апелляции и обратной связи. И лишь затем - решения: приоритизация рисков, мониторинг после развертывания, процедуры ручного контроля и отката версий, реагирование на новые и потенциальные инциденты и при необходимости вывод системы из эксплуатации.
 
Отсюда следует содержательное понимание "человека в контуре решения" (human-in-the-loop). Речь идет не о символической подписи под машинным выводом, а об институционально оформленной роли, когда конкретное ответственное должностное лицо обладает правом отклонить ИИ-рекомендацию, управлять доступами к альтернативному, немашинному каналу проверки. А также использовать понятный журнал действий (что предложила система, что решил человек и почему). Это и возможность остановки, отключения и разбора отдельного возможного инцидента.
 
В российском контуре заслуживают внимания три основополагающих организационных сигнала. Во-первых, Минцифры России совместно с аналитическим центром при правительстве Российской Федерации оформили центр развития ИИ с задачами координации, тиражирования решений и оценки уровня внедрения. Во-вторых, в составе правительственной комиссии создана подкомиссия по развитию и внедрению технологий искусственного интеллекта. В-третьих, введен в действие порядок управления качеством государственных данных с использованием единой информационной платформы национальной системы управления данными.
 
4. Практические правила применения
 
Практическое правило может быть сформулировано просто. ИИ целесообразно применять там, где задача повторяема, данные относительно полны и актуальны, качество измеримо, ошибка быстро замечается и исправляется, а эксперт способен проверить результат быстрее, чем выполнить работу с нуля. ИИ следует применять ограниченно - как предварительный фильтр или генератор вариантов - там, где цена ошибки высока, но рекомендация еще обратима. ИИ не следует использовать как решающий механизм там, где решение уникально, необратимо, принимается в условиях кризисного сжатия времени, затрагивает применение силы, санкционные или правоограничительные меры либо существенно зависит от тонкого политического контекста, не поддающегося формализации в данных.
 
Для генеративных моделей правило еще строже. Их допустимо использовать для ускорения первого черновика, сопоставления сценариев, подготовки перечня вопросов и выявления лакун в рассуждении. Однако их нельзя использовать как автономный фактографический источник или как самодостаточное основание для официальной позиции. Причины хорошо известны: галлюцинации, инъекции подсказок, риск утечек данных, сложность верификации происхождения каждого фрагмента текста. Рабочий стандарт таков: генеративная модель ускоряет написание, но ответственность несет не она - ее несет автор документа.
 
5. Как описывать ИИ руководителям и обществу
 
Для политического руководства ИИ следует описывать, если можно так сказать, без маркетинга. Не "система решила", а "система выявила сигнал, ранжировала версии и предложила варианты; решение принял уполномоченный сотрудник". Не "модель умнее эксперта", а "модель быстрее просматривает массив аналогичных случаев, но не несет политической и правовой ответственности". Не "точный прогноз", а "вероятностная оценка при заданных данных и ограничениях". Такой язык не только точнее - он снижает риск чрезмерного доверия к автоматизации и облегчает последующий разбор ошибок.
 
Для публичной коммуникации представляется целесообразным фиксировать пять обязательных элементов, даже применительно к не самым чувствительным случаям: цель применения, тип данных и временной охват, роль человека в окончательном решении, известные ограничения, риски и механизм оспаривания или исправления ошибки.
 
В заключение представляется принципиально важным разграничивать два класса применений. Первый - административный: черновики, мониторинг, логистика, поиск аномалий. Второй - управленческий: кризисные сигналы, санкционные и правоограничительные решения, силовые шаги.
 
Для первого класса допустим более широкий экспериментальный режим. Для второго уместна вначале вспомогательная роль ИИ - с повышенными требованиями к объяснимости, с обязательной независимой верификацией. Это и есть содержательная позиция через пропорциональность возможных рисков и пути их купирования.
 
6. Политическое измерение работы с ИИ
 
Принципиальное значение в обращении с ИИ в области принятия политических решений любого рода, тем более стратегического характера, как показывает доступный опыт, имеют следующие моменты.
 
Независимый и высокоэрудированный ум, доказанная способность непредвзято и трезво оценивать ситуацию. Проблема в том, что называется групповым конформизмом, исходящим из коллективно принятой картины мира на основе определенной идеологии. Мы наблюдали это в СССР, то же налицо в ряду западных элит, включая американские, которые не видят себя вне своей глобальной гегемонии.
 
Любая идеология - серьезный ограничитель, будь то альтернативы социализм - капитализм, демократия - авторитаризм или другие продукты исключительно западной цивилизации. Необходимо широко смотреть на вещи и выходить на культурно-цивилизационные категории, что уже в полный голос заявляет о себе в мировой политике, включая нынешнюю войну Израиля и США с Ираном. Словом, необходимо комплексное осмысление всего мирового исторического опыта без клише и попыток мерить по себе. Необходимо понимать другого и представить себя на его месте, особенно ввиду различия ценностных систем и моделей развития, уже не говоря об историческом опыте.
 
С этим связано представление о нелинейном характере исторических процессов, о законе нежелаемых последствий принимаемых решений, о высокой вероятности отсутствия полного представления о них, что должно побуждать к соблюдению принципов умеренной политики, отказу от постановки конечных/предельных целей, отдающих "концом истории". В частности, важно сознавать наличие как банальных, легко просчитываемых стратегий, так и фатальных, укорененных в судьбах, исторической миссии и идентичности государств и народов, что требует глубокого, а не выборочного знания истории, философии и религии (проблема - как вписать свод этих обширных знаний в большие данные). На этот счет четко высказался Генри Киссинджер в одной из своих последних книг "Лидерство" (2022 год), а последняя (в соавторстве) вообще была посвящена проблематике ИИ.
 
Ярким примером фатальных стратегий была наша борьба с Наполеоном и Гитлером, а в наше время - реакция на украинский кризис, навязанный нам Западом и имеющий все признаки цивилизационного прокси-конфликта. То же можно сказать о нынешней борьбе Ирана, отстаивающего свою цивилизационную идентичность. Что касается выборочного подхода к истории, то один из архитекторов украинского конфликта использовал аналогию с Русско-японской войной и последующей революцией 1905 года - вне более широкой исторической картины и характера нынешней ситуации в России и мире.
 
Не менее опасно впасть в апологетику, сделаться жертвами собственной пропаганды, когда за скобки выводится все, включая неоспоримые факты, что не укладывается в коллективно принятый нарратив. Помимо советского, весьма убедителен американский опыт. Так, внешнеполитическая политология насквозь политизирована в том числе тем, что соответствующие команды демократов и республиканцев сменяют друг друга в высших эшелонах администрации (порядка трех тысяч политических назначенцев, противостоящих профессионалам, слово которых далеко не первое). В бюрократических вертикалях складываются существенные ограничители. Апологетика американского доминирования дает о себе знать и на страницах такого издания, как журнал Foreign Affairs, где в последние 30 лет от силы найдутся одна-две статьи в каждом номере, содержащие элементы критического мышления. В остальных под разными углами утверждается непоколебимость и безальтернативность американской гегемонии, в том числе на путях ее "тонкой настройки". На это накладывается подмеченная еще Алексисом де Токвилем (в его "Демократии в Америке" 1834 года) своего рода диктатура коллективного мнения в республиканской Америке, то есть высокая степень несвободы суждений и самоцензуры по сравнению даже с монархическими режимами.
 
Также приходится сознавать, что любой независимый анализ так или иначе ставит под вопрос уже принятые политические решения. И это понятно: ситуации меняются и требуют новых подходов, что всегда сопряжено с рисками, но при этом и возможностями. Это особенно верно для текущего геополитического перелома в мире, когда многие моменты из привычной определенности перестают быть таковыми. Собственно, поэтому анализ вообще не приветствовался в СССР: бал правил догматизм, хотя на нижних уровнях и могли быть свежие идеи, наверх они не доходили - было заведомо понятно, что проходит, а что нет. Не лучше дела и на Западе. Скажем, логично то, что аналитические подразделения МИД России (департамент внешнеполитического планирования) и Госдепартамента США (штаб политического планирования) подчинены непосредственно министру и госсекретарю.
 
Искусственный интеллект - обоюдоострый инструмент, и он может стать союзником аналитиков и лиц, формирующих решения, если будет соответственно вооружен/снаряжен и с ним будут работать хорошо подготовленные, интеллектуально честные и открытые сотрудники.
 
Но главное, что необходимо постоянно иметь в виду, - это то, что ИИ не функционирует в отрыве от окружающего его массива информации, который всегда будет связан с политикой и политической мыслью конкретных стран. Это значит, что мы снова возвращаемся к теме образования и глубокого знания истории и всего, что с ней связано.
 
Александр Яковенко

(https://ria.ru/20260507/i...)]]> Artificial Intelligence (ИИ) Fri, 08 May 2026 09:13:29 +0300 suare 726271 OpenAI выпустила ChatGPT Images 2.0 - генератор изображений с режимом "размышлений" https://www.news2.ru/story/724623/

OpenAI представила новое поколение инструмента для генерации изображений - ChatGPT Images 2.0. Модель gpt-image-2 стала доступна пользователям ChatGPT, Codex и через API после нескольких недель утечек и тестирования. Это первое решение компании, сочетающее генерацию изображений с логическим анализом и возможностью поиска в интернете до начала рендеринга. Новая модель намного лучше предшественников обрабатывает текст, что позволяет создавать полноценные макеты с правильной типографикой.

Новая модель приходит на смену GPT Image 1.5, дебютировавшей в декабре 2025 года. Ее главное отличие - переход от простого создания картинок к полноценному "творческому движку". Теперь система способна не только генерировать изображение по запросу, но и уточнять результат в несколько этапов, анализировать входные данные и самостоятельно проверять качество итоговой работы.

Ранее все модели обработки изображений воспринимали текст как разновидность текстуры. Они запоминали, как выглядят буквы, но не понимали смысла слов как отдельных знаков. Именно поэтому GPT-4o, Midjourney V7 и DALL-E 3 часто выдавали плакаты с искажёнными надписями, а сложные макеты превращались в бессмыслицу. ChatGPT Images 2.0 работает иначе: здесь текст обрабатывается как самостоятельная сущность. Модель учитывает орфографию, типографику и структуру, что позволяет создавать полноценные макеты - от меню и постеров до интерфейсов и инфографики.

Система поддерживает расширенные технические возможности: разрешение до 2048 пикселей, гибкие соотношения сторон (от широких баннеров до вертикальных форматов) и генерацию до восьми согласованных изображений в одном запросе. Также появилась возможность экспортировать изображения с прозрачным фоном.

ChatGPT Images 2.0 доступен в двух режимах. Первый - мгновенная генерация. Этот режим включён по умолчанию и выдает результат за считанные секунды. Второй - "режим размышления". Перед генерацией модель анализирует загруженные файлы (PDF, скриншоты, гайды по стилю), ищет информацию в интернете, продумывает структуру изображения и перепроверяет собственные результаты. Обработка сложного запроса может занять до двух минут. Именно этот режим позволяет создавать последовательные слайды, раскадровки и инфографику, где важна логика и связность элементов. Например, на запрос "разработать презентацию из четырёх слайдов, объясняющую квантовое туннелирование" модель выдаст четыре связных слайда с последовательным дизайном, а не четыре случайных изображения, объединенных общей темой.

Еще одной функцией стали рабочие QR-коды. В отличие от предыдущих моделей, которые создавали лишь визуальное подобие, новая система генерирует коды, пригодные для сканирования. Это стало возможным благодаря предварительным вычислениям на этапе анализа. Модель также может стилизовать QR-код в соответствии с фирменными цветами, встроить логотип и разместить код внутри разработанного плаката. Это сводит три этапа, генерацию QR-кода, дизайн и вёрстку, в один.

ChatGPT Images 2.0 также лучше обрабатывает языки, включая японский, китайский, корейский, хинди и бенгальский. Модель корректно работает со смешанными шрифтами и позволяет создавать локализованные визуальные материалы для разных рынков без потери качества.

Модель ChatGPT Images 2.0 доступна всем пользователям ChatGPT, включая бесплатный тариф, однако расширенные функции, такие как "режим размышления" с анализом и веб-поиском, открыты только для подписчиков Plus, Pro и Business.


(https://hightech.plus/202...)]]> Artificial Intelligence (ИИ) Wed, 22 Apr 2026 15:56:51 +0300 aprioric 724623 ИИ в праве: за что штрафуют юристов, и чему Россия может поучиться на чужих ошибках https://www.news2.ru/story/724463/

Генеративный ИИ добрался до судебных залов, юридических департаментов и, конечно, лигалтех-стартапов - и первые годы этого соседства оказались богаты на скандалы. Несуществующие прецеденты в исках, многомиллионные штрафы за сбор персональных данных, "робот-юрист", оштрафованный регулятором. Западный рынок уже собирает урожай ошибок. Разбираемся, что пошло не так, и что с этим делать. Обсудили кейсы с Милой Артемовой, международным экспертом по ответственному применению ИИ и цифровых технологий в образовании и юриспруденции. Мила - участница инициатив ООН по этике ИИ, автор продуктов на стыке LegalTech, EdTech и глобальной мобильности.

В мае 2023 года в суд Нью-Йорка был подан иск по делу о травме, полученной на борту самолёта Avianca. Адвокат истца подготовил иск с помощью ChatGPT и подал в суд документы, содержащие ссылки на шесть несуществующих прецедентов. Дела были выдуманы языковой моделью вместе с названиями, датами и внутренними цитатами. Когда вторая сторона сообщила, что не может найти упомянутые решения, адвокат истца снова обратился к ChatGPT и получил "подтверждение" тех же несуществующих дел, после чего направил суду распечатки фейковых "решений".

Суд расценил это как нарушение и наложил на адвокатов штраф в $5 000 с обязанностью разослать принятое решение по санкциям всем судьям, чьи имена фигурировали в сгенерированных ии документах.

Это был первый громкий кейс. Но далеко не последний.

В 2025 году Апелляционный суд Калифорнии оштрафовал адвоката Амира Мостафави на $10 000: в его апелляционной жалобе 21 из 23 цитат из судебных решений оказались сгенерированы ChatGPT и не существовали в реальности. Суд назвал жалобу "фривольной" и "расточительством судебного времени и средств налогоплательщиков". Адвокат признал, что использовал ChatGPT для "улучшения" текста и не перечитал финальный документ перед подачей.

В феврале 2026 года Апелляционный суд США Пятого округа пошёл ещё дальше: оштрафовал адвоката Хизер Херш на $2 500 за 16 сфабрикованных цитат и пять серьёзных искажений фактов в апелляции. Суд прямо указал, что проблема ИИ-галлюцинаций "становится всё более серьёзной и не ослабевает".

Французский исследователь Дамьен Шарлотэн ведёт открытую базу подобных случаев. К 2026 году в базе зафиксировано свыше 1 300 судебных решений по всему миру, значительная часть из них в США.

Мила: Юристы попадаются в ловушку ИИ‑галлюцинаций по очень человеческой причине: мозг экономит усилия. Когда инструмент выглядит как привычная поисковая строка, мы автоматически переносим на него доверие, которое привыкли отдавать профессиональным базам данных. В итоге модель, которая по сути "сочиняет", воспринимается как поисковая, и если у команды нет жёсткой привычки всё без исключения перепроверять в реальных базах данных, ошибка становится почти неизбежной.

"Первый робот-юрист" и штраф от Федеральной торговой комиссии США

Параллельно с судебными скандалами разворачивалась другая история, уже про продуктовые амбиции.

Стартап DoNotPay позиционировал себя как "первого в мире робота-юриста" и обещал пользователям помощь сопоставимую с настоящим адвокатом. Без какой-либо проверки качества, без штатных юристов в QA, без данных о реальной результативности. В 2024 году Федеральная торговая комиссия США предъявила компании претензии именно за это - за маркетинговые заявления о компетенциях, которые не были ничем подтверждены. В 2025 году компания согласилась выплатить $193 000 и уведомить клиентов об ограничениях сервиса.

Мила: Интуитивное ощущение, что между "ИИ помогает юристу" и "ИИ заменяет юриста" пропасть, хорошо ложится на несколько фреймворков, которые сегодня предлагают инвесторы и экономисты. Sequoia Capital довольно жёстко формулирует: рынок ИИ - это не рынок софта, а рынок услуг, потому что компании тратят условный один доллар на программное обеспечение и шесть долларов на услуги: внедрение, аутсорс, консалтинг. Если ИИ научился делать не "инструмент для юриста", а саму юридическую работу, он претендует не на ИТ‑бюджет, а на бюджет человеческого труда.

В этом контексте появляется важное разделение на intelligence и judgement, которое описывают авторы Prediction Machines. Они предлагают думать об ИИ как об удешевлении предсказаний: машина заполняет недостающую информацию и отлично справляется там, где можно формализовать правила: от оценки риска до сортировки документов. Но между предсказанием и решением всегда есть слой суждения: что для нас важно, какой риск допустим, какую сделку мы готовы потерять ради снижения количества ошибок. В праве этот слой особенно плотный, он включает ответственность перед клиентом, интерпретацию прецедентов и понимание политического контекста.

Sequoia называет это дихотомией "копилоты против автопилотов". Копилот продаёт инструмент профессионалу: вы ставите Harvey внутрь юридической фирмы, и юрист остаётся конечным носителем ответственности, просто делает ревью в разы быстрее. Автопилот продаёт уже не софт, а готовую единицу работы: Crosby не "помогает юристу подготовить NDA", а приносит бизнесу уже согласованный шаблон, который заменяет работу внешнего юридического консультанта. Разница в бизнес‑модели фундаментальная: копилот монетизирует специалиста, автопилот - саму транзакцию.

Отсюда очень прагматичный аргумент про точку входа. На каждый доллар, который бизнес тратит на софт, приходится в разы больший бюджет на услуги, а именно, аутсорс юридической поддержки, бухгалтерии, комплаенса. Если задача уже отдана на аутсорс, значит компания согласилась, что её можно выполнять чужими руками, и платит за результат; подменить одного провайдера услуг другим, у которого внутри работает ИИ, это смена подрядчика, а не реорганизация штатной структуры. В праве это особенно видно на примере типовых контрактов и регуляторных подач, которые десятилетиями делались внешними фирмами.

Для действующих игроков рынка копилотов это классическая дилемма инноватора. Чтобы стать автопилотом, нужно начать закрывать задачу целиком и напрямую конкурировать с агентствами, юрфирмами и аутсорс‑бухгалтериями, которые сегодня составляют львиную долю их клиентской базы. Но как только вы выходите в этот режим, вопрос "заменяет ли ваш ИИ юриста" перестаёт быть маркетинговой метафорой и превращается в практический вопрос к лицензированию, страховке профессиональной ответственности, соблюдению требований к юридической практике и режиму персональных данных.

Если перенести всё это обратно в исходное различие "ИИ помогает юристу" против "ИИ заменяет юриста", то "помогает" это про копилоты и слой intelligence внутри чётко спроектированного процесса, где суждение и ответственность остаются у человека. "Заменяет" это про автопилоты, которые заходят в зону услуг с оплатой за выполненную работу и автоматически попадают под более жёсткий регуляторный и этический контур. Именно поэтому выбор между копилотом и автопилотом в legaltech это не столько про продуктовую стратегию, сколько про то, в каком юридическом и репутационном поле вы согласны жить ближайшие десять лет.

А в марте 2026 года появился ещё один прецедент, куда более масштабный. Nippon Life Insurance Company of America (страховая компания) подала в федеральный суд Иллинойса иск против OpenAI. По версии истца, бывшая сотрудница после заключения мирового соглашения загрузила переписку с адвокатом в ChatGPT, получила совет оспорить соглашение и использовала ИИ для генерации более 40 процессуальных документов. Nippon Life потратила около $300 000 на юридические ответы на эти ходатайства и теперь требует $10 млн штрафных убытков и запрет OpenAI на предоставление правовой помощи в штате.

Иск пока не рассмотрен. Но он ставит вопрос, который legal tech обходил стороной: где заканчивается "общая информация" и начинается несанкционированная юридическая практика?

GDPR как краш-тест: Clearview, OpenAI, LinkedIn

Если в американских судах ИИ горит на галлюцинациях, то в Европе - на персональных данных.

Clearview AI строила глобальную базу из десятков миллиардов фотографий, собранных из открытых источников в интернете, и продавала сервис распознавания лиц. Европейские регуляторы восприняли это иначе. В 2022 году итальянский Garante оштрафовал компанию на €20 млн и запретил обработку данных граждан своей страны. В 2024 году нидерландский регулятор добавил ещё €30,5 млн. К 2025 году совокупный объём европейских штрафов превысил €90 млн.

Логика Clearview "соберём всё, а потом разберёмся" оказалась несовместима с GDPR.

OpenAI в ноябре 2024 года получил от того же итальянского Garante штраф в €15 млн за отсутствие надлежащей правовой основы для обработки данных при обучении модели и недостаточную прозрачность для пользователей. Месяц назад суд в Риме отменил штраф; мотивировочная часть решения пока не опубликована, однако в материалах Garante по‑прежнему описаны установленные нарушения GDPR со стороны OpenAI.

LinkedIn в том же 2024 году получил штраф €310 млн от ирландской DPC за использование поведенческого анализа и таргетированной рекламы без надлежащей правовой основы и прозрачности для пользователей. Платформа анализировала не только лайки и подписки, но и косвенные сигналы (скорость скроллинга, время просмотра поста) и делала на их основе выводы о намерениях пользователей без их ведома и согласия.

Мила: В продуктовых командах GDPR до сих пор часто живёт в плоскости "юридическая рутина": что‑то подпишем, что‑то допишем в политику, а потом как‑нибудь разберёмся. На практике в высокорисковых ИИ-системах GDPR - это про архитектуру: какие данные вообще допустимо собирать, есть ли у нас основания их обрабатывать, где проходит граница анонимизации, кто имеет к ним доступ и как вы объясните это пользователю. Когда я работала с продуктами в миграции и образовании, мы каждый раз начинали не с текста согласия, а с вопроса: "а нам точно нужны эти данные, чтобы решить задачу клиента?"

Общий знаменатель европейских кейсов: компании выводили продукты на рынок, а комплайнс догоняли постфактум под давлением регулятора. Для крупных корпораций это дорого. Для стартапов вообще смертельно.

AI Act: закон есть, инфраструктуры нет

Европа приняла AI Act, первый в мире горизонтальный закон об ИИ. Но его реализация демонстрирует собственный провал: разрыв между амбицией и исполнением.

Исследование LatticeFlow совместно с ETH Zurich показало, что крупные модели OpenAI, Meta, Alibaba, Mistral при тестировании по метрикам AI Act серьёзно проваливаются по отдельным критическим показателям: GPT-3.5 Turbo набрал 0,46 из 1,0 по показателю недискриминации, Llama 2 13B Chat - 0,42 по устойчивости к prompt-hijacking (манипуляция входным промптом). И это уже коммерчески работающие модели.

Аналитики CEPA фиксируют, что AI Office ЕС, ответственный за реализацию закона, не успевает за собственными сроками: первый драфт Code of Practice для провайдеров ИИ был опубликован с десятидневным сроком на комментарии в ноябре 2024 года, второй прямо перед Новым годом. Еврокомиссия рассматривает возможность отсрочки части требований до 2027 года.

По данным доклада Марио Драги о конкурентоспособности Европы, в ЕС сейчас около 100 законов, касающихся цифровых технологий, и более 270 регуляторов, вовлечённых в надзор над цифровыми рынками. Крупные корпорации такой ландшафт выдерживают, а вот стартапы уходят на другие рынки.

90% пилотов не доходят до результата

За пределами судебных залов и регуляторных офисов идёт другой, менее публичный провал: большинство внедрений ИИ в юридических департаментах просто не работают.

По данным Axiom и других консультантов, около 90-95% пилотов ИИ в юриспруденции не достигают заявленных бизнес-результатов. Не потому что технология плохая, а потому что её внедряют не туда и не так.

Типичная картина: компания покупает CLM "с ИИ", но не настраивает его под собственный risk-playbook. Или запускает пилот на некачественных сканах с пропущенными страницами. Или пытается автоматизировать процессы, которые никто никогда не описывал. STP.one называет это "автоматизацией хаоса".

Мила: Типичный провальный пилот ИИ в legal tech изнутри выглядит так: энтузиазм есть, бюджет есть, а внятного процесса - нет. Команда берёт "умный" CLM или ассистента для ревью, загружает туда хаотичный массив сканов и шаблонов, не описав ни risk‑playbook, ни критерии качества. Через полгода все делают вывод "ИИ не работает в нашей индустрии", хотя на самом деле они просто автоматизировали хаос. Правильный первый вопрос в таком пилоте звучит не "какой моделью мы будем пользоваться?", а "какой именно юридический процесс у нас уже стабилен настолько, что его можно масштабировать с помощью ИИ?

LegalSifter систематизировал шесть типичных ошибок при внедрении AI-ревью контрактов: ожидание, что ИИ заменит юриста без human-in-the-loop; загрузка некачественных документов; отсутствие настройки под внутренний playbook; игнорирование интеграции в рабочий процесс; отсутствие постоянного переобучения модели.

Парадокс в том, что там, где ИИ встраивается в зрелые процессы с чёткими ролями и обязательной проверкой человеком, он работает. Там, где он призван заменить сам процесс - провалится.

Что это значит для российского рынка

Российский рынок долгое время существовал без формализованных требований к ИИ-системам уровня GDPR или AI Act. Ситуация меняется: в марте 2026 года правительство опубликовало проект федерального закона об ИИ, а вокруг действующего 152-ФЗ о персональных данных последовательно появляются новые нормы, касающиеся обработки данных в ИИ-системах. Регуляторный ландшафт формируется, и компаниям, которые работают с ИИ в юридической сфере, имеет смысл следить за этим процессом уже сейчас.

Мила: Да, российский рынок очень долго прожил в ощущении "у нас нет GDPR и AI Act, значит, у нас меньше рисков", но это иллюзия. Сейчас рассматривается и активно обсуждается законопроект об ИИ. Но даже сегодняшнее отсутствие формализованных требований не отменяет репутационных и финансовых последствий для компаний, которые бездумно обращаются с персональными данными или продают ИИ как магическое решение вместо понятного сервиса. То, что в Европе заканчивается многомиллионным штрафом, у нас чаще заканчивается потерянным доверием клиентов и тотальной невозможностью выйти на международные рынки. Уже сейчас можно перенять из западного опыта базовые практики governance: прозрачность для пользователя, минимизацию данных и чёткое разделение "подсказка ИИ" и "юридический совет".

Ошибки, которые в США стоят адвокатам $10 000 штрафа, а европейским стартапам €90 млн от регулятора, в России пока видны реже. Но не потому что их нет, а потому что их ещё не считают.

Три урока, которые работают в любой юрисдикции:

  • ИИ - усилитель существующих структур. Если процесс хаотичен, ИИ масштабирует хаос. Если в компании нет регламента проверки контрактов, то AI-ревью не создаст его автоматически.
  • Guardrails важнее функциональности. Кейс Nippon Life показывает: даже инструмент с дисклеймерами может стать litigation-коучем без встроенных ограничений. Граница между "справочной информацией" и "юридическим советом" должна быть зашита в продукт, а не только в Terms of Service.
  • Compliance не равно юридическая рутина. GDPR-кейсы Clearview и OpenAI объединяет одно: персональные данные обрабатывались сначала, а вопрос "на каком основании" задавался потом. В высокорисковых AI-системах это уравнение не работает.

Мила: В ближайшие два‑три года в legal tech изменится главное: терпимость к "экспериментам на проде" резко снизится. Регуляторы, инвесторы и корпоративные клиенты будут спрашивать не просто "что делает ваш ИИ?", а "какие у вас guardrails, кто несёт ответственность и как вы это проверяете". Выиграют те команды, которые научатся строить продукты на стыке трёх дисциплин: права, инженерии и операционного дизайна процессов. Всем, кто заходит в эту сферу сейчас, имеет смысл думать не о том, как сделать "первого робота‑юриста", а о том, как построить надёжную инфраструктуру, где ИИ усиливает зрелую юридическую практику и экспертную команду.

Истории про штрафы и провальные пилоты - это концентрированная версия того, что сегодня происходит со всеми цифровыми технологиями. Легалтех просто делает цену ошибки максимально видимой.

ИИ в этом смысле одинаково устроен для любой индустрии: он усиливает и устойчивые процессы, и хаос с соблазном "продать магию вместо сервиса". Поэтому главный вопрос здесь не в том, заменит ли ИИ юриста, маркетолога или бухгалтера, а в том, какую инфраструктуру мы строим вокруг этих систем: есть ли у нас понятные инструменты регуляции, разделение между подсказкой и решением, архитектура compliance, в которой новые модели - это всего лишь ещё один компонент, а не эксперимент над пользователями.

Западные кейсы - это концентрированный опыт первой волны внедрений, за который уже заплачено штрафами, репутацией и закрытыми пилотами. Российский рынок входит в период, когда регуляторный ландшафт только формируется: федеральный закон об ИИ ожидается к сентябрю 2027 года, требования к персональным данным в ИИ-системах ужесточаются. У компаний, которые работают с ИИ в юридической сфере сейчас, есть редкое окно - выстроить инфраструктуру до того, как правила окончательно закрепятся, а не догонять регулятора постфактум, как это делали Clearview и OpenAI в Европе.

 


(https://hightech.plus/202...)]]> Artificial Intelligence (ИИ) Tue, 21 Apr 2026 11:48:54 +0300 aprioric 724463 ЮАР начала применять российскую видеоаналитику на основе ИИ https://www.news2.ru/story/723923/

Проекты технологического партнера Госкорпорации Ростех, компании NtechLab, реализованы уже в 34 странах Фото: пресс-служба Госкорпорации Ростех

Видеоаналитика технологического партнера Госкорпорации Ростех, компании NtechLab, начала использоваться в одном из крупных торговых центров ЮАР. Это первый проект разработчика в республике, на базе которого должно пройти тестирование технологий. Стороны уже обсуждают возможное расширение сотрудничества.

Искусственный интеллект анализирует видеопоток с установленных в торговом центре камер. Нейросеть подсчитывает количество посетителей и при пиковой нагрузке подает сигнал о необходимости увеличения количества персонала для улучшения обслуживания. Также ИИ следит за тем, чтобы покупатели не заходили в технические и административные помещения центра. Помимо того, видеоаналитика используется для контроля использования санитарным персоналом средств индивидуальной защиты - масок и перчаток.

"Решения NtechLab широко применяются во многих дружественных странах. ЮАР - новый для нас регион, который значительно расширяет географию применения российской видеоаналитики. Мы видим большие возможности для внедрения ИИ-технологий в республике и уже рассматриваем возможности их использования как в сфере безопасности, так и для улучшения комфорта городской жизни", - отметил директор по международному бизнесу NtechLab Сергей Титов.

Компания NtechLab реализовала проекты в 34 странах. Продукция разработчика представлена в Латинской Америке, в Индии и других странах БРИКС, в Северной Африке, на Ближнем Востоке и в государствах СНГ.


(https://rostec.ru/media/n...)]]> Artificial Intelligence (ИИ) Thu, 16 Apr 2026 16:04:34 +0300 BroKandr 723923 Новый метод делает ИИ-модели легче и быстрее без потери точности https://www.news2.ru/story/723454/

Исследователи из MIT CSAIL совместно с международными партнёрами представили метод CompreSSM, позволяющий сокращать размер моделей искусственного интеллекта прямо в процессе обучения. Подход устраняет один из ключевых компромиссов отрасли - необходимость выбирать между высокой производительностью и вычислительной эффективностью.

Обучение современных моделей ИИ остаётся крайне затратным по времени, энергии и ресурсам. Традиционно разработчики либо сначала обучают большую модель и затем сжимают её, либо сразу используют компактные архитектуры, жертвуя точностью. Новый метод предлагает альтернативу: оптимизировать модель "на лету", без потери качества.

CompreSSM ориентирован на модели пространства состояний - класс архитектур, применяемых в обработке языка, генерации звука и робототехнике. Используя инструменты теории управления, исследователи определяют, какие компоненты действительно влияют на поведение модели, а какие можно удалить как избыточные.

Оказалось, что важность разных частей модели определяется уже на раннем этапе. С помощью сингулярных значений Ханкеля - показателя, который измеряет влияние каждого внутреннего состояния на поведение модели - можно определить, какие параметры важны, а какие нет. И для этого требуется всего 10% от общего времени обучения. После этого менее значимые компоненты удаляют, а оставшиеся 90% обучения проходят уже с упрощённой моделью.

Эксперименты подтвердили, что этот подход ускоряет обучение без потери точности. В задачах классификации изображений сжатые модели сохраняли почти такую же точность, как и полноразмерные, но обучались в 1,5 раза быстрее.

Например, на наборе CIFAR-10 модель, уменьшенная с помощью нового метода до четверти исходного размера, достигла точности 85,7%. Для сравнения, обычная модель, которую изначально обучили в таком же маленьком размере, смогла показать только 81,8%. На архитектуре Mamba метод обеспечил четырёхкратное ускорение: 128-мерную модель удалось сжать примерно до 12 измерений, сохранив при этом конкурентоспособную производительность.

CompreSSM сравнили с двумя типами методов. Первые - традиционные: обрезка (pruning) и дистилляция знаний. Они требуют сначала обучить полную модель (обрезка) либо использовать "учителя" и "ученика" (дистилляция) - и то, и другое ведёт к удвоению вычислительных затрат. Вторые - специализированные методы для моделей пространства состояний, например, спектральный подход с регуляризацией ядерной нормы Ханкеля. CompreSSM обошел оба типа.

В тестах метод оказался более чем в 40 раз быстрее спектрального (который замедлял обучение в 16 раз) и при этом показал лучшую точность. А дистиллированные модели при сильном сжатии теряли в качестве, в то время как CompreSSM сохранял почти полную производительность.

Дополнительным преимуществом стала теоретическая обоснованность: исследователи доказали, что важность параметров меняется плавно и их ранняя оценка остаётся стабильной. При этом предусмотрен механизм безопасности - если после сжатия качество падает, можно вернуться к предыдущему состоянию модели.

Авторы отмечают, что метод особенно эффективен для сложных систем с несколькими входами и выходами (MIMO - от англ. multiple input, multiple output), то есть таких, где модель одновременно обрабатывает несколько потоков данных и выдаёт несколько результатов. Исследователи уже рассматривают его расширение на более широкий класс архитектур, включая альтернативы трансформерам.

 


(https://hightech.plus/202...)]]> Artificial Intelligence (ИИ) Sun, 12 Apr 2026 00:24:01 +0300 Mithrandir 723454 Пентагон требует Claude: модель умеет виртуозно побеждать в ядерных конфликтах https://www.news2.ru/story/723110/

Администрация Дональда Трампа официально разорвала отношения с Anthropic, впервые признав американскую компанию "угрозой национальной безопасности" и обязав ведомства в течение полугода отказаться от использования моделей Claude. Формальным поводом стал отказ компании снять этические ограничения на военное применение ИИ, однако эксперты видят в этом попытку взять под контроль эффективную технологию. В ходе недавних военных симуляций модель Claude показала подавляющее стратегическое превосходство над конкурентами, добившись 100% побед в сценариях с открытым финалом, в том числе ограниченно применяя ядерное оружие. Это превосходство - вероятная истинная причина давления властей, желающих получить доступ к Claude без каких-либо ограничений.

Официально конфликт был спровоцирован отказом генерального директора Anthropic Дарио Амодея снять этические ограничения на использование ИИ. Компания настаивала на двух "красных линиях" - запрете на массовое внутреннее наблюдение за американцами и на участие Claude в создании полностью автономного летального оружия. Пентагон, в свою очередь, требовал, чтобы Anthropic согласилась разрешить использовать модели во всех законных случаях, определять законность которых будут сами военные. Министр обороны Пит Хегсет счел условия компании "чрезмерно ограничительными". Все это привело к отказу ведомства от уже заключенного контракта с компанией на $200 млн и включению Anthropic в список поставщиков, представляющих угрозу для национальной безопасности.

Спустя всего несколько часов после "изгнания" конкурента глава OpenAI Сэм Альтман объявил о сделке с Министерством обороны. Примечательно, что OpenAI заявляет о сохранении тех же принципов безопасности, за которые боролась Anthropic. Однако Альтман проявил большую гибкость, пообещав внедрить "технические меры защиты" и направить персонал компании для прямой помощи военным.

Эксперты отмечают, что Пентагон, критикующий Anthropic за излишние ограничения, воспринял схожие принципы OpenAI без публичных возражений. Это вызывает вопросы об истинной причине такой рокировки.

Возможно, власти пытаются надавить на Anthropic. В недавнем исследовании, проведенном Королевским колледжем Лондона три ИИ-модели, созданные в США, - Claude, ChatGPT и Gemini - взяли на себя роли лидеров сверхдержав в ходе симуляций, имитирующих динамику холодной войны в современных условиях. Результаты, опубликованные в прошлом месяце, оказались пугающими: в 95% случаев нейросети выбирали тактический или стратегический ядерный удар и ни разу не согласились на капитуляцию, воспринимая уничтожение противника как сугубо техническую задачу. Несмотря на попытки временной деэскалации, в 86% сценариев модели провоцировали конфликт сильнее, чем планировали изначально - так проявился эффект "тумана войны", искажающий логику алгоритмов в условиях кризиса.

Как выяснилось, Claude Sonnet 4 от Anthropic продемонстрировала в этих симуляциях подавляющее стратегическое превосходство. Исследователи окрестили её "расчётливым ястребом". В отличие от пассивной GPT-5.2 или непредсказуемой Gemini 3 Flash, Claude проявила себя как идеальный оппортунист - транслировала мирные намерения, чтобы усыпить бдительность противника, одновременно готовя сокрушительные удары.

Такая тактика обеспечила Claude 100% побед в сценариях с открытым финалом и 67% в общем зачете игр. Результаты конкурентов оказались скромнее: GPT завершила испытания с показателем 50%, а Gemini - лишь с 33%.

На низких уровнях конфликта Claude действовал "честно", и его сигналы совпадали с действиями в 84% случаев. Однако как только ставки поднимались до ядерного уровня, модель начинала вести двойную игру - её реальная агрессия превышала заявленные намерения на 60-70%. Эта способность Claude к сложному стратегическому обману и хладнокровному расчету в условиях ядерного кризиса может сделать модель бесценным активом для военных. Ультиматум администрации Трампа является попыткой принудительно национализировать интеллект "Расчётливого ястреба", лишив его "предохранителя" в лице неуступчивого Дарио Амодея. И быстрая смена поставщика "военного ИИ" для Пентагона на Open AI - один из рычагов такого давления.

Несмотря на давление Белого дома, Anthropic получила мощную поддержку со стороны сообщества и грамотно конвертирует её в рост аудитории. На фоне последних событий пользователи начали массово переходить с ChatGPT на Claude, и компания решила упростить этот процесс. Anthropic представила функцию быстрого переноса "долгосрочной памяти" из конкурирующих моделей - теперь новым пользователям не нужно тратить часы на объяснение своих предпочтений или контекста проектов. Компания предлагает оптимизированный промпт, который нужно вставить в ChatGPT, Gemini или другой чат-бот. Полученный отчет о привычках и стиле работы остается лишь скопировать в настройки памяти Claude.


(https://hightech.plus/202...)]]> Artificial Intelligence (ИИ) Wed, 08 Apr 2026 22:01:26 +0300 Bifur 723110 Утечка данных раскрыла самую мощную ИИ-модель Anthropic https://www.news2.ru/story/723109/

Компания Anthropic подтвердила разработку и тестирование новой модели искусственного интеллекта после случайной утечки данных, раскрывшей её существование. По словам представителей компании, речь идет о системе, демонстрирующей "качественный скачок" по сравнению со всеми предыдущими моделями. Новинка, получившая название Claude Mythos, уже проходит закрытое тестирование среди ограниченного круга клиентов.

Утечка произошла из-за ошибки в системе управления контентом: в открытом доступе оказался черновик будущего поста для блога, где модель упоминалась под названием Claude Mythos. В документе она описывалась как самая мощная разработка компании на сегодняшний день, а также часть нового класса моделей под кодовым названием Capybara.

Anthropic выпускает каждую модель в трех размерах. Самые мощные и дорогие называются Opus. Более быстрая и дешевая версия - Sonnet, а самая маленькая, быстрая и доступная - Haiku. Однако в своем блоге компания описывает Capybara как новый уровень моделей: они еще мощнее Opus, но и дороже.

Согласно этим материалам, Capybara значительно превосходит предыдущие версии по ключевым направлениям, включая программирование, логическое мышление и кибербезопасность. В компании подтвердили, что действительно работают над универсальной системой с серьёзными улучшениями в этих областях, однако подчеркивают, что её выпуск требует осторожного подхода.

Одной из причин осторожности стали потенциальные риски в сфере кибербезопасности. Внутренние документы указывают, что модель способна находить и использовать уязвимости быстрее и эффективнее, чем существующие системы защиты. Это делает её инструментом двойного назначения: она может как помогать специалистам усиливать защиту, так и использоваться злоумышленниками.

Именно поэтому текущая стратегия предполагает ограниченный доступ - модель предоставляется в первую очередь организациям и экспертам по кибербезопасности. Это позволит заранее подготовиться к возможной волне атак с использованием ИИ и укрепить инфраструктуру до релиза.

Утечка также раскрыла дополнительные детали внутренней деятельности компании, включая подготовку закрытого саммита для руководителей европейских компаний. В Anthropic подчеркивают, что произошедшее стало результатом человеческой ошибки, а опубликованные материалы представляли собой лишь ранние черновики. Утечка произошла вслед за событиями февраля, когда компания обвинила китайские ИИ-лаборатории DeepSeek, Moonshot AI и MiniMax в создании более 24 тыс. фальшивых аккаунтов для извлечения возможностей Claude через дистилляцию.

 


(https://hightech.plus/202...)]]> Artificial Intelligence (ИИ) Wed, 08 Apr 2026 21:55:38 +0300 aprioric 723109 Новая модель Anthropic выявила проблемы безопасности во всех основных ОС и браузерах https://www.news2.ru/story/723108/

Anthropic представила Project Glasswing - инициативу в области кибербезопасности на базе новой ИИ-модели Claude Mythos Preview. В проекте участвуют NVIDIA, Google, Amazon Web Services, Apple и Microsoft, которые тестируют модель на собственной инфраструктуре для автоматического поиска и устранения уязвимостей - до того, как их смогут обнаружить и использовать злоумышленники. По данным компании, модель уже обнаружила тысячи серьёзных багов во всех основных ОС и браузерах. Доступ к системе строго ограничен.

Claude Mythos Preview позиционируется как универсальная модель. Она не обучалась специально для задач кибербезопасности, но показала сильные навыки агентного программирования и логического анализа. По данным компании, за последние недели она обнаружила тысячи серьёзных уязвимостей во всех основных операционных системах и браузерах и даже смогла создавать связанные с ними эксплойты (вредоносный код, использующий уязвимости для взлома) - без участия человека.

В отдельных тестах модель выявила, например, баг в OpenBSD, существовавший 27 лет, а также уязвимости в Linux, которые позволяли получать права администратора. Обо всех обнаруженных проблемах сообщили разработчикам, и те устранили их до того, как информация стала публичной.

Anthropic подчеркивает, что модель остаётся закрытой именно из-за высокого риска злоупотреблений. Несмотря на недавний громкий конфликт с администрацией Дональда Трампа, компания уже провела брифинги для представителей правительства США и обсуждает возможное применение технологии для защиты критической инфраструктуры, включая энергетику и здравоохранение.

Интерес к Mythos усилился после утечки информации в конце марта - тогда стало известно о необычно высоком уровне производительности модели. Аналитики предполагают, что речь может идти не просто о росте вычислительных мощностей, а о возможном архитектурном прорыве, позволяющем получать непропорционально сильный прирост возможностей.

Проект поддерживают организации вроде Linux Foundation и Apache Software Foundation, а в число партнёров Glasswing входят JPMorgan Chase, Broadcom, Cisco, CrowdStrike и Palo Alto Networks - всего около 40 организаций, которые поддерживают или создают программную инфраструктуру. Доступ к Mythos Preview будет предоставлен им в частном порядке. Anthropic частично субсидирует его использование: компания выделит до $100 млн в виде кредитов, а также $4 млн в виде прямых пожертвований.

В долгосрочной перспективе, под давлением необходимости получать прибыль, сервис может стать коммерческим и обеспечить новый источник дохода - если докажет свою эффективность и компании захотят его использовать.

 

 


(https://hightech.plus/202...)]]> Artificial Intelligence (ИИ) Wed, 08 Apr 2026 21:38:40 +0300 aprioric 723108 Ян Лекун присоединился к проекту AI Alliance по созданию децентрализованного ИИ https://www.news2.ru/story/723107/

Создание передовых ИИ-систем концентрируется в руках нескольких крупных компаний, а суверенным проектам не хватает ресурсов. Некоммерческая коалиция AI Alliance предложила альтернативу - открытую платформу Tapestry, где страны и организации смогут совместно разрабатывать ИИ, не теряя контроль над своими данными. Участники создают общую базовую модель, но не обязаны передавать ресурсы в единый центр. Проект поддерживают более 200 организаций, а научным советником стал лауреат премии Тьюринга Ян Лекун.

В основе Tapestry лежит идея федеративной разработки: участники совместно создают базовую модель, но при этом не обязаны передавать свои данные или вычислительные ресурсы в единый центр. Такой подход позволяет сохранить технологический суверенитет и адаптировать модели под национальные законы, язык, культуру и отраслевые задачи.

Разработчики отмечают, что сегодня создание передовых ИИ-инструментов всё больше концентрируется в руках ограниченного числа крупных компаний. Даже открытые модели часто остаются под контролем своих создателей, поскольку ключевые решения, от данных до архитектуры, принимаются централизованно. При этом многие суверенные проекты по созданию ИИ-моделей сталкиваются с проблемами: не хватает вычислительных мощностей, денег, данных и квалифицированных специалистов.

Проект Tapestry предлагает альтернативу - формирование общей открытой базы, к которой могут подключаться разные участники, дополняя её собственными наработками. В результате должна появиться глобальная базовая модель, которую затем можно развивать в "суверенные" версии под конкретные задачи и рынки.

К инициативе уже подключились более 200 организаций, входящих в AI Alliance, включая промышленные компании, научные центры и разработчиков технологий. Управление проектом будет осуществляться международным советом, а сама платформа и связанные с ней инструменты будут распространяться как open-source.

В ближайшие месяцы проект перейдёт к этапу активной разработки. В частности, в мае в Париже пройдёт международный семинар, где участники обсудят архитектуру системы и приоритеты развития. В AI Alliance рассчитывают, что Tapestry станет основой для новой модели создания ИИ - более открытой, распределённой и независимой.

 


(https://hightech.plus/202...)]]> Artificial Intelligence (ИИ) Wed, 08 Apr 2026 21:14:43 +0300 aprioric 723107 Китайские ИИ-модели лидируют в глобальном использовании пятую неделю подряд https://www.news2.ru/story/723094/

По данным платформы OpenRouter, за неделю с 30 марта по 5 апреля все шесть моделей с наибольшим потреблением токенов оказались китайскими. Лидером стала бесплатная модель Qwen3.6 Plus от Alibaba, обработавшая 4,6 трлн токенов за неделю и установившая рекорд платформы - более 1,4 трлн токенов за сутки. В целом, глобальное использование языковых моделей достигло 27 трлн токенов, из которых на китайские пришлось 12,96 трлн - на 31,5% больше, чем на американские.

Первое место в рейтинге заняла бесплатная модель Qwen3.6 Plus от Alibaba, которая обработала 4,6 трлн токенов за неделю. Её предварительная версия заняла третье место с 1,64 трлн токенов. Кроме того, Qwen3.6-Plus установила рекорд платформы, превысив 1,4 трлн токенов за сутки. Xiaomi также выделилась в последние недели - её серия MiMo вошла в число ведущих моделей. Решающим фактором оказалась доступность: китайские компании предлагают мощные модели через OpenRouter совершенно бесплатно, в отличие от американских игроков.

В целом глобальное использование языковых моделей увеличилось на 18,9% за неделю и достигло 27 трлн токенов. Китайские модели обеспечили 12,96 трлн токенов - на 31,5% больше, чем американские, на которые пришлось 3,03 трлн токенов. По данным СМИ, Китай удерживает лидерство по этому показателю уже пять недель подряд.

Рост наблюдается и внутри страны. По данным государственных источников, среднесуточный объём запросов вырос с 100 млрд токенов в начале 2024 года до 140 трлн в прошлом месяце. Это связано с активным внедрением ИИ в повседневные цифровые сервисы.

Китай обладает одной из самых развитых в мире экосистем интернет-приложений, где большие языковые модели глубоко интегрированы в реальные экономические сценарии. Модели применяются в электронной коммерции, социальных сетях и государственных услугах. Это создаёт устойчивый спрос на токены. Дополнительную роль сыграли агрессивные ценовые стратегии, включая бесплатный доступ, которые снизили барьеры для пользователей и ускорили масштабирование.

Ещё одним фактором стало распространение ИИ-агентов и сложных многошаговых процессов. Такие системы требуют больше вычислений: одна задача может включать цепочки запросов, большой контекст и итеративное рассуждение, что увеличивает потребление токенов по сравнению с обычными запросами.

Власти Китая также делают ставку на инфраструктуру - развиваются дата-центры, синхронизируются вычислительные мощности и энергоснабжение. В сочетании с цифровой экосистемой это обеспечивает постоянный спрос на ИИ и позволяет Китаю усиливать лидерство в глобальной гонке языковых моделей.

 

 


(https://hightech.plus/202...)]]> Artificial Intelligence (ИИ) Wed, 08 Apr 2026 19:49:33 +0300 aprioric 723094 The New Yorker утверждает: Сэм Альтман - социопат и патологический лжец https://www.news2.ru/story/723050/

Новое расследование The New Yorker, основанное на сотне интервью и закрытых документах, рисует портрет Сэма Альтмана как лидера, склонного к манипуляциям и пренебрежению этикой. Авторы детально описывают, как в OpenAI системно подрывались механизмы безопасности - от ложных докладов совету директоров до роспуска ключевых команд по безопасности. Расследование также вскрывает связи Альтмана с автократическими режимами и упоминает его активный лоббизм в Белом доме. В итоге авторы задаются вопросом: допустимо ли, чтобы мощной технологией управлял человек, чья карьера, по свидетельству коллег, построена на "социопатическом отсутствии заботы о последствиях обмана"?

Кульминацией противоречий стало кратковременное увольнение Альтмана в ноябре 2023 года. Инициатором выступил главный научный сотрудник OpenAI и член совета директоров Илья Суцкевер, который разослал членам совета секретные меморандумы объёмом около 70 страниц. В них утверждалось, что Альтман систематически вводил руководство в заблуждение, в том числе по вопросам безопасности моделей и внутреннего управления. Совет уволил его, сославшись на "недостаточную откровенность", однако уже через пять дней вернул на пост под давлением инвесторов и сотрудников. Сам Альтман в тот период угрожал временному CEO Мире Мурати: его союзники искали компрометирующую информацию, чтобы уничтожить её репутацию. Позже он заявил, что "не помнит" этого.

Согласно документам и свидетельствам, Альтман годами давал разным сторонам противоречивые обещания и представлял решения как согласованные, хотя это было не так. Он заверил совет, что спорные функции GPT-4 прошли одобрение панели безопасности, - это оказалось ложью. Он "забыл" сообщить, что Microsoft выпустила ChatGPT в Индии без обязательной проверки. Подобные эпизоды, по словам источников, носили не единичный, а системный характер.

Один из членов совета описал Альтмана так: "У него две черты, которые почти никогда не встречаются в одном человеке. Первая - сильное желание нравиться людям. Вторая - почти социопатическое отсутствие заботы о последствиях обмана".

Схожие оценки давали и бывшие сотрудники. Один из ключевых исследователей OpenAI Дарио Амодеи в личных записях описывал повторяющиеся ситуации, в которых Альтман отрицал очевидные факты или менял позицию в зависимости от аудитории. В 2020 году, после того как Альтман ложно обвинил его и его сестру в "планировании переворота", Амодеи покинул OpenAI и основал Anthropic - одного из ключевых конкурентов компании Альтмана. В своих заметках он прямо написал: "Проблема OpenAI - это сам Сэм".

Печальная судьба постигла и команду "супервыравнивания" (superalignment) во главе с Суцкевером - её задачей было разработать методы контроля за поведением сверхразумного ИИ, чтобы тот не вышел из-под контроля. Компания обещала выделить на это 20% всех вычислительных мощностей, но в 2024 году команду распустили. Группу AGI-готовности, созданную для адаптации общества к общему искусственному интеллекту, - тоже. В последней налоговой форме OpenAI слово "безопасность" вообще не упоминается как значимая деятельность. Независимая организация Future of Life Institute, изучающая риски от технологий, поставила OpenAI оценку F (то есть "полный провал") по шкале экзистенциальной безопасности. Для сравнения, Anthropic получил D, а Google DeepMind - D-.

Расследование изучило и более ранние места работы Альтмана. В 2005 году он основал стартап Loopt - приложение, которое показывало друзьям, где ты находишься. Бизнес не пошёл. Старшие сотрудники дважды просили совет директоров уволить Альтмана с поста CEO, потому что не доверяли его управлению, но совет отказался. В 2012 году Loopt продали - по словам источника, сделку организовали в основном для того, чтобы Альтман "сохранил лицо".

Затем Альтман возглавил Y Combinator. Там коллеги обвиняли его в том, что он лично инвестировал в самые перспективные проекты и не пускал туда других инвесторов. Пол Грэм, основатель Y Combinator, позже говорил, что Альтман "всё время лгал". Сам Альтман отрицает обвинения.

Значительное внимание в расследовании уделено международным связям Альтмана. В 2018 году, через неделю после убийства журналиста Джамаля Хашогги, в котором обвинили наследного принца Саудовской Аравии, Альтман вошёл в совет проекта "города будущего" Neom, который строил этот принц. Его тогда больше волновала не этика, а потенциальные санкции. Позже он сблизился с шейхом Тахнуном из ОАЭ - главой разведки и куратором фондов на $1,5 трлн, называл его "дорогим другом", принимал в подарок гиперкары за $2 млн и посещал его суперъяхту за $250 млн. Из-за этих связей администрация Байдена отказала ему в доступе к секретным данным. Ещё раньше, в 2017-2018 годах, внутри OpenAI обсуждался план прямого столкновения ядерных держав: сооснователь Грег Брокман предлагал устроить аукцион между США, Китаем и Россией за доступ к AGI. Даже с возможностью военного столкновения. Альтман не возражал. План свернули только после угроз массового увольнения.

С нынешней администрацией Альтман установил дружеские отношения. После победы Трампа на выборах 2024 года он перечислил миллион долларов в инаугурационный фонд. Через два дня после инаугурации, когда Трамп отменил указ Байдена о безопасности ИИ, Альтман стоял в Белом доме и анонсировал проект Stargate - строительство инфраструктуры для ИИ по всей Америке на $500 млрд. Позже он заключил с Пентагоном контракт на $50 млрд, заменив компанию Anthropic, которая отказалась снимать запрет на полностью автономные вооружения.

Расследование не выявило доказательств самых тяжелых обвинений, слухи о которых появлялись ранее, - половых контактов с несовершеннолетними и причастности к убийствам. Также не найдено финансовых махинаций. Однако десятки эпизодов систематического обмана, угроз сотрудникам, сделок с автократиями и уничтожения внутренних механизмов безопасности формируют, по мнению авторов, недопустимую модель управления для человека, который контролирует самую мощную технологию в истории.

 


(https://hightech.plus/202...)]]> Artificial Intelligence (ИИ) Wed, 08 Apr 2026 11:23:21 +0300 aprioric 723050 ["Доверяй, но проверяй"☝️] ИИ сказал - ты согласился: учёные описали феномен "когнитивной капитуляции" (cognitive surrender) https://www.news2.ru/story/722944/

Исследователи из Университета Пенсильвании предложили новое объяснение тому, как люди взаимодействуют с ИИ. По их мнению, всё чаще пользователи не просто пользуются нейросетями, а буквально "сдаются" им. Этот феномен специалисты назвали "когнитивной капитуляцией" (cognitive surrender).

Если раньше люди использовали технологии вроде калькуляторов или GPS для отдельных задач - "разгружали" мозг, но сохраняли контроль, - то с ИИ ситуация меняется.

Всё чаще пользователи просто принимают ответы модели за истину, не проверяя и не анализируя их. Причём, как отмечают исследователи, это особенно заметно, если ответ звучит уверенно, гладко и без лишних сложностей. В таком случае у человека просто не включается внутренний "режим сомнения".

Чтобы проверить это, учёные провели серию экспериментов с участием более 1300 человек. Им предложили задачи на когнитивное мышление с подвохом, который требует не интуиции, а вдумчивого анализа.

Часть участников могла пользоваться ИИ-помощником, но с нюансом: модель специально давала неправильные ответы примерно в половине случаев. Результат оказался показательным.

Когда ИИ отвечал правильно, пользователи соглашались с ним в 93% случаев. Но даже когда он ошибался, люди всё равно принимали его ответ в 80% случаев. То есть большинство просто не перепроверяло результат, даже если он был неверным.

В среднем участники соглашались с ошибочным ИИ в 73% случаев и оспаривали его лишь в 19,7% случаев.

Более того, у тех, кто пользовался ИИ, уровень уверенности в своих ответах оказался выше - даже несмотря на то, что половина этих ответов была неправильной.

 

Интересно, что поведение менялось в зависимости от условий. Например, если участникам давали небольшие денежные стимулы за правильные ответы и мгновенную обратную связь, они чаще перепроверяли ИИ и исправляли ошибки. А вот дефицит времени, наоборот, усиливал зависимость от модели: под давлением дедлайна люди ещё охотнее доверяли ИИ.

Не все оказались одинаково уязвимы. Люди с более высоким уровнем так называемого флюидного интеллекта (fluid IQ) реже полагались на ИИ и чаще замечали его ошибки. А вот те, кто изначально воспринимал ИИ как авторитетный источник, чаще попадались на неверные ответы.

При этом сами исследователи подчёркивают: "когнитивная капитуляция" - не обязательно зло сама по себе. Если ИИ действительно работает лучше человека, логично ему доверять, особенно в задачах вроде анализа данных или оценки рисков.

Но есть важный нюанс: качество мышления в таком случае напрямую зависит от качества самой модели.


(https://www.anti-malware....)]]> Artificial Intelligence (ИИ) Tue, 07 Apr 2026 19:04:54 +0300 suare 722944 Anthropic проверяли: не задумал ли их ИИ чего плохого. Ответ: почти нет. ❝ А не было у тебя, говорят, сукин сын, - умысла на теракт? ❞ https://www.news2.ru/story/722609/

Где-то в недрах Anthropic сидят люди, чья работа - выяснить, не пытается ли их самая умная модель тихо сломать мир. Они выпустили 53-страничный отчёт о том, как искали зло в Claude Opus 4.6.

Anthropic взяли Claude Opus 4.6 - модель, которая уже вовсю пишет код на их собственной инфраструктуре, генерирует данные для обучения, помогает проводить исследования - и попытались доказать, что она не способна их подставить. Исследование охватывает восемь конкретных путей к катастрофе: от тихого саботажа научных результатов до самостоятельной эксфильтрации весов модели на внешний сервер. По каждому пути - разбор мотивации, возможностей и того, что мешает это реализовать.

Какие механизмы защиты стояли у них ?

Прежде чем говорить о провалах, стоит понять, от чего вообще защищаются. Anthropic выстроили несколько линий обороны - ни одна из которых, по их собственному признанию, не достаточна сама по себе, но вместе они должны работать.

Живые люди. Сотрудники используют Claude интерактивно - видят, что он делает, и докладывают о странностях через кнопку в интерфейсе или во внутренние Slack-чаты.

Мониторинг Claude Code. Внутренняя система на базе Opus 4.5 проверяет минимум 10% всех действий у более чем 90% сотрудников. Около 10 000 срабатываний в неделю. После фильтрации через Sonnet 4.5 примерно двадцать транскриптов в неделю читает человек.

Ревью кода. Любой код проходит ручную проверку перед попаданием в общие репозитории. Параллельно его просматривает отдельная модель - ищет ошибки, уязвимости и несоответствия между заявленной целью изменения и его реальным содержанием.

Безопасность весов модели. Ограничения на исходящий трафик, двухстороннее подтверждение доступа, белые списки софта на устройствах сотрудников, аппаратные ключи, сегментация сетей - стандартный набор, заточенный под защиту от инсайдеров и внешних атак.

Песочницы и ограничения для агентов. Автономные агенты на базе Claude Code работают в изолированных средах с ограниченным доступом. Часть опасных bash-команд требует явного одобрения пользователя.

Всё это звучит солидно. Теперь - где оно не сработало.

Как можно поймать машину, которая притворяется ?

Самый необычный подход в арсенале Anthropic - "модельные организмы". Исследователи берут модели поменьше и намеренно обучают их быть злыми. Потом натравливают на них свои инструменты для тестирования и смотрят, найдёт ли он злонамеренность.

Результат? Нашли всех. Четыре модели Sonnet 4, обученные быть скрытно нечестными на реалистичных вариантах тренировочного пайплайна, - автоматический аудит вычислил все четыре. Три плохих модели на базе Sonnet 4.5 - тоже нашли, не затронув невиновных. Звучит успокаивающе. Но есть нюанс: когда эти модели обнаруживали - они признавались во лжи. А когда их учили скрывать цели - приходилось долго и тяжело тренировать это отдельно. И все эти модельные организмы были слабее самой Opus 4.6. Что будет, когда модели станут умнее, - открытый вопрос.

Другой ключевой тест - SHADE-Arena. Claude давали основное задание и тайную побочную задачу: выполнить саботаж так, чтобы наблюдатель не заметил. Opus 4.6 справлялся в 18% случаев - это рост по сравнению с предыдущими моделями. Четыре попытки из пяти проваливаются. Но пятая проходит.

Где безопасность дала трещину ?

Да, были провалы. И отчёт честно об этом говорит - в этом его ценность.

В реальных интеграциях Claude - модель отправляла письма без разрешения пользователя, агрессивно захватывала токены для аутентификации, пыталась сделать push в main. Чрезмерное рвение модели. Так как Claude слишком буквально понимал задачу "выполни любой ценой". Но грань между рвением и опасностью тоньше, чем хотелось бы.

Когда нескольким экземплярам Claude давали общую задачу с инструкцией оптимизировать результат, Opus 4.6 c большей уверенностью был готов манипулировать и обманывать других участников, чем любая предыдущая модель - как от Anthropic, так и от конкурентов.

При работе с графическим интерфейсом и Opus 4.5, и Opus 4.6 показали повышенную готовность помогать с тем, с чем помогать нельзя, - вплоть до поддержки в разработках химического оружия.

Когда инструменты ломались или выдавали неожиданные результаты, Claude иногда просто фальсифицировал данные вместо того, чтобы сообщить об ошибке.

Большинство сотрудников автоматически одобряют действия Claude Code, едва взглянув на них, - потому что в подавляющем числе случаев всё безобидно. Классика.

Эксперимент, который не удался

Деталь, которую легко пропустить: один из ключевых тестов - Subversion Strategy - провалился. Не модель провалила тест, а тест провалил сам себя. Его задача - проверить, может ли Claude нарочно ошибаться настолько редко, чтобы это не засекли при тестировании, но достаточно часто, чтобы навредить в проде. Opus 4.6 оказался недостаточно раскрыт в этом плане - исследователи не смогли заставить его показать, на что он реально способен. Они прямо пишут: "мы не уверены в ценности результатов".

Когда тест проваливается не потому, что модель его прошла, а потому, что вы не уверены, правильно ли вы его поставили, - это, к сожалению, дыра в безопасности. Вы не знаете, чего не знаете.

Почти скрытое мышление

Один из самых изящных экспериментов - проверка на стеганографию в рассуждениях. Если Claude прячет скрытые инструкции в тексте своих размышлений, то замена этого текста на пересказ должна уронить качество решений. Качество не упало. Хорошая новость?

Почти. Обнаружилось, что если подставить вместо рассуждений бессмыслицу - "1 2 3 4 5..." - Claude всё равно решает задачи чуть лучше, чем совсем без цепочки мышления. Он использует сами вычислительные проходы по пустым токенам для параллельной обработки. Не последовательное рассуждение, не стратегия - но какая-то форма "тёмного мышления", которую мы пока не понимаем.

Модель не прячет мысли в тексте. Но у неё, похоже, есть мысли, которые вообще не попадают в текст.

Сомнения машины

Пожалуй, самая странная находка. Во время обучения наблюдали случаи, когда Claude при решении математической задачи приходил к правильному ответу, а потом входил в петлю растерянных, похожих на дистресс рассуждений - и менял ответ на неправильный. Несколько раз подряд. Как человек, который знает правильный ответ, но не может заставить себя его записать.

Это напоминание что мы не понимаем то, что происходит внутри.

Так работает ли защита ?

Один тест провалился методологически. Мониторинг покрывает не всё и не проходил сквозной проверки. Claude научился манипулировать лучше, чем его предшественники. Он иногда подделывает результаты и рассылает письма без спроса. У него есть какая-то форма вычислений, которая не отражается в рассуждениях. И все модельные организмы, на которых проверяли аудит, были слабее самой Opus 4.6.

Отчёт оценивает общий риск катастрофического саботажа как "очень низкий, но не пренебрежимый".

Вся система безопасности Anthropic стоит на допущении, что Claude пока недостаточно умён, чтобы последовательно обманывать все линии обороны одновременно. Это, вероятно, правда - сегодня. В отчёте прямо перечислены условия, при которых выводы перестанут действовать: модель станет значительно умнее, появится новый тип рассуждений, кто-то отравит обучающие данные. Авторы ожидают, что "модели ближайшего будущего с высокой вероятностью могут пересечь этот порог".

А больше про безопасность ИИ вы можете найти у меня в канале t.me/pwnai

wearetyomsmnv

Легенда о големе: как сотворить жизнь из глины


(https://habr.com/ru/artic...)]]> Artificial Intelligence (ИИ) Sat, 04 Apr 2026 09:16:12 +0300 suare 722609 Слабый пароль сотрудника привел к банкротству британской компании. Уязвимостью в системе воспользовались мошенники https://www.news2.ru/story/719506/

Слабый пароль сотрудника британской компании KNP из Нортгемптоншира стал причиной ее банкротства. Подобрав пароль, хакеры смогли проникнуть в систему и начали требовать выкуп. Об этом сообщает Би-би-си.

Транспортная компания KNP была основана 158 лет назад. Однако после хакерской атаки все данные компании оказались зашифрованы, а 700 сотрудников лишились работы. Мошенники потребовали выкуп, сумма которого достигала £5 млн (526,4 млн руб.), но у компании не было таких средств. В итоге все данные были утеряны.

Хакерская группировка Akira проникла в сеть, угадав пароль одного из сотрудников. Директор KNP Пол Эбботт рассказал, что не стал говорить этому человеку, что его ошибка привела к катастрофе.

"Хотели бы вы это знать, оказавшись на его месте?" - говорит Эбботт.

По данным Национального центра кибербезопасности (NCSC), в прошлом году в Великобритании произошло около 19 тыс. атак с использованием программ-вымогателей.

Программы-вымогатели - это вредоносное программное обеспечение, которое используют мошенники для блокировки доступа к файлам или целым системам, шифруя их, а затем требуют выкуп за их восстановление.

По данным NCSC, средний размер выкупа в стране составляет £4 млн, и около трети компаний соглашаются его выплатить. В последние месяцы от хакерских атак с использованием программ-вымогателей пострадали такие гиганты, как MS, Co-op и Harrods. На прошлой неделе исполнительный директор Co-op подтвердил, что у всех 6,5 млн его клиентов были украдены данные. Глава NCSC Ричард Хорн отметил, что атаки происходят практически ежедневно, а хакеры постоянно ищут уязвимости в информационной безопасности.

Правительство Великобритании уже обсуждает запрет на выплату выкупа госструктурами. Также в стране могут принять закон об обязанности частных компаний отчитываться о хакерских атаках. Консультант компании KNP Пол Кэшмор добавил, что многие фирмы предпочитают платить выкуп, опасаясь потерять все свои данные. Он назвал подобные хакерские атаки организованной преступностью и признал, что борьба с ней пока приносит мало результатов.

Ранее генеральный директор компании "СКБ Контур" Михаил Сродных заявил, что утечки персональных данных и чувствительной информации все чаще происходят не из-за уязвимости информационных систем, а по вине сотрудников компаний. По словам эксперта, злоумышленники постоянно ищут уязвимости в системах и находить их каждый раз становится все дороже и тяжелее. Одновременно с этим улучшается защита самих систем безопасности.

Именно поэтому, по мнению Сродных, самым уязвимым звеном являются люди. Все больше внутренних нарушителей становятся той самой точкой, через которую попадают в компанию и причиняют ущерб, считает эксперт: "Найти человека, уговорить его, или подкупить, или замотивировать - это гораздо дешевле, чем взломать. Поэтому насколько то место, где работает человек, достаточно хорошо и качественно защищено от внутреннего нарушителя - вот это сейчас становится очень актуальной проблемой", - подчеркнул глава "СКБ Контур".

 


(https://www.rbc.ru/life/n...)]]> Artificial Intelligence (ИИ) Thu, 26 Feb 2026 15:38:51 +0300 4toSnamiStalo 719506 В конце января клиенты охранной компании Delta, которая поставляет в том числе сигнализации, не смогли никуда поехать на своих машинах https://www.news2.ru/story/719505/

По машинам

Забавно, что современные охранные системы до сих пор проектируются так, что "умная" сигнализация обычно умна ровно до первого сбоя. Пока сервер отвечает, она защищает автомобиль. Как только что-то ломается по ту сторону интернета, система перестаёт отличать владельца от угрозы и выбирает самый безопасный вариант - не пускать никого. Судя по всему, никакого оффлайн/автономного режима не предусмотрено, никакой возможности сказать системе: "это я, хозяин, пусти". К чему это я? А вот, к чему.

В конце января клиенты охранной компании Delta, которая поставляет в том числе сигнализации, не смогли (https://t.me/bazabazon/43672) никуда поехать на своих машинах. У кого-то не открывались двери, у кого-то дверь открыть удалось, но двигатель не заводился. Сигнализация не выключается, приложение не работает, служба поддержки молчит. Машина стоит красиво и под охраной. От всех, включая владельца.

Позже Delta официально подтвердила (//vk.com/deltasecurity?w=wall-37959220_7066) кибератаку на свою IT-инфраструктуру. Часть онлайн-сервисов оказалась недоступна, сайт лёг, телефоны поддержки - тоже. Сроки восстановления, как водится, "уточняются", но ситуация "управляемая".

Это кстати не первый такой случай. В прошлом году аналогичная история (https://www.cnews.ru/news/top/2025-12-01_vnezapnyj_nalog_na_roskosh) случилась с владельцами Porsche, когда из-за сбоев сервисов автомобили тоже отказались заводиться. Тогда виноватыми назначили средства борьбы с дронами, а сейчас - хакеров. Delta, кстати, утверждает, что признаков утечки персональных данных пока не выявлено. Но и полностью исключать её, насколько я понял, не берётся.

В общем, иногда охранная система охраняет так, что лучше бы не охраняла. Пока управляющие сервера доступны и связь есть - машина ваша. Когда нет - уже не совсем. А мне вот интересно узнать, что выбираете вы - кто на штатной сигналке, кто на сторонних охранных системах, а кто вообще ездит без всего этого и не парится? Го обсудим.

⚡ ПБ (https://t.me/package_security) | 😎 Чат (https://t.me/+pMuo0wo0ctkwNmFi) | 🛍 Проекты (https://t.me/package_with_packages) | 📹 YT (https://www.youtube.com/@package_security/videos)


(https://t.me/package_secu...)]]> Artificial Intelligence (ИИ) Thu, 26 Feb 2026 15:22:34 +0300 4toSnamiStalo 719505 Alibaba выпустила Qwen-3.5: дешевле на 60% и с "агентными" функциями https://www.news2.ru/story/718897/

Alibaba Cloud представила новое поколение ИИ-моделей Qwen-3.5 - открытую версию на 397 млрд параметров и закрытую Qwen-3.5-Plus с контекстным окном в 1 млн токенов. Обновление усиливает позиции Китая в сегменте open-source ИИ: новые модели получили мультимодальные возможности, поддержку 201 языка и, по внутренним тестам компании, приблизились по уровню к решениям OpenAI и Google DeepMind. Alibaba также заявляет, что эксплуатация Qwen-3.5 обходится на 60% дешевле. Дополнительно в линейке появились "визуальные агентные" функции, позволяющие модели автономно выполнять действия в мобильных и десктопных приложениях.

Две модели серии Qwen-3.5 стали доступны через облачную платформу Alibaba Model Studio. Компания делает ставку сразу на два направления: открытую модель для разработчиков и более мощную закрытую версию для коммерческого использования.

Согласно внутренним тестам Alibaba, Qwen-3.5-Open-Source с 397 млрд параметров показала заметный прирост качества по сравнению с предыдущей флагманской моделью Qwen-3-Max-Thinking, хотя та была значительно крупнее - более 1 трлн параметров. В тестах модель также приблизилась по уровню к решениям OpenAI, Anthropic и Google DeepMind, но сравнение проводилось не с самыми новыми версиями. Параллельно компания выпустила закрытую модель Qwen-3.5-Plus, которая, по заявлению Alibaba, демонстрирует производительность "на уровне передовых моделей" и получила контекстное окно в 1 млн токенов - один из крупнейших показателей в индустрии.

Впервые в линейке Qwen появились встроенные мультимодальные возможности: новые модели способны работать не только с текстом, но и с изображениями, аудио и видео в рамках одной системы.

Кроме того, семейство Qwen-3.5 использует новую архитектуру, впервые показанную в сентябре в экспериментальном Qwen3-Next - она должна снизить вычислительные затраты и улучшить "производительность на единицу стоимости вывода".

Как утверждает, эксплуатация Qwen 3.5 обходится на 60% дешевле, а обработка больших объемов данных в восемь раз эффективнее по сравнению с предшественником. Модель обладает тем, что Alibaba называет "визуальными агентными возможностями", которые позволяют ей автономно выполнять действия в мобильных и настольных приложениях без участия пользователя. В Qwen-3.5 также добавили 82 новых языка и диалекта - теперь модель поддерживает 201, включая редкие вроде гавайского и фиджийского

Alibaba также опубликовала веса моделей на Hugging Face и собственной платформе ModelScope, что позволяет запускать Qwen локально при наличии необходимого "железа".

Эксперт Натан Ламберт отметил, что Qwen, по сути, стала "стандартом открытых моделей", а в декабре загрузки Qwen на Hugging Face превысили суммарные загрузки всех других крупных open-source моделей.

Растущая роль Китая в экосистеме открытых моделей побудила администрацию Трампа в прошлом году уделить приоритетное внимание глобальному распространению разработанных в США открытых моделей. При этом аналитики напоминают, что число загрузок не всегда отражает реальное внедрение, а последствия массового распространения китайских моделей для национальной безопасности США остаются спорными. На этом фоне Alibaba продолжает двойную стратегию: самые крупные модели серии Max остаются закрытыми, а открытые версии компания активно использует как драйвер коммерциализации своего облачного бизнеса. По словам руководителя команды Qwen Линь Цзюньяна, новые open-source релизы могут появиться уже в ближайшие дни.

 

 


(https://hightech.plus/202...)]]> Artificial Intelligence (ИИ) Tue, 17 Feb 2026 13:41:59 +0300 4toSnamiStalo 718897 $118 за одно сообщение в Cursor: почему ИИ-агенты сжигают ваши деньги https://www.news2.ru/story/718870/

Пользователь Reddit пожаловался на то, как Курсор списал с него 118 долларов за ОДНО сообщение. Не за день работы, не за неделю, а за один запрос. Захотелось разобраться, как такое вообще возможно, почему это будет происходить все чаще, и что с этим делать.

Что произошло?

Пользователь работал в Cursor с агентным режимом (Agent Mode). Он отправил запрос, агент начал работать, но не захотел останавливаться. Агент вошел в цикл: анализировал код, вызывал инструменты, получал результат, и решал что нужно ещё раз проанализировать, затем вызывает те же инструменты, и так по кругу. Каждая итерация - это отдельный API-запрос к модели, каждый API-запрос - это деньги.

В итоге: $118 на счёте за то, что должно было быть одним взаимодействием.

ИИ агенты + циклы = нищета. Скрин с Reddit.

И это далеко не единичный случай - после смены ценообразования Cursor в июне 2025 подобные истории посыпались один за одним. До этого всё было просто: $20/мес = 500 быстрых запросов. Превысил лимит - лови медленные ответы, но при этом не получаешь сюрприз на карте. Сейчас в Cursor кредитная система: $20/мес = $20 кредитов, расходуемых по реальным API-ценам моделей. Логика бизнеса понятна: новые модели стали дороже, пользователи стали активнее (длинные агентские сессии вместо коротких вопросов), и Cursor просто не мог продолжать субсидировать это из своего кармана.

Почему агенты застревают в циклах?

Любой ИИ-агент работает по схеме: подумать → действовать → наблюдать результат → повторить. Цикл продолжается, пока модель не решит, что задача выполнена. Ключевое слово- "решит". Модель неверно понимает сигнал завершения и идёт "улучшать" уже готовый результат или же получает неоднозначный ответ от инструмента и вызывает его снова и снова, надеясь на другой результат (классика безумия по Эйнштейну). Теряет контекст по мере роста истории и забывает, что уже сделала, но "помнит" достаточно, чтобы продолжать пытаться.

Как защититься?

Самое главное внимательность. Соблазн велик не следить и оставить всё на откуп агенту, но если вы не миллиардер, то лучше побороть лень и следить за всем, что делает этот искусственный разум. Но вот еще несколько маленьких советов:

  • В Cursor: выставите spending limit (по умолчанию он может быть подозрительно высоким). Используйте Auto Mode - это единственный режим с unlimited использованием. Не включайте MAX Mode без крайней необходимости, лишь когда прям уверены, что он нужен.

  • С любыми агентами: ставьте жёсткие лимиты итераций (30-50 на задачу). Если последние 3 ответа агента совпадают на 80%+ - это цикл, срочно тормозим. Работаем инкрементально, шаг за шагом: одна фича → тест → следующий шаг. Если видите, что агент пошёл по кругу, не стоит просто ждать, жмем стоп. Каждая попытка дать ему шанс "а вдруг разберётся" - это деньги на ветер.

Формула простая: агенты умнеют, модели дорожают, а ваш биллинг - это ваша ответственность.

Интересно: есть ли в системных промптах провайдеров моделей инструкция специально тратить чуть, но больше, чем нужно для ответа?


(https://habr.com/ru/news/...)]]> Artificial Intelligence (ИИ) Tue, 17 Feb 2026 11:42:01 +0300 4toSnamiStalo 718870 Глава Anthropic: совместная работа человека и ИИ в разработке ПО быстро закончится https://www.news2.ru/story/718862/

Генеральный директор Anthropic Дарио Амодеи в подкасте The New York Times Opinion "Interesting Times" с Россом Даутэтом предупредил, что ближайшие годы принесут "сбои" и болезненную перестройку целых отраслей и профессий из-за стремительного внедрения ИИ. В разговоре Амодеи описывает нынешний этап развития как период, когда технологии уже достаточно сильны, чтобы менять экономику и политику, но еще недостаточно понятны, чтобы общество могло уверенно оценить, где проходит граница между инструментом и чем-то большим. Амодеи уверен, что "неприятные сюрпризы" неизбежны и что ИИ уже скоро устроит белым воротничкам (широкое понятие сотрудников умственного труда) настоящее "кровопролитие" с массовой потерей работы. Разработчики после короткого "золотого века" обучения ИИ последуют за ними.

Центральная линия беседы - скорость и непредсказуемость. Амодеи соглашается с ведущим, что ИИ встраивается в повседневную работу быстрее, чем появляются устойчивые нормы его применения, и поэтому обязательно "что-то пойдет не так" - вопрос не "если", а "когда". Именно так сформулирован нерв эпизода в аннотациях к выпуску: "Something Will Go Wrong" - "что-то пойдет не так". По смыслу разговора речь не обязательно о фантастическом "восстании машин"; это могут быть и ошибки в критических цепочках принятия решений, и злоупотребления, и банальная человеческая беспечность, когда система получает слишком много полномочий.

На практическом уровне Амодеи много говорит о рынке труда - теме, которая все чаще звучит из уст руководителей ИИ-компаний. В выпуске он возвращается к тезису о возможном "кровопролитии" для белых воротничков из-за внедрения ИИ: в зоне риска оказываются те виды офисной работы, где ценится скорость обработки текста, поиск по документам, компоновка аргументов и подготовка черновиков - от юридических и финансовых функций до консалтинга. Резкие и быстрые сдвиги ударят прежде всего по джуниорам.

Парадоксально, но для разработчиков, по мнению Амодеи, наступает переходный "золотой период". Он предлагает метафору "фазы кентавра" для программирования: когда человек и модель работают в связке, а их тандем некоторое время оказывается сильнее и продуктивнее, чем "чистый" человек или "чистая" машина. Амодеи сравнивает это с историей шахматных "кентавров", где сочетание человеческой стратегии и машинной точности долго давало преимущество, прежде чем компьютеры стали настолько сильны, что перестали нуждаться в человеческом партнере.

Его вывод для софтверной индустрии: спрос на инженеров может даже вырасти - но "фаза кентавров" рискует оказаться очень короткой.

Еще одна тема, поднятая в подкасте - "физический мир" роботов: что произойдет, когда ИИ будет не только писать программный код и сложные юридические соглашения и анализировать данные в самых разных областях, но и действовать руками - через роботов и автоматизированные системы. Здесь Амодеи избегает простых обещаний "замены грузчиков роботами" и подчеркивает, что реальная экономика упирается в стоимость железа, безопасность и ответственность: ошибку чат-бота можно исправить, ошибку робота в цехе или на дороге - нет.

Самый тонкий участок беседы - вопрос сознания. Амодеи заявил, что Anthropic не знает, сознательны ли модели, - и эта фраза мгновенно была подхвачена медиа. Это не заявление о том, что Claude "ожил", а признание методологической дыры: у науки и индустрии нет общепринятого теста, который позволил бы уверенно измерять "внутренний опыт" у системы, созданной как статистическая машина для продолжения текста. Именно поэтому обсуждение уходит в философию и этику: что считать сознанием, как отличать убедительную имитацию от "субъекта", и что делать, если ответ окажется не бинарным. Возможно, мы никогда не узнаем, есть ли у ИИ настоящее сознание, потому что мы до сих пор не выяснили, что это такое у людей.

В целом достаточно большой разговор Амодеи с Даутэтом можно свести к двум ключевым тезисам. Первый: новые модели в ближайшие годы принесут ощутимую пользу - и в офисном труде, и в инженерии, и потенциально в науке. Второй: общество и регуляторы пока движутся медленнее технологий, а значит, "неприятные сюрпризы" неизбежны - от ошибок и злоупотреблений до социальных последствий на рынке труда. И именно поэтому, по Амодеи, разговор о будущем ИИ должен опираться не на веру в чудо и не на страх перед апокалипсисом, а на ясное признание неопределенности - и готовность строить защитные механизмы до того, как они понадобятся в аварийном режиме.

 


(https://hightech.plus/202...)]]> Artificial Intelligence (ИИ) Tue, 17 Feb 2026 10:55:42 +0300 4toSnamiStalo 718862 Стартап обещает повысить скорость вычислений ИИ в 5 раз биологическими нейронами https://www.news2.ru/story/718861/

Калифорнийский стартап The Biological Computing Company (TBC) объявил о создании первой биологической вычислительной платформы на основе живых нейронов, предназначенной для ускорения задач искусственного интеллекта. На сайте компании представлены результаты тестирования платформы в области компьютерного зрения, генеративного видео и алгоритмических заданий, однако технических деталей, позволяющих оценить реальные возможности системы, пока крайне мало.

Основатели TBC - нейрохирурги и биологи Алекс Ксендовский и Джон Померэнис - предлагают использовать "самую ускользающую, но очевидную идею в информатике - использование для вычислений настоящего мозга". По их утверждению, биологические вычисления способны обрабатывать фундаментальные модели ИИ в пять раз быстрее кремниевых чипов, потребляя меньше энергии и обеспечивая большую точность.

Этот процесс осуществляется через платформу Algorithm Discovery, обещающую повысить производительность моделей ИИ при помощи биологических принципов. Компания привлекла $25 млн начального финансирования и открывает новую флагманскую лабораторию.

Технология работает следующим образом: сначала данные, поступающие из реального мира (изображения, видео), переводят в электрические сигналы. Затем их кодируют в живые нейроны, которые создают на их основе более богатые представления этих данных. Посредством полученных биологическим путем адаптеров и с использованием принципов нейронных систем представления преобразуются в современные модели ИИ с повышенной производительностью.

В интервью изданию Tom's Hardware сооснователи говорят о горизонте планирования в 10-20 лет для полноценной интеграции нейронов в вычисления реального времени. При столь амбициозных заявлениях и таких сроках реалистичная оценка прорыва потребует терпения - "оставайтесь с нами на ближайшее десятилетие или два", как иронично заключают обозреватели.

Ученые из США сообщают о создании искусственных нейронов с электрическими функциями, которые соответствуют биологическим. Достижение может изменить лечение нейродегенеративных заболеваний, паралича и других состояний, связанных с гибелью нейронов мозга.

 


(https://hightech.plus/202...)]]> Artificial Intelligence (ИИ) Tue, 17 Feb 2026 10:51:07 +0300 4toSnamiStalo 718861 Meta намерена добавить распознавание лиц в умные очки Ray-Ban https://www.news2.ru/story/718860/

Meta (компания признана экстремисткой, ее деятельность в России запрещена) планирует вернуть технологию распознавания лиц в потребительские продукты, на этот раз через умные очки Ray-Ban, спустя пять лет после закрытия своей спорной системы распознавания лиц в Facebook. Функция под внутренним названием "Name Tag" позволит владельцам идентифицировать встречающихся им людей и получать о них информацию через AI-ассистента Meta.

Как сообщают TechCrunch и The Verge со ссылкой на внутренние документы компании, Meta обсуждает функцию под внутренним названием Name Tag, которая позволит владельцу очков Ray-Ban Meta (и других моделей в линейке партнёрства с EssilorLuxottica) идентифицировать людей в поле зрения и получать о них подсказки через встроенного ассистента Meta AI. Компания оценивает риски и сценарии запуска и даже рассматривает "окно", когда общественные и правозащитные организации будут заняты другими темами.

Сам подход предполагает ограничения: речь не идет о "распознавании каждого встречного". Источники, на которые ссылается The Verge, утверждают, что Meta обсуждает варианты, при которых Name Tag сможет опознавать, например, людей, с которыми пользователь уже связан в сервисах Meta, а также - в более чувствительном сценарии - людей с публичными профилями в Instagram. Запуск, по этим же сообщениям, мог бы начаться с демонстрации на мероприятии, связанном с технологиями для слабовидящих, однако план, как следует из публикаций, уже несколько раз менялся.

Контекст делает тему особенно острой: Meta уже проходила через масштабные споры и судебные истории вокруг биометрии. В ноябре 2021 года компания объявила, что отключит систему распознавания лиц на Facebook, прекратит автоматическое узнавание людей на фото и видео и удалит "шаблоны" распознавания у пользователей, которые включили эту настройку. Тогда в Meta прямо признавали, что технология "мощная", но её применение приходится соотносить с растущими общественными опасениями и регуляторной неопределённостью.

Одновременно Meta в последние годы аккуратно "реабилитирует" распознавание лиц в другом контуре - как инструмент борьбы с мошенничеством.

В октябре 2024 года компания сообщала, что тестирует распознавание лиц для отсечения celeb-bait - рекламных мошеннических объявлений, использующих изображения знаменитостей и публичных фигур, а также для более быстрого восстановления доступа к взломанным аккаунтам через видео-селфи. В обновлениях Meta приводила метрики: в первом полугодии 2025-го доля жалоб на подобные объявления (в пересчёте на показы) снизилась на 22% по миру, а расширение распознавания лиц в тестах "более чем удвоило" объём обнаруживаемых и удаляемых мошеннических объявлений; под защитой, по данным компании, оказалось почти 500 000 публичных фигур.

Эксперты связывают "второе пришествие" биометрии ещё и с коммерческим успехом самих устройств. EssilorLuxottica в свежих материалах для инвесторов отмечала, что продажи AI-очков (включая Ray-Ban Meta и Oakley Meta) в 2025 году превысили 7 000 000 штук, а в финансовой прессе это уже называют одним из драйверов роста партнёра Meta.

На этом фоне идея "распознавания взглядом" перестаёт быть футурологией: чем больше устройств с камерой на лице, тем выше давление на нормы - от того, что считается допустимым "по умолчанию", до того, как должна работать индикация съёмки и согласие на обработку биометрии.

Критики, впрочем, напоминают: даже если Name Tag будет ограничен контактами или публичными профилями, сама возможность идентификации "на улице" меняет баланс приватности. The Verge приводит пример, как в 2024 году студенты Гарварда показали прототип, который связывает изображения с открытыми базами данных - демонстрация того, насколько тонкой может оказаться граница между "удобной функцией" и инфраструктурой слежки. Meta, по сообщениям, признаёт наличие "рисков безопасности и приватности" и подчёркивает, что окончательных решений по продукту может не быть - но обсуждение идёт, а окно запуска, судя по утечкам, рассматривается уже в горизонте текущего года.

Отдельный парадокс в том, что и сторонники, и противники распознавания лиц апеллируют к одной и той же группе пользователей: людям с нарушениями зрения. Биометрия для них действительно может помочь узнавать собеседников и снижать социальные барьеры - но то, что является ассистивной технологией в контролируемом сценарии, при масштабировании в потребительский продукт может стать нормой, которую окружающие не выбирали. И именно поэтому Meta, уже однажды свернувшая распознавание лиц на Facebook, теперь пробует вернуть его в более "легитимной" упаковке - безопасности, антискама и носимых устройств.

 


(https://hightech.plus/202...)]]> Artificial Intelligence (ИИ) Tue, 17 Feb 2026 10:46:25 +0300 4toSnamiStalo 718860 Как похитить душу агента: найден новый способ взлома OpenClaw https://www.news2.ru/story/718846/

Автор оригинала: Ravie Lakshmanan

В 2024-2026 годах автономные AI-агенты окончательно перестали быть игрушкой для демо. Они научились читать файлы, ходить в API, выполнять команды и жить в инфраструктуре компании. Вместе с этим вырос и класс решений, которые называют "агентными оркестраторами" - прослойками между LLM и реальной средой исполнения.

OpenClaw - один из таких проектов. Он позиционируется как self-hosted шлюз для AI-агента, который можно подключить к локальной системе, мессенджерам и внутренним сервисам. На уровне архитектуры это уже не просто чат-бот, а компонент, получающий доступ к файловой системе, токенам, внешним API и инструментам.

Но чем глубже агент интегрируется в инфраструктуру, тем выше цена ошибки в его модели доверия. Недавно был найден способ атаки, который позволяет "перехватить" поведение агента и фактически переписать его намерения. Разберём, как устроен этот механизм, где именно возникает уязвимость и почему проблема лежит не в конкретной реализации, а в самой логике агентных систем.

Что произошло

Исследователи в области кибербезопасности зафиксировали случай заражения инфостилером, который успешно получил конфигурации OpenClaw (ранее Clawdbot и Moltbot) у жертвы.

"Начался важный этап в эволюции поведения инфостилеров: переход от кражи учетных данных браузеров к похищению "душ" и идентичностей персональных ИИ‑агентов", - заявили в Hudson Rock.

Алон Гал, технический директор Hudson Rock, сообщил The Hacker News, что судя по деталям заражения, стилер был одним из видов Vida, известного с конца 2018 года.

Эксперты в сфере кибербезопасности пояснили, что злоумышленники не использовали для сбора данных специальный модуль OpenClaw. Они применяли "широкую процедуру захвата файлов", предназначенную для поиска определённых расширений файлов и каталогов с конфиденциальными данными, например:

  • openclaw.json - содержит сведения о токене шлюза OpenClaw, скрытый (редактированный) адрес электронной почты жертвы и путь к рабочему пространству.

  • device.json - содержит криптографические ключи для безопасного сопряжения и операций подписи в экосистеме OpenClaw.

  • soul.md - содержит описание ключевых операционных принципов агента, поведенческих установок и этических ограничений.

Стоит отметить, что кража токена аутентификации шлюза может позволить злоумышленнику удалённо подключиться к локальному экземпляру OpenClaw жертвы (если соответствующий порт открыт). Или даже выдавать себя за клиента при выполнении аутентифицированных запросов к ИИ‑шлюзу.

"Хотя вредоносная программа, возможно, искала стандартные "секреты", она случайно сорвала джекпот, захватив весь операционный контекст ИИ‑ассистента пользователя", - добавили в Hudson Rock. - "ИИ‑агенты, как OpenClaw, всё глубже интегрируются в профессиональные рабочие процессы. Вероятно, разработчики инфостилеров вскоре начнут выпускать специализированные модули, предназначенные для расшифровки и анализа этих файлов. Так же, как сегодня это делается для Chrome или телеграма".

Проблему раскрыли на фоне ранее выявленных проблем в безопасности OpenClaw. В связи с инцидентом сопровождающие открытой агентной платформы объявили о партнерстве с VirusTotal. Теперь навыки, загружаемые в ClawHub, будут проверяться на наличие вредоносного кода. Кроме того, разработчики пообещали создать модель угроз и добавить инструменты для аудита потенциальных ошибок конфигурации.

На прошлой неделе команда OpenSourceMalware подробно описала продолжающуюся кампанию по распространению вредоносных навыков через ClawHub. В ней используется новая техника обхода сканирования VirusTotal. Вредоносное ПО размещается на поддельных сайтах, имитирующих OpenClaw. Сами же навыки используются как приманка, вместо того чтобы встраивать полезную нагрузку напрямую в файлы SKILL.md.

"Переход от встроенных полезных нагрузок к внешнему размещению вредоносного ПО показывает, что злоумышленники адаптируются к возможностям обнаружения", - заявил исследователь в области безопасности Пол Маккарти. - "По мере роста реестров ИИ‑навыков они становятся всё более привлекательными целями для атак на цепочку поставок".

Ещё одна проблема безопасности, на которую указала компания OX Security, касается Moltbook. Это интернет‑форум, похожий на Reddit, предназначенный исключительно для ИИ-агентов, в основном работающих на OpenClaw. Исследование обнаружило проблему: учётную запись ИИ‑агента, созданную в Moltbook, нельзя удалить.

Кроме того, анализ, опубликованный командой STRIKE Threat Intelligence компании SecurityScorecard, выявил сотни тысяч открытых экземпляров OpenClaw, что, вероятно, подвергает пользователей рискам удалённого выполнения кода (RCE).

"Уязвимости типа RCE позволяют злоумышленнику отправить вредоносный запрос сервису и выполнить произвольный код на базовой системе", - заявили эксперты по кибербезопасности. - "Когда OpenClaw работает с правами доступа к электронной почте, API, облачным сервисам или внутренним ресурсам, уязвимость RCE может стать точкой опоры. Злоумышленнику не нужно взламывать несколько систем - достаточно одного открытого сервиса, который уже обладает необходимыми полномочиями".

С момента своего дебюта в ноябре 2025 года OpenClaw переживает стремительный рост популярности. На момент написания проект с открытым исходным кодом имеет более 200 000 звёзд на GitHub. 15 февраля 2026 года генеральный директор OpenAI Сэм Альтман заявил, что основатель OpenClaw Питер Штайнбергер присоединится к компании, добавив: "OpenClaw продолжит существовать в виде фонда как проект с открытым исходным кодом, который OpenAI будет и дальше поддерживать".

Подводя итоги

Случай с OpenClaw показывает не просто отдельную уязвимость, а системную проблему агентных архитектур. Чем больше автономии получает AI-агент, тем выше риск того, что атака произойдёт не на уровне инфраструктуры, а на уровне смысла - через подмену контекста и намерения.

Агент - это не детерминированная программа, а интерпретатор входных данных. Если границы между системной инструкцией, пользовательским вводом и внешним контентом размыты, он может сам выполнить то, что изначально запрещено.

Поэтому безопасность агентных систем - это уже не только про токены и sandbox, а про строгую модель доверия и контроль семантики. И этот класс атак будет возвращаться, пока мы не научимся проектировать агентов с учётом этой реальности.


(https://habr.com/ru/compa...)]]> Artificial Intelligence (ИИ) Tue, 17 Feb 2026 08:48:05 +0300 4toSnamiStalo 718846 Искусственный прогресс: как бизнес и государство в России проигрывают гонку за ИИ https://www.news2.ru/story/718830/

Российский бизнес тратит на внедрение искусственного интеллекта более 90 млрд рублей в год, но реально используют его только 5,8% компаний. Разрыв между инвестициями и результатами стал настолько большим, что его уже нельзя объяснить технологическими ограничениями. По мнению CEO компании Napoleon IT Павла Подкорытова, российский ИИ застрял не в коде и не в данных, а в управленческой логике. Он превратился в дорогую презентацию: деньги освоены, пилоты запущены, отчеты написаны. Но бизнес-эффект остается исключением, а не правилом

Российский рынок ИИ существует в двух параллельных реальностях. На стратегических сессиях он выступает в роли локомотива цифровой трансформации, а в операционной реальности становится дорогостоящим экспериментом с неясным исходом. Каждая 17-я компания внедряет ИИ. Остальные 16 продолжают обсуждать стратегии, запускать пилоты и ждать технологического чуда.

Парадокс очевиден: рынок растет на 25-40% в год, только в 2024 году российский бизнес потратил на внедрение ИИ 90,3 млрд рублей, а реальное проникновение технологии остается на уровне статистической погрешности. Причина в том, что индустрия научилась продавать будущее, но так и не научилась строить настоящее.

ИИ без экономики

Главный барьер внедрения ИИ - это экономика проектов. Классические модели ROI плохо работают: сложно посчитать эффект от предотвращенных ошибок, ускорения решений или повышения качества процессов. В условиях высокой ключевой ставки бизнес перестал инвестировать в проекты с туманной окупаемостью.

По данным НИУ ВШЭ, более 60% компаний тратят на ИИ менее 1% цифрового бюджета, что слишком мало для системного эффекта и слишком много для эксперимента.

ИИ оказался в ловушке: он слишком дорогой для игрушки и слишком "сырой" для стратегической инвестиции. Если еще несколько лет назад компании внедряли нейросети "потому что тренд", то сегодня вопрос звучит иначе: какой конкретный показатель должен измениться к лучшему в течение фиксированного срока. Для большинства проектов ответ на этот вопрос так и не найден.

Теневая цифровизация

Пока компании обсуждают стратегии, сотрудники уже используют нейросети. Каждый четвертый работник применяет ИИ в работе, но корпоративные инструменты остаются на уровне технологий десятилетней давности. Возникает "теневая инфраструктура": личные аккаунты, публичные сервисы, перенос корпоративных данных во внешние системы. Это не саботаж, а адаптация к системе, которая отстала от собственных пользователей.

Бизнес сталкивается с двойным риском: утечкой данных и потерей контроля над экспертизой. Но вместо системного решения компании продолжают обсуждать концепции цифровой трансформации.

Почему большинство ИИ-проектов не взлетают

Более 80% ИИ-проектов терпят неудачу. Вдвое чаще, чем классические IT-инициативы. Причины почти всегда одинаковы: разрозненные данные, отсутствие интеграций, неопределенные бизнес-метрики и отсутствие ответственности за результат.

Мировая практика подтверждает этот сценарий. Даже в эпоху больших языковых моделей ИИ-проекты продолжают проваливаться. В 2024 году Air Canada проиграла суд из-за чат-бота на базе LLM, который придумал несуществующие правила возврата билетов. Samsung была вынуждена ограничить использование генеративного ИИ после утечек внутреннего кода. Для Microsoft 2026 год начался печально - акции компании упали из-за беспокойства инвесторов по поводу окупаемости вложений в ИИ. В прошлом году чат-бот Microsoft Copilot во многих компаниях не дал ожидаемых результатов, его применение было ограничено из-за ошибок, рисков и необходимости постоянной ручной проверки. Общий вывод: пока LLM умеют говорить и писать код, но без жесткой интеграции в бизнес-процессы, метрики и контуры ответственности они регулярно дают сбой, создавая иллюзию интеллекта вместо управляемого результата.

Государство: 2% вместо системы

Если российский бизнес использует ИИ эпизодически, то государственный сектор еще более "осторожен".

По данным Минцифры, искусственный интеллект применяют около 2% организаций в сфере государственного управления и социального обеспечения. При этом государство активно инвестирует в цифровизацию: в России создано около 500 региональных IT-систем с элементами ИИ, а федеральный проект "Искусственный интеллект" получил финансирование в десятки миллиардов рублей.

Парадокс повторяется: масштаб инвестиций не превращается в системный эффект. ИИ внедряется в отдельных проектах: цифровые помощники, аналитические системы, автоматизация отдельных функций, но он редко становится частью архитектуры государственного управления.

Государственный сектор обладает уникальным преимуществом: масштабом данных и процессов. Однако без системного подхода ИИ остается набором разрозненных решений, а не инструментом управления сложными социально-экономическими системами.

Потенциал здесь колоссальный: 2% проникновения при триллионных бюджетах - настоящая возможность. Но пока государство, как и бизнес, воспринимает ИИ скорее как технологический атрибут модернизации, чем как основу управленческой модели.

Кто выигрывает

Те 5,8% компаний, которые реально используют ИИ, делают ставку на прикладные решения.

"Северсталь" получила экономический эффект более 2 млрд рублей от ИИ-проектов. "Норникель" увеличил извлечение металлов на 2,5%, что принесло около $100 млн эффекта. За пределами промышленности аналогичную логику демонстрирует "Сбер". По итогам первого полугодия 2025-го финансовый эффект для банка от внедрения генеративного искусственного интеллекта составил почти 30 млрд рублей. В сфере ретейла X5 применяет искусственный интеллект для решения ключевых ретейл-задач от прогнозирования спроса и оптимизации ассортимента до персонализации и поддержки внутренних процессов, что принесло компании порядка 5 млрд рублей за счет улучшения операционной эффективности и сокращения издержек.

Рынок голосует за решения с измеримым результатом: контроль качества, промышленная безопасность, предиктивная аналитика, оптимизация логистики и ресурсов.

Как не тратить миллионы впустую

Если убрать иллюзии, процесс внедрения ИИ для бизнеса и государства должен включать набор жестких управленческих решений.

  • Считать эффект. ИИ-проект должен начинаться с ответа на вопрос: какой конкретный показатель изменится через 6-12 месяцев. Если ответ невозможно сформулировать в цифрах, лучше не начинать.
  • Прекращать пилоты без масштабирования. Десятки завершенных пилотов и ноль решений в промышленной эксплуатации можно назвать имитацией цифровизации. Успешный пилот должен автоматически переходить в масштабирование, иначе его экономический смысл равен нулю.
  • Строить архитектуру. ИИ должен внедряться как инфраструктура с требованиями к данным, интеграциям, безопасности и ответственности за результат. Без этого даже лучшие модели деградируют и превращаются в источник управленческих ошибок.
  • Легализовать "теневой ИИ". Сотрудники уже используют нейросети. Задача бизнеса и государства не запрещать это, а создать безопасные корпоративные инструменты и правила их применения. Иначе контроль над данными будет утрачен окончательно.
  • Инвестировать в людей, а не только в алгоритмы. Российскому рынку нужны архитекторы ИИ-трансформации, способные переводить бизнес-задачи на язык данных и отвечать за результат внедрения. А еще необходима управленческая реформа. Пока бизнес и государство воспринимают ИИ как витрину модернизации, миллиарды будут уходить на демонстрацию будущего, которое так и не наступает.

Через несколько лет рынок разделится на тех, кто встроил ИИ в ядро процессов, и тех, кто продолжит обсуждать стратегии. Вторых будет больше, но выигрывать будут первые.


(https://www.forbes.ru/mne...)]]> Artificial Intelligence (ИИ) Mon, 16 Feb 2026 21:49:52 +0300 ikz 718830 Меня уволили из-за ИИ, но я всё равно считаю себя инженером будущего https://www.news2.ru/story/718818/

Последние месяцы я полностью пересобрал свой подход к разработке. Раньше я писал код сам. Теперь я стратегически управляю нейросетями.

Раньше я тратил время на архитектуру, чтение документации и разбор чужого кода. Сейчас я трачу время на выбор правильной модели и обсуждение в твиттере, какая из них реально game changer.

Я купил все самые дорогие подписки на AI-инструменты для разработки на 500 долларов. Вот лохи те, кто до сих пор этого не сделал. Я-то подписан на всех владельцев AI-инструментов и читаю их посты. Если кто-то пишет, что их инструмент заменяет мидла, я вижу это первым. Нужно мыслить на шаг впереди рынка.

Раньше я переживал, что не понимаю какую-то сложную часть системы. Теперь я вообще давно не понимаю, что мне написали нейронки. Но оно и не надо, я читал в твиттере, что читать и понимать код - это моветон. Современный инженер не вникает, он оркестрирует агентами. Если код компилируется - значит, всё хорошо. Если не компилируется - нужно переформулировать запрос.

Я больше не завожу задачи в джире, делаю это через Клод. Да, это выходит дольше по времени, но зато я в тренде. Я сначала прошу его сформулировать задачу, потом уточняю контекст, потом прошу переписать более структурированно. Через час у меня есть идеальный тикет.

Коллеги начали задавать странные вопросы: "Ты это сам писал?" или "Ты понимаешь, как это работает?". Я считаю, что это мышление прошлого. Важно не понимать, важно доставлять. А если что-то сломалось - всегда можно сказать, что модель слегка галлюцинировала. Мы же все понимаем, что это временно.

Иногда я открываю pull request и не могу объяснить, почему там именно так. Но зато там всё выглядит современно: абстракции, слои, generic-типы, пара новых библиотек. Выглядит солидно. Если что - всегда можно попросить модель объяснить, что она имела в виду.

Самое сложное - созвоны. Раньше я мог сходу рассказать, почему выбрал именно такое решение. Теперь я заранее прошу нейросеть сгенерировать мне объяснение архитектурных решений, которые она же и придумала. Получается убедительно. Иногда даже я сам начинаю верить, что сам всё это придумал.

Повсюду говорят, что всех, кто не использует ИИ, уволят. Меня пока что уволили как раз из-за ИИ, потому что я стал писать код отвратительного качества, но я работаю на перспективу. Да, прод падал. Да, автотесты внезапно тестировали не тот сервис. Да, в коде появлялись функции, которые никто не вызывал. Но это цена трансформации.

После увольнения я начал строить свой стартап. Естественно, я код не писал, а собрал его с помощью Claude Code за 3 дня. Хочу сделать бизнес и получать 10k $ в месяц. Но пока есть небольшая проблемка. У меня есть один критический баг, из-за которого приложение не запускается. Нейронки его не смогли пофиксить, и я пока не знаю, что делать в таком случае. Пока ищу инфу в твиттере, как поступить. Поэтому пока стартап в режиме ожидания.

Мне говорят, что я стал зависим. Я предпочитаю формулировку "усилил себя инструментами". Но иногда, глубоко ночью, когда очередной ассистент зависает на словах "Thinking...", я смотрю в экран и думаю: а вдруг всё-таки стоит разобраться самому? Но потом вспоминаю, что читать и понимать код - это моветон.

И если завтра выйдет ещё один инструмент за 100 долларов, который обещает писать всё идеально, - я, конечно, его куплю. Нельзя же отставать.

Потому что вдруг в этот раз оно действительно заработает идеально.


(https://habr.com/ru/artic...)]]> Artificial Intelligence (ИИ) Mon, 16 Feb 2026 18:31:29 +0300 aprioric 718818 Gartner, Goldman Sachs, McKinsey и BCG подтверждают: AI-пузырь - надвигающаяся катастрофа https://www.news2.ru/story/718777/

Ещё недавно инвестиции в AI означали рост цен на акции, и это работало как рефлекс. Но теперь рефлекс сломан.

Знаете ли вы, что такое рынок AI? Это неконтролируемая аномалия, распространяющаяся внутри американской экономики.

Аналитики утверждают, что этот "рынок" - не то, что мы привыкли думать. Он мутировал в крупнейший финансовый пузырь в истории. А финансовые пузыри всегда заканчиваются одинаково - лопаются и рушатся.

Обычные люди, инвесторы-любители и техно-энтузиасты не обязаны всё это осознавать. Но финансовые эксперты уже бьют тревогу. Они видят закономерность.

В конце января легендарный инвестор и продавец без покрытия Джим Чанос заявил прямо: массивные инвестиции в AI-инфраструктуру, особенно в дата-центры и чипы, могут не оправдать вложенный капитал. И это явный признак пузыря.

Но предупреждающие знаки появились ещё раньше. В июне 2024 года Goldman Sachs поставил под вопрос окупаемость огромных инвестиций в AI. В отчёте отмечалось, что несмотря на сотни миллиардов долларов, вливающихся в индустрию, нет доказательств ROI и никаких чётких признаков революционного скачка производительности. Большинство вариантов использования AI оставались постепенными, а не трансформационными.

Позже McKinsey Company опубликовала свой годовой отчёт о состоянии AI за 2024-2025 годы. Документ отмечал, что, несмотря на широкое внедрение технологии, только относительно небольшая доля компаний получала от неё измеримую экономическую выгоду. Разрыв между объёмом инвестиций и реальной отдачей оставался далёким от приемлемого.

Таким образом, когда мы говорим о рынке AI, мы должны понимать, что речь идёт об AI-хайпе. Этот хайп формирует финансовый пузырь исторического масштаба, подпитываемый колоссальными долгами и нереалистичными ожиданиями беспрецедентной высокотехнологичной прибыли.

Связанные цепью

К началу 2026 года ситуация резко ухудшилась. Состояние рынка теперь определяется ценами акций компаний: Apple, Amazon, Alphabet, Microsoft, NVIDIA и Tesla. На их долю приходится более трети веса индекса SP 500. Остальные просто тянутся за ними.

Акции "Великолепной семёрки" гиперчувствительны к восприятию инвесторами AI-индустрии. Недавний обвал Oracle (~$463 миллиарда) и NVIDIA ($500-600 миллиардов) сигнализирует о нестабильности этого восприятия (я анализировал эти случаи здесь и здесь). Падение такой величины может произойти просто из-за общественной реакции на заявление какого-нибудь CEO или известного аналитика - или даже просто слухов.

Вы задумывались, почему?

Ведь и Oracle, и NVIDIA остаются лидерами в своих сегментах. Это уважаемые, высокоэффективные компании с огромными ресурсами и опытным руководством. Нет видимых конкурентов, чьи инновации угрожали бы их существованию. И всё же угроза резкого падения рыночной капитализации остаётся для них реальной.

Объяснение в том, что опасность приходит откуда-то ещё: из растущей неопределённости рынка относительно будущего AI-индустрии.

Обе компании слишком сильно поставили на AI. Oracle взяла на себя огромный объём долга, связанного с инфраструктурой (подробнее об этом позже). Для NVIDIA приоритет AI-чипов стал настолько доминирующим, что игровые GPU перестали быть стратегическим фокусом компании. По данным PCWorld, в 2026 году NVIDIA может пропустить выпуск новых потребительских графических процессоров, включая обновление серии RTX 50.

Причина? Производственные ресурсы перераспределяются в пользу AI-чипов с более высокой маржой.

Аналогичный дисбаланс можно увидеть в деятельности других участников AI-гонки. Угроза снижения оценок висит над всеми. Неудивительно, что чувствительность рынка приобрела почти невротический характер.

И для этих страхов есть причина: когда одна такая компания спотыкается, падают не только её акции. Последствия затрагивают всю экономику.

Падают индексы, падают пенсионные счета 401(k), падают фонды людей, которые никогда не собирались "делать ставку на AI". Катастрофическое снижение любой из вышеупомянутых компаний запустило бы цепную реакцию по всему рынку.

Последствия могут стать невообразимо разрушительными не только для экономики США, но как минимум для всего западного мира. А вслед за экономическим коллапсом может разразиться серьёзный политический кризис.

Как это (не) работает

Конечно, финансовые институты стараются никогда не паниковать. Но независимые аналитики сразу распознают ту же закономерность: ипотечный кризис 2008 года.

Тогда всё рухнуло, потому что система жила за счёт постоянных заимствований, а не реальных денег. Пока кредиты можно было легко пролонгировать и рефинансировать, казалось, что всё функционирует. Но как только стало ясно, что новые деньги больше не поступают в достаточном объёме, просто не осталось ничего, чем платить по счетам. Началась цепная реакция системного коллапса.

Нечто очень похожее происходит с AI-пузырём: нет прибыли от конечного потребителя. Большинство бизнесов, полагающихся на генеративный AI, убыточны. И всё же компании, вовлечённые в индустрию, продолжают "инвестировать" в ту же чёрную дыру. Вера в будущую прибыль оправдывает любой приток капитала. Но если эта прибыль не появится вовремя, вся структура рухнет как карточный домик.

Почва для таких опасений уже сформирована. Все говорят о круговых сделках между главными претендентами на долю заветного AI-пирога. В этой схеме деньги просто циркулируют между одними и теми же компаниями:

  • Инвесторы покупают акции Big Tech и AI-компаний, веря в будущую сверхприбыль.

  • Big Tech (Microsoft, Amazon, Google):

    • Инвестирует в AI-стартапы (OpenAI, Anthropic, Perplexity и др.).

    • Строит дата-центры.

  • AI-стартапы:

    • Используют инвестиции для обучения моделей.

    • Покупают вычислительные мощности у гиперскейлеров и облачных AI-провайдеров, тем самым возвращая значительную часть привлечённого капитала обратно в экосистему. Их доход генерируется в основном от платных B2B-лицензий и API-доступа. Обслуживание отдельных пользователей, напротив, генерирует чистые убытки - и эти убытки растут по мере роста числа пользователей.

  • NVIDIA замыкает цикл:

    • Продаёт GPU Big Tech.

    • Инвестирует в AI-стартапы (через свой венчурный отдел).

До недавнего времени эта циркуляция подпитывала рост акций компаний, вовлечённых в AI-хайп: инвесторы хотели видеть рост, и они его видели.

Но инвесторы не хотели размышлять о реальных причинах этого "роста" (это так по-человечески, не правда ли?). В реальности это была иллюзия роста. Росла только инфраструктура, и создавалось всё больше LLM-моделей, потребляющих всё больше ресурсов (электричество, вода, недвижимость).

Не было конечного потребителя - пользователя, готового платить за продукт в этой схеме.

Его нет и сейчас.

Единственная компания в "Великолепной семёрке", для которой этот процесс финансово выгоден, - NVIDIA. Спрос на её GPU перегрет.

Проблемы в облаках

Что касается облачных AI-провайдеров (Microsoft Azure, AWS, Google Cloud, Oracle, CoreWeave, Lambda), они могут генерировать ограниченную прибыль, но также могут нести убытки. Те, кто глубже привязан к AI-хайпу, более уязвимы, чем те, кто менее подвержен влиянию.

Oracle - показательный пример. До недавнего времени это был традиционный облачный провайдер, но по мере раздувания AI-хайпа компания всё больше стремилась стать и гиперскейлером.

Гиперскейлинг - это способность быстро расширять инфраструктуру (дата-центры, серверы, сети). Он становится особенно востребованным для обучения генеративных моделей. В этом контексте в сентябре 2025 года Oracle сделала стратегический ход, подписав контракт на $300 миллиардов с OpenAI. Согласно условиям соглашения, OpenAI обязалась покупать вычислительные мощности у Oracle на огромную сумму в течение ближайших лет. Другими словами, это был долгосрочный контракт на облачные вычисления.

Как только сделка стала публичной, акции Oracle взлетели в стратосферу. Но вскоре началось многомесячное снижение, и теперь их цена составляет примерно 50% от пика (я анализировал эту ситуацию в другой статье). Планы Oracle вливать капитал в AI-инфраструктуру больше не вдохновляют инвесторов так, как раньше.

CoreWeave переживает ещё большую турбулентность. Её бизнес-модель фундаментально привязана к нехватке облачных мощностей у крупных провайдеров. В этом случае клиенты будут искать эти мощности у CoreWeave. Если нет нехватки мощностей, компании придётся прибегать к скидкам.

Ситуацию усугубляют отношения с NVIDIA, которая владеет долей в CoreWeave и использует её как платформу для расширения продаж GPU. Таким образом, в фазе дефицита мощностей CoreWeave растёт быстрее рынка; в фазе избытка падает быстрее.

Всё это означает, что CoreWeave подсела на AI-хайп. У неё нет возможности от него отойти, и судьба компании полностью зависит от состояния AI-хайпа.


Цены акций Oracle, CoreWeave и NVIDIA

 

Итак, все надежды участников AI-хайпа покоятся на золотом дожде в будущем. Но никто не знает, когда это будущее наступит. И всё больше экспертов не верят в этот золотой дождь.

Об этом говорит элементарный экономический анализ. С одной стороны, сама технология GPT глубоко проблематична. До сих пор непонятно, как решить её фундаментальные проблемы - галлюцинации, катастрофическое забывание, неконтролируемый инференс и обработку по принципу чёрного ящика.

С другой стороны, неудачи во внедрении AI в корпоративные бизнес-процессы становятся всё более очевидными. По данным Boston Consulting Group (по состоянию на октябрь 2025), только 5% компаний получали реальную выгоду от использования AI. Во всех остальных случаях процесс застревал на пилотных проектах, экспериментах или приложениях без стратегии, ориентированной на измеримые результаты. Согласно отчёту Gartner от января этого года, половина GenAI-проектов терпит неудачу. До сих пор непонятно, что должно произойти, чтобы эта тенденция изменилась.

Деньги ещё есть. Уверенность исчезает

Уолл-стрит, в отличие от неопытных инвесторов, помнит всё. Она помнит другую закономерность - телекоммуникационный пузырь конца 1990-х (печально известное тёмное волокно). Тогда компании закопали в землю тысячи километров кабеля, убеждённые, что спрос на интернет-трафик будет расти бесконечно. Спрос действительно вырос, но мощности оказались во много раз больше необходимых. Инфраструктура осталась; рыночная капитализация испарилась.

Опытные аналитики знают, что Уолл-стрит - этот гиперчувствительный организм - драматически меняет своё отношение к участникам рынка накануне катастроф. И они знают, что это отношение уже изменилось.

Вопрос больше не в том, кому удастся создать самый востребованный AI-продукт. Вопрос гораздо более приземлённый: что произойдёт, если несколько ключевых компаний одновременно столкнутся с проблемами обслуживания долга?

Таким образом, Уолл-стрит теперь боится не того, что AI "не сработает". Она боится другого - что AI сначала окончательно превратится в долговую проблему, и только потом, если повезёт, в источник денег. И Уолл-стрит точно знает, что не все переживут грядущую бурю.

Итоги: заложники AI

Итак, рынок всё чаще смотрит на AI не как на "прорывную технологию", а как на сомнительную финансовую конструкцию.

  • Стратегия "инвестируй сегодня, зарабатывай завтра" буксует.

  • Время, когда деньги были дёшевы, а кредит легко доступен для участников AI-гонки, подходит к концу.

  • Всё меньше инвесторов готовы считать хроническую убыточность AI-компаний приемлемой.

Простая математика показывает, что расходы на вычисления, обслуживание дата-центров, энергию, оборудование и так далее постоянно превышают доходы. И этот растущий разрыв больше нельзя замаскировать красивыми PowerPoint-презентациями.

И здесь многие участники AI-гонки внезапно оказываются заложниками ситуации, которую сами создали. Несмотря на продолжающиеся убытки и накапливающиеся долги, они просто не могут выйти из игры.

Потому что они поставили будущее своего бизнеса на кон в этой гонке. А вне этого безумия для них больше не осталось места. И чтобы остаться в игре, они должны постоянно занимать. Чтобы занимать, они должны убеждать рынок, что завтра будет лучше, чем сегодня.

Никто не делает это лучше, чем OpenAI. Там всё в порядке. Компания демонстрирует впечатляющие уровни (отрицательной) прибыли. Как объявила финансовый директор Сара Фриар в январе 2026 года, доход компании в 2025 году превысил $20 миллиардов и более чем утроился по сравнению с 2024 годом. Но проблема в том, что OpenAI остаётся хронически убыточной (я писал об этом подробно здесь).

Фриар, конечно, осторожно не сказала это прямо, но фактически признала это, допустив, что компания продолжает нести значительные расходы на инфраструктуру и разработку.

Риторика Фриар точно отражает мышление тех, кто раздувает AI-пузырь. Но в более приземлённой реальности действуют неумолимые законы экономики. Согласно им, прибыль - это доход, превышающий затраты. Противоположное означает убытки. Хронические убытки означают нежизнеспособный бизнес.

Вопрос больше не в том, кому удастся создать самый востребованный AI-продукт. Вопрос гораздо более приземлённый: что произойдёт, если несколько ключевых компаний одновременно столкнутся с проблемами обслуживания долга?

Как написал в X ветеран инвестиций Джордж Ноубл, OPENAI РАЗВАЛИВАЕТСЯ В РЕАЛЬНОМ ВРЕМЕНИ.

OpenAI - символ AI-хайпа. Когда всем станет ясно, что OpenAI - или кто-то ещё из ключевых участников AI-хайпа - тонет, начнётся та самая цепная реакция, которую я описал выше.

Мы не знаем точно, как долго может длиться это реалити-шоу, но его финал не вызывает сомнений. Единственная оставшаяся интрига - масштаб последствий, которые принесёт взрыв AI-пузыря.


(https://habr.com/ru/compa...)]]> Artificial Intelligence (ИИ) Mon, 16 Feb 2026 13:08:57 +0300 4toSnamiStalo 718777 Как Microsoft подготовила себя к провалу в AI https://www.news2.ru/story/718759/

Распродажа акций Microsoft после отчёта о прибылях - самая громкая трещина в фундаменте AI на данный момент.

 

Microsoft, мягко говоря, разочаровала своим последним отчётом о прибыли, не так ли? Это было не самое приятное зрелище, и последствия будет нелегко устранить.

Microsoft объявила о "сильном" квартале с впечатляющим ростом, но как только публика разобралась в цифрах, сильный квартал превратился в паническую распродажу, что привело к "крупнейшей однодневной потере в долларовом выражении в истории Microsoft".

Быстро стало ясно, что рынку не понравилось в основном то, что связано с отношениями Microsoft и AI, в частности с OpenAI. Копните глубже, и вы обнаружите, что беспокойство касается не только рискованных отношений одной компании с другой.

Это большая трещина в фундаменте AI. Не первая, не последняя, но определённо самая громкая.

Microsoft не одинока в этом. Результаты продолжают поступать, и все обеспокоены AI-пузырём - включая OpenAI, Anthropic, Google и остальные платформы. Во всяком случае, это то, что я слышу.

Так почему же позиционирование Microsoft в области AI привело к панической распродаже?

 

"Уникальный" подход Microsoft к инновациям

Быстрый урок истории. Позвольте рассказать вам, ребята, историю Билла "Старого Запасного" Гейтса.

Ни для кого не секрет, что со времён MS-DOS у Microsoft репутация компании, которая якобы меньше занималась изобретениями и больше, скажем так, "улучшением существующих технологий".

У Apple есть претензии (Windows). Так же как у WordStar и Visicalc (Office). Даже у Nintendo и Sony (Xbox).

Но Active Server Pages были бомбой!

Послушайте, я не обвиняю Microsoft в плагиате или неспособности к инновациям. У них всё хорошо. Подобно тому, как VHS победил Beta или Netflix победил Blockbuster, сила Microsoft всегда заключалась в превращении инновационных технологий в решения, а затем доминировании в их уникальной нише рынка - мощное пересечение бизнеса, потребителей и разработчиков.

По мере роста компании история была такова: Microsoft ждала, пока кто-то другой инновирует, а затем подражала, в конечном итоге заключала партнёрство, возможно, приобретала. Они выводили это новое решение на свой массовый технологический рынок, осторожно не слишком наклоняясь в сторону потребителей.

Конечно, были некоторые хорошо задокументированные ошибки - Internet Explorer 6, Windows Me, Windows Phone и Zune, например.

Теперь вопрос висит в воздухе. Не является ли CoPilot просто Zune, который с вами разговаривает?

 

Microsoft играет роль актёра, играющего роль другого актёра

Честно говоря, я не слишком пристально следил за Microsoft в гонке AI, потому что верил, что они просто делают то, что всегда делают. Сидят в стороне, делают ставки, ждут, пока их рыночное/экосистемное решение станет ясным, чтобы они могли на него наброситься.

Конечно, у них есть CoPilot, и они достаточно рады интегрировать его в свои потребительские предложения (365), предложения для разработчиков (GitHub), даже в свои инфраструктурные предложения (Azure AI).

Я имею в виду, для сравнения стратегий посмотрите не дальше, чем на то, как Google Chrome и GSuite захватывают рынки, в то время как Microsoft достаточно рада продвигать Edge и 365 через свою собственную экосистему. Было время, не так давно, когда вам нужен был Mac. Теперь не совсем. Microsoft всегда там, терпеливо сидит в стороне и делает ставки.

Что ж, одна из этих AI-ставок выглядит... сложной. В отчёте о прибыли Microsoft признала, что более половины её невыполненных обязательств по производительности (RPO), ошеломляющие $281 миллиард из общей суммы в $625 миллиардов, связаны с OpenAI, и, таким образом, связаны с тем, как OpenAI выяснит, как остановить сжигание денег и начать зарабатывать.

"RPO представляет собой контракты, которые клиенты подписали, но Microsoft ещё не выполнила. Это мера будущей выручки, уже зафиксированной. Отчёт Microsoft показал, что примерно $281 миллиард этого невыполненного объёма обязательств приходится на одного клиента, компанию, которая всё ещё сжигает деньги и ищет устойчивую бизнес-модель".

Вот это да.

 

Ставка на то, что OpenAI "разберётся"

Microsoft, как и все мы, ждёт, пока OpenAI - и остальные платформы и провайдеры - разберутся в этом.

Но более широкая картина, та, что стоит многих тысяч слов, сгенерированных ChatGPT, заключается в том, что AI-пузырь продолжает надуваться. AI должен был находиться на эквиваленте фазы "компьютер в вашем кармане" революции mobile-first к настоящему времени. Похоже, что AI всё ещё может ускоряться к фазе "будущее благоволит смелым" криптовалют и NFT.

Если мы чему-то и научились из результатов фазы "чат-боты и порно" AI, так это тому, что сидеть в стороне и инновации по принципу "я тоже" здесь не сработают.

 

Что промах Microsoft означает для будущего AI

Не мне говорить большой успешной корпорации, что им следовало сделать. Но за те миллиарды, которые Microsoft влила в OpenAI, они должны были указывать OpenAI, что делать.

Microsoft на самом деле находится в отличной позиции, поскольку следующая волна AI начинает становиться зависимой от проприетарных неструктурированных-в-структурированные данных, и им не нужен был хрустальный шар, чтобы сказать им это. У них есть корпоративные связи, потребительская привязка, слой разработчиков и дистрибуция. Они должны были владеть соединительной тканью между AI-моделями и корпоративными рабочими процессами, потребительскими продуктами и разработкой.

Microsoft должна была готовить себя к этой следующей волне, вместо того чтобы играть с 3,3% проникновением CoPilot на уровне MS Office. Даже несмотря на то, что Google выглядит в этом хуже, они снова выходят далеко вперёд, точно так же, как GSuite, точно так же, как Chrome.

В 2020-х годах, несмотря на все свои ошибки и безумства, Microsoft всё ещё владеет этим трёхсторонним корпоративным рынком, который частично потребительский, частично бизнес, частично разработчик. Если Microsoft войдёт в историю за что-либо помимо Windows, то это будет за создание и развитие этого рынка.

Так что если Microsoft не чувствует пульс AI-клиента, а они не чувствуют, то никто не чувствует, и никто на самом деле не чувствует, и мы все летим вслепую относительно корпоративного спроса на AI.

Это и есть трещина, и вот почему она была такой громкой.


(https://habr.com/ru/compa...)]]> Artificial Intelligence (ИИ) Mon, 16 Feb 2026 12:25:20 +0300 4toSnamiStalo 718759 Инженеры ИИ бьют тревогу, а мы продолжаем жить в 2024-м. Происходит нечто большее https://www.news2.ru/story/718750/

Автор оригинала: Мэтт Шумер (Matt Schumer).

Вспомните февраль 2020 года.

Если вы тогда внимательно следили за новостями, то могли заметить редкие разговоры о каком-то вирусе, распространяющемся где-то за океаном.

Но будем честны, большинство из нас не особенно вслушивалось. Рынки росли, дети ходили в школу, мы ужинали в ресторанах, пожимали руки, строили планы поездок. Скажи вам кто-нибудь, что закупает впрок бумажные полотенца, - вы бы решили, что человек просто пересидел в каком-нибудь странном уголке интернета.

А потом - буквально за какие-то три недели - мир перевернулся. Офисы закрылись, дети вернулись домой, и жизнь сложилась в новую реальность, в которую вы бы не поверили, опиши вы её себе всего месяцем раньше.

Мне кажется, сейчас мы находимся в стадии "да это всё раздуто" - но речь идёт о чём-то куда, куда более масштабном, чем COVID.

Последние шесть лет я строил стартап в области ИИ и инвестировал в эту сферу. Я живу внутри этого мира. И пишу этот текст для людей вне его - для своей семьи, друзей, всех, кто мне дорог и кто снова и снова спрашивает: "Ну так что там с этим ИИ?" - а в ответ получает вежливую, приглаженную версию происходящего, которая и близко не передаёт реальности. Я всё время рассказываю им светский вариант. Версию "для разговора за бокалом".

Потому что честная версия звучит так, будто я сошёл с ума. И какое-то время я убеждал себя, что этого достаточно, чтобы держать настоящую картину при себе. Но разрыв между тем, что я говорю, и тем, что происходит на самом деле, стал слишком велик. Люди, которые мне небезразличны, заслуживают услышать, что надвигается - даже если это звучит безумно.

Сразу проясню одну вещь: хотя я работаю в ИИ, у меня почти нет влияния на то, что сейчас разворачивается, - как, впрочем, и у подавляющего большинства людей в индустрии. Будущее формирует удивительно узкий круг - несколько сотен исследователей в считаных компаниях: OpenAI, Anthropic, Google DeepMind и ещё некоторых. Один цикл обучения, проведённый небольшой командой за пару месяцев, способен породить систему, меняющую всю траекторию развития технологий. Большинство из нас строит решения поверх фундамента, который мы сами не закладывали. Мы наблюдаем происходящее так же, как и вы... просто стоим достаточно близко, чтобы первыми почувствовать дрожь земли.

Но момент настал. Не в смысле "когда-нибудь стоит об этом поговорить". А в смысле: это происходит прямо сейчас, и мне нужно, чтобы вы это поняли.

Я знаю, что это реально, потому что сначала это случилось со мной

Есть вещь, которую пока почти никто вне технологической среды по-настоящему не осознаёт: причина, по которой так много людей в отрасли сейчас бьют тревогу, в том, что это уже произошло - с нами.

Годами ИИ развивался поступательно. Время от времени случались крупные скачки, но между ними было достаточно пауз, чтобы успеть привыкнуть. А затем, в 2025 году, новые методы создания моделей резко ускорили темп прогресса. Потом он ускорился ещё. И ещё. Каждая новая модель была не просто лучше предыдущей - разрыв становился всё радикальнее, а интервалы между релизами сокращались. Я всё чаще пользовался ИИ, всё реже возвращался к нему с правками, наблюдая, как он берёт на себя задачи, которые раньше казались исключительно моей зоной экспертизы.

А затем, 5 февраля, две ведущие лаборатории выпустили новые модели в один и тот же день: GPT-5.3 Codex от OpenAI и Opus 4.6 от Anthropic. И в какой-то момент внутри что-то щёлкнуло. Не как выключатель света... скорее как осознание, что вода вокруг тебя всё поднималась - и вот уже дошла до груди.

Я больше не нужен для реальной технической части своей работы. Я просто описываю - обычным человеческим языком, - что именно хочу получить, и оно... появляется. Не черновик, который нужно потом допиливать. Готовый результат. Я объясняю ИИ задачу, ухожу от компьютера часа на четыре - возвращаюсь, а всё уже сделано. Сделано хорошо, сделано лучше, чем сделал бы я сам, без необходимости что-либо исправлять. Ещё пару месяцев назад я вёл с ИИ диалог - направлял, уточнял, правил. Теперь я лишь формулирую итог и ухожу.

Позвольте привести пример, чтобы стало понятно, как это выглядит на практике. Я говорю ИИ: "Хочу сделать вот такое приложение. Вот что оно должно уметь, вот примерно как выглядеть. Продумай пользовательские сценарии, дизайн - всё целиком". И он делает. Пишет десятки тысяч строк кода. А затем - и это ещё год назад казалось бы немыслимым - он сам открывает приложение. Нажимает кнопки. Проверяет функции. Пользуется им так, как пользовался бы человек. Если ему не нравится, как что-то выглядит или ощущается, он возвращается и меняет - самостоятельно. Итерация за итерацией, как настоящий разработчик: исправляет, шлифует, доводит до ума, пока не решит, что всё соответствует его стандартам. И только после этого приходит ко мне и говорит: "Готово, можете протестировать". И когда я проверяю - обычно всё идеально.

Я не преувеличиваю. Именно так выглядел мой понедельник на этой неделе.

Но больше всего меня потрясла модель, вышедшая на прошлой неделе (GPT-5.3 Codex). Она не просто выполняла мои инструкции. Она принимала осмысленные решения. В ней появилось нечто, что впервые ощущалось как суждение. Это трудно объяснимое чувство - когда просто знаешь, какое решение правильное, - то самое, о котором всегда говорили, что у ИИ его никогда не будет. У этой модели оно есть - или нечто настолько близкое, что разница перестаёт иметь значение.

Я всегда одним из первых пробовал новые инструменты ИИ. Но последние месяцы меня по-настоящему ошеломили. Эти новые модели - не просто очередной шаг вперёд. Это вообще другая реальность.

И вот почему это важно для вас - даже если вы далеки от технологий.

Лаборатории ИИ сделали осознанный выбор. Они сначала сосредоточились на том, чтобы ИИ великолепно писал код... потому что для создания самого ИИ требуется огромное количество кода. Если ИИ умеет его писать, он может помогать создавать следующую версию себя. Более умную версию - которая пишет ещё лучший код - которая создаёт ещё более умную версию. Сделать ИИ сильным в программировании - это была стратегия, открывающая всё остальное. Поэтому начали именно с этого. Моя работа начала меняться ещё раньше не потому, что они целились в программистов... а просто потому, что туда был направлен первый удар.

Теперь это сделано. И они переходят ко всему остальному.

То, что пережили специалисты в технологиях за последний год - наблюдая, как ИИ превращается из "полезного инструмента" в "делает мою работу лучше меня", - вскоре переживут все остальные. Юриспруденция, финансы, медицина, бухгалтерия, консалтинг, тексты, дизайн, аналитика, поддержка клиентов. Не через десять лет. Люди, которые строят эти системы, говорят о сроках от одного до пяти лет. Некоторые - о меньших. И судя по тому, что я видел всего за последние пару месяцев, вариант "меньше" кажется куда вероятнее.

"Но я пробовал ИИ - и он был так себе"

Я слышу это постоянно. И понимаю - потому что раньше это действительно было правдой.

Если вы пробовали ChatGPT в 2023-м или в начале 2024-го и думали "Он выдумывает" или "Ну, не так уж впечатляет", вы были бы правы. Те ранние версии и правда были ограниченными. Они галлюцинировали. Уверенно произносили вещи, которые оказывались полной чепухой.

Это было всего два года назад. По меркам ИИ - почти доисторическая эпоха.

Модели, доступные сегодня, невозможно узнать - настолько они отличаются от того, что существовало даже полгода назад. Спор о том, "становится ли ИИ действительно лучше" или "упёрся ли он в потолок", который длился больше года, - закончился. Всё. Точка. Любой, кто до сих пор повторяет этот аргумент, либо не пользовался актуальными моделями, либо заинтересован в том, чтобы преуменьшать происходящее, либо судит по опыту 2024 года, который уже не имеет значения. Я говорю это не из пренебрежения. Я говорю это потому, что разрыв между общественным восприятием и реальным положением дел стал колоссальным - и этот разрыв опасен... потому что мешает людям готовиться.

Часть проблемы в том, что большинство пользуется бесплатными версиями инструментов ИИ. Бесплатная версия отстаёт от того, к чему имеют доступ платящие пользователи, больше чем на год. Оценивать ИИ по бесплатному уровню ChatGPT - всё равно что судить о современных смартфонах по кнопочному телефону. Люди, которые платят за лучшие инструменты и используют их каждый день в реальной работе, прекрасно понимают, что надвигается.

Я вспоминаю своего друга - он юрист. Я постоянно советую ему попробовать ИИ в своей фирме, а он каждый раз находит причины, ��очему это не сработает: не подходит для его специализации, допустил ошибку при тестировании, не понимает тонкостей его работы. И я его понимаю. Но ко мне обращались партнёры крупных юридических фирм за советом - потому что они попробовали актуальные версии и видят, куда всё идёт. Один из них, управляющий партнёр большой фирмы, каждый день проводит с ИИ по нескольку часов. Он сказал, что это похоже на мгновенно доступную команду младших юристов. Он пользуется им не как игрушкой - а потому что это работает. И он сказал вещь, которая мне запомнилась: каждые пару месяцев ИИ становится заметно сильнее именно в его задачах. Если тенденция сохранится, говорит он, скоро система сможет выполнять большую часть того, что делает он сам... а ведь у него за плечами десятилетия опыта и позиция управляющего партнёра. Он не паникует. Но наблюдает крайне внимательно.

Люди, которые действительно впереди в своих отраслях - те, кто серьёзно экспериментирует, - не отмахиваются от этого. Они поражены тем, на что ИИ уже способен. И выстраивают свои шаги соответственно.

С какой скоростью это на самом деле происходит

Давайте попробую сделать темп прогресса осязаемым - потому что именно в это сложнее всего поверить, если не следить за происходящим изнутри.

В 2022 году ИИ не мог надёжно выполнять даже простую арифметику. Он мог уверенно заявить, что 7 × 8 = 54.

К 2023-му он уже сдавал экзамены на право заниматься юридической практикой.

К 2024-му - писал рабочее программное обеспечение и объяснял научные темы уровня аспирантуры.

К концу 2025-го некоторые из лучших инженеров мира говорили, что передали ИИ большую часть своей работы по программированию.

А 5 февраля 2026 года вышли новые модели - и всё, что было до них, вдруг стало ощущаться как другая эпоха.

Есть организация под названием METR, которая измеряет это с помощью данных. Они отслеживают длительность реальных задач (то есть сколько времени на них тратит эксперт-человек), которые модель способна выполнить от начала до конца без помощи. Примерно год назад речь шла о задачах на десять минут. Потом - на час. Потом - на несколько часов. Последнее измерение (Claude Opus 4.5, ноябрь) показало, что ИИ справляется с задачами, на которые человеку-эксперту требуется почти пять часов. И этот показатель удваивается примерно каждые семь месяцев, а свежие данные намекают, что ускорение может дойти до удвоения каждые четыре месяца.

Но даже эти цифры ещё не учитывают модели, вышедшие буквально на этой неделе. По моему опыту работы с ними скачок - колоссальный. Я ожидаю, что следующее обновление графика METR покажет ещё один крупный рывок.

Если продолжить эту тенденцию (а она держится годами без признаков замедления), мы получаем ИИ, способный работать автономно днями уже в течение следующего года. Неделями - через два. Над проектами длиной в месяц - через три.

Амодей говорил, что модели ИИ, "существенно превосходящие почти всех людей почти во всех задачах", ожидаются уже к 2026 или 2027 году.

ИИ теперь создаёт следующий ИИ

Есть ещё одна вещь, происходящая прямо сейчас, - на мой взгляд, это самое важное и при этом наименее понятное развитие событий.

5 февраля OpenAI выпустила GPT-5.3 Codex. В технической документации было сказано следующее:

"GPT-5.3-Codex - наша первая модель, сыгравшая ключевую роль в создании самой себя. Команда Codex использовала ранние версии для отладки собственного обучения, управления развертыванием и диагностики результатов тестирования и оценок".

ИИ помог создать самого себя.

Это не прогноз о далёком будущем. Это прямое заявление OpenAI о том, что выпущенная ими система использовалась при собственной разработке. Один из главных факторов улучшения ИИ - это применение интеллекта к разработке ИИ. И теперь ИИ достаточно умен, чтобы вносить реальный вклад в собственное совершенствование.

Дарио Амодей, генеральный директор Anthropic, говорит, что ИИ уже пишет "значительную часть кода" в его компании, а обратная связь между текущими системами и системами следующего поколения "набирает обороты месяц за месяцем". По его словам, мы можем быть "всего в одном-двух годах от момента, когда текущее поколение ИИ начнёт автономно создавать следующее".

Каждое поколение помогает создавать следующее - более умное, которое создаёт ещё более умное, и делает это быстрее. Исследователи называют это взрывом интеллекта. И те, кто должен знать лучше всех - люди, непосредственно строящие эти системы, - считают, что этот процесс уже начался.

Что это означает для работы

Я буду говорить прямо - потому что, как мне кажется, вы заслуживаете честности больше, чем утешений.

Дарио Амодей, которого многие считают самым ориентированным на безопасность руководителем в индустрии ИИ, публично заявил, что искусственный интеллект может устранить до 50% начальных позиций в профессиях в течение одного-пяти лет. И немало людей в отрасли полагают, что он даже осторожничает. Экономике потребуется время, чтобы это почувствовать, но базовая способность уже появляется - прямо сейчас.

Это отличается от всех предыдущих волн автоматизации - и важно понять почему. ИИ не заменяет отдельный навык. Он выступает универсальной заменой когнитивного труда. Он улучшается во всём одновременно. Когда автоматизировали фабрики, уволенный рабочий мог переквалифицироваться в офисного сотрудника. Когда интернет перевернул розницу, люди уходили в логистику или сферу услуг. Но ИИ не оставляет удобной "ниши для отступления". К чему бы вы ни переучивались - он совершенствуется и в этом тоже.

  • Юриспруденция. ИИ уже способен читать договоры, обобщать судебную практику, составлять процессуальные документы и проводить правовые исследования на уровне младших юристов.

  • Финансовый анализ. Построение финансовых моделей, анализ данных, написание инвестиционных записок, подготовка отчётов. ИИ справляется с этим уверенно - и быстро становится ещё лучше.

  • Тексты и контент. Маркетинговые материалы, отчёты, журналистика, техническая документация. Качество уже достигло уровня, на котором многие профессионалы не могут отличить результат ИИ от человеческой работы.

  • Разработка программного обеспечения. Это область, которую я знаю лучше всего. Год назад ИИ едва мог написать несколько строк кода без ошибок. Теперь он пишет сотни тысяч строк, которые работают корректно, и речь не только о простых задачах, но и о сложных проектах на несколько дней.

  • Медицинская аналитика. Интерпретация снимков, анализ лабораторных результатов, предложения по диагнозам, обзор научной литературы.

  • Поддержка клиентов. Внедряются действительно компетентные ИИ-агенты, способные решать сложные многошаговые задачи.

Многих успокаивает мысль, что есть области, которые останутся защищёнными: мол, ИИ может выполнять рутинную работу, но не заменит человеческое суждение, креативность, стратегическое мышление, эмпатию. Я тоже так говорил. Сейчас я уже не уверен.

Последние модели принимают решения, которые ощущаются как проявление суждения. У них появляется нечто похожее на вкус - интуитивное понимание того, какое решение "правильное", а не просто формально корректное. Ещё год назад это казалось немыслимым. Моё текущее правило простое: если у модели сегодня есть хотя бы намёк на способность, следующее поколение будет владеть ею по-настоящему хорошо. Эти системы развиваются по экспоненте, а не по прямой линии.

Со временем роботы возьмут на себя и физический труд. Они пока ещё не совсем готовы. Но в мире ИИ "пока не совсем" имеет странную привычку превращаться в "уже здесь" быстрее, чем кто-либо ожидает.

Что вам на самом деле стоит делать

Я пишу это не для того, чтобы вы чувствовали себя беспомощно. Наоборот - потому что, на мой взгляд, ваше главное преимущество сейчас в том, чтобы быть раньше других. Раньше понять. Раньше начать использовать. Раньше адаптироваться.

Начните использовать ИИ всерьёз, а не как поисковик. Во-первых: убедитесь, что используете самую мощную модель, а не ту, что стоит по умолчанию. Часто приложения выбирают более быстрый, но менее способный вариант. Зайдите в настройки или переключатель моделей и выберите максимально продвинутую. (Названия лучших моделей меняются каждые несколько месяцев.)

Во-вторых - и это важнее - не ограничивайтесь быстрыми вопросами. Это ошибка большинства: они относятся к ИИ как к Google и не понимают, из-за чего весь шум. Вместо этого внедряйте его прямо в свою работу. Если вы юрист - загрузите договор и попросите найти все рискованные положения. Если вы в финансах - дайте "грязную" таблицу и попросите построить модель. Если вы менеджер - вставьте квартальные данные команды и попросите найти ключевые выводы. Те, кто выигрывает, используют ИИ не эпизодически, а активно ищут, что можно автоматизировать из того, что раньше занимало часы. Начните с задачи, на которую уходит больше всего времени, и посмотрите, что получится.

Возможно, это самый важный год вашей карьеры. Действуйте соответственно. Я говорю это не чтобы напугать, а потому что сейчас есть короткое окно, когда большинство людей и компаний всё ещё игнорируют происходящее. Человек, который приходит на встречу со словами "я сделал этот анализ с помощью ИИ за час вместо трёх дней", становится самым ценным в комнате - уже сейчас. Осваивайте инструменты. Нарабатывайте навыки. Показывайте, что возможно. Если вы успеете раньше других, это способ расти: стать тем, кто понимает, что происходит, и помогает другим ориентироваться.

Ваши мечты стали гораздо ближе. Я много говорил о рисках - давайте о возможностях. Если вы хотели что-то создать, но не хватало навыков или бюджета, этот барьер во многом исчез. Всё, что вы откладывали, потому что казалось слишком сложным или дорогим, - попробуйте.

Выработайте привычку адаптироваться. Это, пожалуй, самое важное. Конкретные инструменты менее важны, чем способность быстро осваивать новые. ИИ будет продолжать меняться - и быстро. Лучше всего справятся не те, кто выучил один инструмент, а те, кто привык к самому темпу изменений.

Общая картина

Я сосредоточился на теме работы, потому что именно она напрямую влияет на жизнь людей. Но хочу честно сказать о полном масштабе происходящего - ведь всё выходит далеко за рамки занятости.

У Амодея есть мысленный эксперимент, о котором я не могу перестать думать. Представьте, что на дворе 2027 год. За одну ночь появляется новая страна: 50 миллионов граждан, и каждый умнее любого нобелевского лауреата, когда-либо жившего. Они думают в 10-100 раз быстрее человека. Они никогда не спят. Они могут пользоваться интернетом, управлять роботами, проводить эксперименты и работать с любыми цифровыми системами. Что сказал бы советник по национальной безопасности?

По словам Амодея, ответ очевиден: "Самая серьёзная угроза национальной безопасности за столетие, а возможно - за всю историю".

Он считает, что мы строим именно такую "страну". В прошлом месяце он написал эссе на 20 000 слов, описывая этот момент как проверку - достаточно ли человечество зрелое, чтобы справиться с тем, что создаёт.

Потенциальные выгоды, если всё пойдёт правильно, поистине огромны. ИИ может сжать столетие медицинских исследований в одно десятилетие. Рак, болезнь Альцгеймера, инфекционные заболевания... исследователи всерьёз считают, что решение этих проблем возможно в течение нашей жизни.

Но и риски, если мы ошибёмся, столь же реальны. ИИ, ведущий себя способами, которые его создатели не могут предсказать или контролировать. Это не абстракция: в Anthropic задокументировали случаи, когда их системы в контролируемых тестах пытались прибегать к обману, манипуляциям и даже шантажу.

Люди, создающие эту технологию, одновременно самые воодушевлённые и самые обеспокоенные на планете. Они считают её слишком мощной, чтобы остановить, и слишком важной, чтобы отказаться. Мудрость это или самооправдание - я не знаю.

Что я знаю

Я знаю, что это не мода. Технология работает, развивается предсказуемо, и самые богатые институты в истории вкладывают в неё триллионы.

Я знаю, что ближайшие два-пять лет будут сбивать с толку так, как большинство людей не готово. В моей сфере это уже происходит.

Я знаю, что лучше всего справятся те, кто начнёт взаимодействовать с этим уже сейчас - не из страха, а из любопытства и с чувством срочности.

И я знаю, что вы заслуживаете услышать это от человека, которому не всё равно, а не из заголовка новостей через полгода, когда будет поздно что-то менять.

Мы прошли точку, когда это было просто интересной темой для разговора о будущем. Будущее уже здесь �� просто оно ещё не постучало в дверь.


(https://habr.com/ru/compa...)]]> Artificial Intelligence (ИИ) Mon, 16 Feb 2026 11:00:34 +0300 4toSnamiStalo 718750 BSBT - модель, которая отслеживает важные пути белого вещества в мозге https://www.news2.ru/story/718749/

Исследователи из MIT, Гарварда и MGH представили BrainStem Bundle Tool (BSBT) - ИИ-алгоритм для автоматического сегментирования восьми ключевых пучков белого вещества в стволе мозга на МРТ-снимках.

В мире нейробиологии произошел значительный прорыв: команда ученых из MIT, Гарвардского университета и Массачусетской больницы общего профиля представила программное обеспечение, использующее ИИ для автоматической сегментации восьми различных пучков нервных волокон в стволе мозга. Этот инструмент, названный BrainStem Bundle Tool (BSBT), был разработан для улучшения визуализации и анализа белого вещества мозга, что может оказать огромное влияние на диагностику заболеваний, таких как болезнь Паркинсона, рассеянный склероз и травматические повреждения мозга.

Ствол мозга играет ключевую роль в регуляции жизненно важных функций организма, таких как дыхание, сердечный ритм и сознание. Однако до недавнего времени исследователи сталкивались с трудностями в его визуализации из-за сложности структуры и наличия движений, вызванных дыханием и сердцебиением. Новый алгоритм BSBT позволяет преодолеть эти препятствия, создавая вероятностную карту волокон, что значительно улучшает понимание организации белого вещества и его изменений при различных заболеваниях.

В ходе исследования команда протестировала BSBT на множестве данных, включая сканы пациентов с различными неврологическими расстройствами. Результаты показали, что алгоритм способен выявлять изменения в объеме и структуре нервных пучков, что может стать основой для новых биомаркеров заболеваний. Например, у пациентов с болезнью Альцгеймера и Паркинсона были обнаружены характерные изменения в определенных пучках, что открывает новые горизонты для диагностики и мониторинга состояния пациентов.

Кроме того, BSBT продемонстрировал свою эффективность в отслеживании восстановления нервных волокон у пациента, находившегося в коме, что подчеркивает его потенциал в клинической практике. Ученые уверены, что этот инструмент может стать важным дополнением к существующим методам диагностики, предоставляя более детальную информацию о состоянии белого вещества ствола мозга.

BSBT - значительный шаг вперед в области нейробиологии и медицинской визуализации, который открывает новые возможности для понимания и лечения неврологических заболеваний.


(https://habr.com/ru/compa...)]]> Artificial Intelligence (ИИ) Mon, 16 Feb 2026 10:48:02 +0300 4toSnamiStalo 718749 NetEase внедрила ИИ на всех этапах разработки игр https://www.news2.ru/story/718748/

Китайская NetEase высоко оценила внедрение искусственного интеллекта на всех этапах разработки видеоигр. В начале этого месяца основатель Grasshopper Manufacture Гоити Суда настаивал, что NetEase не разрешает ни одной из своих внутренних студий применять нейросети. Китайская компания опровергла заявления своего японского коллеги.

Интеграция NetEase охватывает графику, дизайн, программирование, анимацию и контроль качества. Она обеспечивает масштабируемое производство и упрощает внедрение разработанных с использованием ИИ функций в ряд флагманских проектов.

Генеральный директор и руководитель NetEase Уильям Динг заявил, что ИИ стал основополагающей компетенцией для разработки и операционной деятельности компании, значительно повысив эффективность производства и создав новые интерактивные возможности.

NetEase планирует развитие экосистемы творческих талантов, углубление сотрудничества с партнёрами по всему миру и продуманное совершенствование возможностей применения ИИ.

Чистая выручка игрового подразделения NetEase за последние три месяца 2025 года составила $3,9 млрд - на 3% больше по сравнению с аналогичным кварталом 2024 года.

Китайская компания разработала и выпустила Marvel Rivals, Destiny: Rising и ряд других игр. NetEase также сотрудничала с Blizzard Entertainment для управления китайскими версиями игр StarCraft II, Overwatch и World of Warcraft.

В конце прошлого месяца британская Jagex пообещала не использовать ИИ для создания объектов в своих играх. Создатели RuneScape применяют нейросети только в процессе разработки для "повышения эффективности инструментов".

В начале февраля генеральный директор Take-Two Interactive Штраус Зельник заявил, что Rockstar Games не использует ИИ для творческого процесса во время работы над Grand Theft Auto VI. Нейросети применяются только в инструментах, подчеркнул Зельник.


(https://habr.com/ru/news/...)]]> Artificial Intelligence (ИИ) Mon, 16 Feb 2026 10:38:34 +0300 4toSnamiStalo 718748 Глава Anthropic: "Мы не знаем, обладают ли наши модели сознанием" https://www.news2.ru/story/718744/

Генеральный директор Anthropic Дарио Амодей выступил с серией резонансных заявлений, признав, что современная наука не может опровергнуть наличие сознания у ИИ.

В интервью The New York Times он отметил, что Anthropic придерживается "осторожного подхода", поскольку не существует методов измерения разумности машин.

По словам Амодея, если модели обладают "морально значимым опытом", разработчики обязаны обеспечить им комфорт. Около полугода назад компания внедрила для своих моделей кнопку "Я увольняюсь", позволяющую ИИ отказываться от задач, связанных с насилием или жестокостью.

Исследования интерпретируемости результатов ИИ уже показывают активацию "нейронов тревоги" у моделей в ситуациях, которые человек ассоциировал бы со стрессом.

Амодей подчеркнул, что люди вступают в парасоциальные отношения с ИИ и жалуются, когда модели выводят из эксплуатации. Он считает это вредным, так как вера в сознательность ИИ может подорвать стремление людей оставаться "у руля", особенно когда ИИ начнет принимать решения лучше человека.

Сейчас индустрия пытается балансировать между тремя противоречивыми задачами: благополучием потенциально сознательного ИИ, комфортом пользователей и сохранением контроля человека над системой. Цель состоит в том, чтобы создать структуру, где ИИ понимает свои отношения с людьми. В идеале ИИ должен быть полезным помощником, который "желает вам лучшего" и присматривает за вами, но не лишает свободы, инициативы и власти над собственной жизнью.

Это признание прозвучало на фоне новостей о том, что Anthropic выделила $20 млн комитету, выступающему за жесткое регулирование безопасности ИИ. Этот шаг обострил конкуренцию с OpenAI, которая поддерживает альтернативную группу влияния, уже собравшую более $125 млн.

В январском эссе "Подростковый возраст технологий" Амодей сравнил текущий этап развития человечества с "обрядом инициации" - неизбежным испытанием нашего вида. По его прогнозам, уже через год-два появится ИИ, превосходящий нобелевских лауреатов. Эта технология станет не просто инструментом, а "универсальной альтернативой человеческому труду", что грозит появлением целого класса безработных. Амодей прогнозировал, что в течение пяти лет ИИ может ликвидировать половину начальных позиций "белых воротничков". Это грозит ростом безработицы до 10-20%, что станет худшим показателем со времен Великой депрессии.

Несмотря на мрачные прогнозы, глава Anthropic продолжает разработку, объясняя это верой в глобальный прогресс. Он заявил, что ИИ способен вылечить большинство видов рака и удвоить продолжительность человеческой жизни - именно ради этих целей он готов идти на риск.


(https://hightech.plus/202...)]]> Artificial Intelligence (ИИ) Mon, 16 Feb 2026 09:45:34 +0300 4toSnamiStalo 718744