В последние полгода Россия стремительно изолирует свою интернет-инфраструктуру от внешнего мира. С октября 2024 года количество публично доступных интернет-устройств и сервисов в стране сократилось более чем на две трети. Сейчас Россия по числу видимых в сети устройств уступает даже небольшим европейским странам вроде Румынии и Швеции.

До 15 октября 2024 года в России насчитывалось около 920 000 интернет-доступных устройств: маршрутизаторов, почтовых серверов, VPN, веб-панелей, балансировщиков нагрузки и видеосистем. Однако за одну ночь их число резко упало почти вдвое, свидетельствуют данные ShadowServer Foundation. К концу 2024 года этот показатель временно вырос до двух миллионов, но затем рухнул еще сильнее. В 2025 году в России осталось лишь около 270 000 публично видимых устройств.

Как пишет Cybernews Research Team, Россия сокращает свою цифровую видимость по нескольким причинам. Во-первых, страна продолжает экспериментировать с "суверенным интернетом" - национальной альтернативой глобальной сети. В декабре 2024 года отдельные регионы России временно потеряли доступ к зарубежным сайтам, включая YouTube и Google. Исследователи считают, что это может быть частью тестирования инфраструктуры.

Во-вторых, Россия защищает инфраструктуру от кибератак. После событий 2022 года правительственные и банковские сети подверглись многочисленным хакерским атакам. В ответ, по данным Cybernews Research Team, власти инвестировали 59 миллиардов рублей в усиление кибербезопасности и создание системы фильтрации интернет-трафика. Перед массовым исчезновением IoT-устройств 14 октября 2024 года Роскомнадзор объявил об отражении крупнейшей в истории страны DDoS-атаки мощностью 1,7 Тбит/с.

Среди оставшихся публично доступных устройств в России 25% составляют маршрутизаторы, 20% - почтовые серверы, 6% - VPN, 5% - веб-панели и балансировщики нагрузки. Более половины (55%) из обнаруженных маршрутизаторов произведены латвийской компанией MikroTik. На втором месте по числу представленных устройств находится Keenetic с 16%, за ним следуют Huawei с 11%, Asus с 7% и TP-Link с 6%.

Почтовые серверы России на 94% работают на Exim - бесплатном почтовом агенте с открытым кодом. Веб-панели в основном представлены Fastpanel (46%), HestiaCP (18%), cPanel (6%) и phpMyAdmin (6%). Среди VPN-лидеров - MikroTik (72%), Cisco (14%) и OpenVPN (4%).

Помимо защиты от кибератак, массовое исчезновение интернет-устройств может быть связано с санкциями. Из-за запретов многие западные технологии и облачные сервисы стали недоступны. Россиянам приходится разрабатывать собственные обновления для устаревшего оборудования или обходить ограничения с помощью VPN.

Для сравнения, в США сейчас насчитывается почти 7 миллионов публично доступных интернет-устройств. В Южной Корее и Бразилии их около 2,1 миллиона, в Германии - 1,8 миллиона, а в Китае - 1,2 миллиона.

Некоторые эксперты считают, что американским организациям стоит взять на вооружение этот опыт и усилить защиту своих сетей. Это включает в себя ограничение интернет-доступа для незащищенных устройств, настройку многофакторной аутентификации и регулярные обновления прошивки для предотвращения атак.

Проблема уязвимости связана с ошибкой авторизации, позволяющей злоумышленникам отключать режим ограниченного доступа USB на заблокированных устройствах, что делает их уязвимыми для кибератак.

Для эксплуатации уязвимости требуется физический доступ к устройству. Режим ограниченного доступа USB, впервые представленный в iOS 11.4.1, предотвращает передачу данных через USB, если устройство не было разблокировано и подключено к аксессуарам в течение последнего часа. Эта мера защиты направлена на противодействие цифровым криминалистическим инструментам, таким как Cellebrite и GrayKey, используемым правоохранительными органами.

Apple признаёт, что ошибка могла использоваться в сложных атаках против определённых целей.

"С 1 августа 2023 года сотрудникам госслужб и работникам ФНС РФ запрещено использовать мобильные устройства компании Apple для ведения переговоров, а также для обработки, хранения и передачи информации в ходе служебной деятельности. Однако множество коммерческих организаций продолжают использовать данную технику, поэтому целесообразно принять меры по предотвращению атак и по обеспечению информационной безопасности сети. Также необходим аудит безопасности сети и сетевых устройств", - говорит Ксения Ахрамеева, к. т. н, руководитель лаборатории развития и продвижения компетенций кибербезопасности компании "Газинформсервис".

Снять зачеркивания в записях поэта удалось благодаря уникальной нейросетевой архитектуре "Да Винчи", использующейся в ПО компании для распознавания документов вне зависимости от угла и условий съемки.

На основании обучающих данных ИИ запоминает, какие движения пера в незачеркнутых словах свойственны почерку Пушкина, и восстанавливает утраченные места, пользуясь моделью движений руки поэта. С помощью технологии ученые уже смогли успешно расшифровать несколько ранее неизвестных слов из черновых рукописей Пушкина. Эти находки помогут пролить свет на динамику творческого процесса и помочь исследователям лучше понять, как поэт создавал свои произведения.

По словам ведущего сотрудника Института русского языка РАН Николая Перцова, компьютер позволяет увеличить и более четко увидеть бледные остатки чернил и карандаша.

"Одним из наиболее ярких является прочтение строки в черновике стихотворения „Храни меня, мой талисман...": „Мятежный сладостный обманъ". Вместо того, что мы видим в изданиях: „Священный сладостный обман". Здесь первое прилагательное никак не соответствует биографически житейскому фону написания данного черновика - отношениям Пушкина с княгиней Е. К. Воронцовой", - рассказал он RTVI.

На мобильном телефоне ИИ от Smart Engines распознает паспорт РФ за 0,15 секунды. В серверных решениях скорость распознавания составляет до 55 паспортов в секунду.

"Проведенный нами эксперимент по расшифровке ранее нечитаемых слов в рукописях Александра Пушкина подтвердил колоссальный потенциал нейросетей в самых разных областях науки. Предложенный метод снятия зачеркиваний при помощи ИИ может быть применен не только к рукописям Пушкина, но и к архивным записям других известных авторов, а также историческим документам. Это открывает новые возможности для изучения творческого процесса написания знаменитых литературных памятников специалистами и широкой аудиторией", - отмечает генеральный директор Smart Engines, доктор технических наук Владимир Арлазаров.

Проблема связана с разработчиками, использующими статические ключи ASP.NET Machine Keys, найденные в открытых источниках, таких как документация по коду и репозитории.

Machine Keys предназначены для защиты ViewState от подделки и утечек данных. Однако хакеры находят публично доступные ключи и используют их для создания вредоносных ViewState, содержащих специально подготовленный код аутентификации сообщений (Message Authentication Code, MAC). При обработке таких ViewState IIS-сервер загружает их в память рабочего процесса и выполняет, что позволяет атакующим исполнять код удалённо и загружать дополнительное вредоносное ПО.

Microsoft выявила более 3000 публично доступных machine keys, которые могут быть использованы для подобных атак.

"Человеческий фактор нередко приводит к печальным результатам, разработчикам следует понимать, что статические ключи должны быть уникальными и защищёнными. Размещение таких данных в открытых репозиториях или документах эквивалентно предоставлению злоумышленникам несанкционированного доступа к системе. Чтобы защититься от несанкционированного доступа и выполнения вредоносного кода, рекомендуется иметь софт, позволяющий отслеживать возможные вредоносные процессы на устройстве: это те, что отклоняются от базовой линии поведения. И, например, платформа расширенной аналитики Ankey ASAP благодаря анализу действий пользователей и устройств сигнализирует о возможной вредоносной активности, позволяя прервать цепочку событий", - говорит киберэксперт компании "Газинформсервис" Михаил Спицын.

Среди участников - представители компаний "Код безопасности", "Яндекс", Positive Technologies, "Газпромбанк", НКО "Фонд содействия развитию безопасных информационных технологий", "Национальный технологический центр цифровой криптографии", Raft Digital Solutions и Swordfish Security. От "Газинформсервиса" в игре принял участие заместитель генерального директора - технический директор Николай Нашивочников.

Уникальный формат форсайт-игры позволил участникам смоделировать различные сценарии развития реестра и выработать рекомендации по его эффективному функционированию. Разделившись на четыре команды, эксперты проанализировали взаимодействие всех заинтересованных сторон: разработчиков, поставщиков, пользователей, регуляторов и специалистов по информационной безопасности. Использование специально разработанных ролей обеспечило всесторонний анализ рисков и перспектив.

"Форсайт-игра и стратегическая сессия стали мощной площадкой для обсуждения будущего реестра доверенных технологий ИИ. Благодаря активному участию всех стейкхолдеров и глубоким дискуссиям команды представили ценные предложения, которые помогут сформировать надёжную экосистему ИИ", - отметил Николай Нашивочников.

Ведущими сессии выступили эксперты в области кибербезопасности: Лидия Виткова (начальник Аналитического центра кибербезопасности компании "Газинформсервис"), Андрей Чечулин (руководитель Международного центра цифровой криминалистики СПб ФИЦ РАН) и Ксения Ахрамеева (руководитель лаборатории развития и продвижения компетенций кибербезопасности Аналитического центра кибербезопасности компании "Газинформсервис").

Напомним, Консорциум для исследований безопасности технологий искусственного интеллекта создан при поддержке Минцифры 22 мая 2024 года. "Газинформсервис" присоединился к Консорциуму 8 октября 2024 года и стал первой отечественной ИБ-компанией, вступившей в него.

Zyxel уже заявила, что не планирует выпускать обновления безопасности и рекомендует пользователям заменить оборудование на новые модели.

Уязвимости следующие:

- CVE-2024-40891 позволяет аутентифицированному пользователю выполнить инъекцию команд в Telnet из-за отсутствия должной проверки команд в библиотеке libcms_cli.so. Некоторые команды (например, ifconfig, ping, tftp) передаются без проверки в функцию выполнения оболочки, что позволяет выполнять произвольный код с использованием метасимволов оболочки.

- CVE-2025-0890 связана с использованием слабых учётных данных по умолчанию (например, admin:1234, zyuser:1234, supervisor:zyad1234), что предоставляет полный контроль над устройством. Учётная запись supervisor имеет скрытые привилегии, предоставляя полный доступ к системе, а zyuser может использовать CVE-2024-40891 для удалённого выполнения кода.

Злоумышленники уже начали активно использовать эти проблемы в своих атаках. Анализ FOFA и Censys показывает, что более 1500 уязвимых устройств подключены к интернету, создавая значительную поверхность атаки.

"Уязвимости активного сетевого оборудования - нередкая история. Повлиять на производителя оборудования не получится, поэтому иногда организациям приходится работать с тем, что уже закуплено. Обе уязвимости выполняются только при доступе в корпоративную сеть, в связи с чем необходим контроль и грамотное управление активным сетевым оборудованием, и ПК Efros Defense Operations, позволяет настроить уровни доступа, в том числе управлять конфигурациями устройства, а модуль EDO NAC - технология, контролирующая доступ к сети на основе политик безопасности", - говорит киберэксперт компании "Газинформсервис" Михаил Спицын.

Когда на прошлой неделе китайский стартап в области искусственного интеллекта (ИИ) DeepSeek продемонстрировал, что сложная и мощная технология может быть реализована за малую долю стоимости и ресурсов существующих инструментов, конкуренты DeepSeek сослались на парадокс Джевонса (увеличение потребления) и посоветовали инвесторам не беспокоиться.

Как пишет эксперт по фондовому рынку Курт Кобб, это означает, что спрос на ИИ теперь будет расти еще быстрее в ответ на большую эффективность и, следовательно, меньшие затраты. О чем западные конкуренты китайской новинки забыли упомянуть, так это о том, что прорыв DeepSeek - отличная новость для покупателей инструментов ИИ, но очень плохая для нынешних разработчиков, которые продают эти инструменты втридорога.

Китайская компания раздает бесплатно или всего за 3% от цен конкурентов (тем, кому нужны услуги интерфейса прикладного программирования) что-то сопоставимое с очень дорогими продуктами своих конкурентов. Это говорит о том, что сотни миллиардов долларов, потраченных на разработку этих дорогих инструментов, могли просто испариться. Инвестиции могут никогда не окупиться, уверен эксперт.

Еще более широкое распространение искусственного интеллекта из-за появления драйвера роста в виде DeepSeek приведет к особым негативным последствиям.

Лавинообразное распространение ИИ создаст проблемы еще быстрее. Более эффективное и широкое использование ИИ означает, что человеческие источники информации будут вытеснены с рынка еще раньше, те самые, которые необходимы, если ИИ хочет получать реальную информацию от информированных экспертов и писателей. Дальше появится паразитический ИИ, питающийся информацией, сгенерированной самим ИИ, то есть своего рода цифровой каннибализм, который ничем хорошим не закончится в плане достоверности, подтвержденности и защищенности.

- резюмировал эксперт.

По данным исследователей Seqrite Labs*, группа хакеров активизировала атаки ещё в 2024 году, используя уязвимости SMB, SSH, FTP и других сетевых сервисов. Основной метод компрометации - подбор паролей, основанный на обширной базе учётных данных. После получения доступа злоумышленники шифруют файлы на сетевых дисках и устройствах хранения данных, оставляя жертве записку с требованиями выкупа.

Хотя программное обеспечение безопасности и средства обнаружения угроз становятся более совершенными, преступники тоже не стоят на месте. Хакеры не только используют брутфорс-атаки, но и шифруют файлы удалённо, без загрузки вредоносного ПО на локальные машины. Такой подход позволяет избежать детектирования антивирусами и усложняет анализ инцидента.

Обнаруженные индикаторы компрометации указывают на активные IP-адреса, использовавшиеся для атак. В случае компрометации злоумышленники предлагают связаться через зашифрованные каналы связи, такие как Telegram и Tox. После успешного шифрования файлы получают расширение ".want_to_cry", а в каталогах создаётся текстовый файл с инструкциями по оплате выкупа.

"Действительно важно контролировать периметр сети, ограничивая доступы по протоколам SMB, SSH, FTP. Однако, ввиду особенностей бизнес-процессов, необходимости быстрого обмена файлами или, например, потребностей в работе программного обеспечения, требующего определённых настроек, как раз формируются уязвимые области в инфраструктуре. Такие области могут быть использованы для распространения вредоносного программного обеспечения, включая шифровальщики. В связи с этим таким организациям рекомендуется иметь программное обеспечение с модулями поведенческой аналитики UEBA для обнаружения аномальных действий в корпоративной сети. Например, благодаря наличию таких модулей программный комплекс Ankey ASAP регистрирует всплески вредоносной активности, позволяя своевременно принять меры по обезвреживанию вредоносов", - говорит киберэксперт компании "Газинформсервис" Михаил Спицын.

* Seqrite Labs - это аналитическое подразделение компании Quick Heal Technologies, специализирующееся на кибербезопасности.

Правила новые, санкции старые

Linux Foundation, некоммерческий консорциум по развитию Linux, в конце января 2025 г. выпустил новые рекомендации по работе с программистами из стран, на которые наложены санкции. В целом, все сводится к тому, что, в частности, с российскими программистами дел лучше не иметь, пишет портал The New Stack. Взаимодействие с ними может стать нарушением американских санкций.

Рекомендации Linux Foundation напрямую связаны с санкциями, которые вводит Управлением по контролю за иностранными активами США (OFAC). Эти лимиты распространяются на частных лиц, а также на компании из "черного" списка властей США - SDN или Specially Designated Nationals and Blocked Persons. Также санкции касаются аффилированных с этими гражданами и организациями лица.

Новые рекомендации распространяются на очень небольшое количество стран, но Россия в этом списке присутствует. Также в нем есть Иран, Куба, Северная Корея и Сирия а вот Китай портал The New Stack не упоминает.

Пройти по лезвию бритвы

Рекомендации Linux Foundation допускают возможность взаимодействия с разработчиками из санкционных стран или связанных с санкционными компаниями. В частности, они позволяют принимать от них изменения и исправления, если эти патчи создавались по их собственной инициативе, то есть не запрашивались. При этом исправления должны решать только общие проблемы проекта с исходным кодом.

Linux Foundation выпустила новые рекомендации по взаимодействию с участниками сообщества из подсанкционных стран. Это напрямую касается российских разработчиков - сотрудничество с ними теперь может оказаться причиной проблем.

Правила новые, санкции старые

Linux Foundation, некоммерческий консорциум по развитию Linux, в конце января 2025 г. выпустил новые рекомендации по работе с программистами из стран, на которые наложены санкции. В целом, все сводится к тому, что, в частности, с российскими программистами дел лучше не иметь, пишет портал The New Stack. Взаимодействие с ними может стать нарушением американских санкций.

Рекомендации Linux Foundation напрямую связаны с санкциями, которые вводит Управлением по контролю за иностранными активами США (OFAC). Эти лимиты распространяются на частных лиц, а также на компании из "черного" списка властей США - SDN или Specially Designated Nationals and Blocked Persons. Также санкции касаются аффилированных с этими гражданами и организациями лица.

Новые рекомендации распространяются на очень небольшое количество стран, но Россия в этом списке присутствует. Также в нем есть Иран, Куба, Северная Корея и Сирия, а вот Китай портал The New Stack не упоминает.

Пройти по лезвию бритвы

Рекомендации Linux Foundation допускают возможность взаимодействия с разработчиками из санкционных стран или связанных с санкционными компаниями. В частности, они позволяют принимать от них изменения и исправления, если эти патчи создавались по их собственной инициативе, то есть не запрашивались. При этом исправления должны решать только общие проблемы проекта с исходным кодом.

Группа анализа угроз Google (GTIG) выявила, что хакеры применяют Gemini AI на различных этапах атак. Интеллектуальные алгоритмы помогают киберпреступникам проводить разведку, выявляя уязвимости в системах потенциальных жертв, а также разрабатывать вредоносный код, ускоряя и упрощая процесс создания новых киберугроз.

Вадим Матвиенко, эксперт в области кибербезопасности, комментирует ситуацию: "Большие языковые модели и искусственный интеллект в целом значительно повышают производительность многих специалистов. Эксперты предсказывали, что АРТ-группировки будут активно использовать ИИ, такие как Gemini от Google. Применение нейросетей в сфере киберпреступности значительно ускоряет все этапы проведения атак - от разведки и подготовки фишинговых писем до разработки новых шифровальщиков".

Эксперт предлагает ответ на эти вызовы: "Новые угрозы требуют новых подходов к обеспечению информационной безопасности. Аналитики из центра мониторинга безопасности "Газинформсервис" используют самые современные средства защиты информации, чтобы быстро выявлять атаки и оперативно реагировать на них".

В "Авито" объясняют рост интереса к услугам "изменениями в экономике и потребностями бизнеса, который нуждается в цифровых решениях". Среди популярных услуг - разработка ПО на заказ (+691% к спросу 2023 года), ПО на языке программирования Java (+644%), Python, разработка и настройка чат-ботов (в том числе ChatGPT) и систем управления взаимоотношениями с клиентами (CRM).

Выросла и востребованность у россиян обучения специальностям в IT: с нуля - на 47%, еще больше - на 95% - продвинутого. Интерес к IT растет из-за доступности обучения, из-за стабильного спроса на специалистов и привлекательных условий труда, напоминают в "Авито".

Больше всего обучение IT-специальностям интересно россиянам из Нижнего Новгорода (+550% к спросу в 2023 году), Тюмени (+500%), Иркутска (+200%), Екатеринбурга (+100%) и Ярославля (+67%).

Вместе с популярностью обучения вырос спрос на услуги специалистов, готовых обучать: на 56% в 2024 году по сравнению с 2023 годом. И, по собственным данным платформы "Авито услуг", индивидуальные специалисты, готовые обучать IT, за год стали предлагать свои услуги на 127% чаще.

Эти платформы, работавшие с 2016 и 2018 годов соответственно, распространяли украденные учётные данные, хакерские инструменты и персональные данные миллионов пользователей.

Cracked имел более 4 миллионов зарегистрированных пользователей и предлагал доступ к "миллиардам утечек данных", что нередко использовалось для мошенничества и преследования жертв. Число пострадавших американцев превысило 17 миллионов человек. Nulled работал по аналогичной схеме, но имел ещё большее влияние: более 5 миллионов пользователей и 43 миллиона объявлений о продаже украденных данных. Среди предложений находились документы с именами и номерами социального страхования полумиллиона американцев. Платформа приносила преступникам около 1 миллиона долларов ежегодно.

ФБР и зарубежные партнёры выявили и конфисковали серверы и доменные имена обоих маркетплейсов, а также инфраструктуру их платёжных систем.

"Cracked и Nulled - это платформы с историей, которые для многих в середине 2010-ых были синонимом хакерской платформы, поэтому их закрытие - крупный успех. Но и расслабляться тоже не стоит: данные пользователей утекают, и где-то их нужно продавать, значит, и маркетплейсы буду появляться вновь. Массового внедрения защищённых баз данных пока не происходит, хотя это помогло бы снизить количество утечек в разы и подорвало бы экономический аспект создания подобных площадок", - говорит руководитель группы защиты инфраструктурных ИТ-решений компании "Газинформсервис" Сергей Полунин.

Что произошло

Как уже сообщалось ранее, 28 января пользователем Хабр Фриланса было разослано уведомление следующего содержания:

Как видно из сообщения, Хабр Фриланс прекратит свою работу 28 февраля 2025 года. Пользоваться услугами фрилансеров можно будет до этой даты, но пополнять баланс для оплаты услуг больше нельзя.

Никаких официальных заявлений по поводу закрытия компания не давала, но я направил письмо в адрес службы поддержки с просьбой прокомментировать новость. Вот что мне сообщили:

Здравствуйте!

Мы много лет поддерживали работу Хабр Фриланса несмотря на то, что он не приносил компании ожидаемых результатов. Пять лет назад мы пытались "перезагрузить" сервис, но эта попытка, к сожалению, ни к чему не привела.

Всё это время мы выделяли большой ресурс на борьбу с мошенниками, работу модераторов, урегулирование споров между пользователями и другие задачи внутри Хабр Фриланса. Мы знаем его важность для специалистов, которые всё это время приходили с обратной связью. Но мы также понимаем, что не можем постоянно поддерживать проект, который не приносит результата.

Решение не является внезапным, на сервисе годами копились проблемы, на решение которых не выделялись ресурсы, поскольку проект не приносит прибыли. Но аудитория росла, активность пользователей росла, количество и разнообразие мошенников и различных вредоносных субъектов тоже росло. Фактически, поддержка функционирования сайта осуществлялась непрерывно, в ручном режиме, группой специалистов. В какой-то момент, количество проблем стало критическим, и для продолжения работы уже требовалось переписывание структуры сайта и его логики работы, а также расширение штата сотрудников. Это масштабное и очень дорогостоящее решение было решено не делать, но в текущем виде, продолжать работу больше нет возможности, ресурсы команды, занятые на обслуживании Фриланса, должны перераспределиться на другие проекты.

Поэтому мы приняли решение закрыть Хабр Фриланс и сфокусировать силы на развитии других наших сервисов - Хабра, Хабр Карьеры и Хабр QA.

Будем рады встретиться там!

Также я задал вопрос о том, не планируется ли продажа сервиса. Ответ был краток:

Вероятность продажи крайне низка. Она стремится к 0.

Никакой дополнительной информации пока не известно. На сайте Хабр Фриланса о закрытии не сообщается.

По итогу можно назвать следующие официальные причины:

• Проект не приносит прибыли

• Сервис требует слишком больших вложений и затрат на обслуживание

• Кодовая база морально устарела и требуется переписывание структуры и логики работы сайта

Из неофициальных причин, которые высказывают пользователи, можно выделить:

• Низкий спрос на бирже. Найти заказ становится всё труднее

• Низкое качество заказов и работы. Большинство приходят с мелкими проектами, не понимая что им нужно, а в фрилансерах увеличилось количество тех, кому просто надо получить деньги.

• Развитие ИИ. Сомнительный фактор, но его тоже надо принять во внимание, как и в ситуации со StackOverflow и поисковыми системами.

Что мы теряем

• Российский сегмент теряет одну из самых лучших фриланс-бирж

• Около 60 тысяч фрилансеров потеряют источник дохода

Между тем статистика показывает, что фриланс все более набирает популярность: по данным различных исследовательских организаций, на сегодняшний день 30% трудоспособного населения в развитых странах вовлечено в фриланс, и эта цифра продолжает расти.

Уход Хабр Фриланса - это большая потеря для заказчиков и фрилансеров, но к счастью, он был не единственной биржей на рынке. По разным оценкам Хабр Фриланс занимал приблизительное 4-е место в рейтинге бирж. Самыми популярными на данный момент остаются FL.ru и Kwork

Руководитель стартапа DeepSeek Лян Вэньфэн в интервью на YouTube-канале американского блогера Лекса Фридмана рассказал об истории создания своего чат-бота. Оказалось, что основой для самой мощной из существующих на сегодняшний день нейросетей стал программный код советских программистов, написанный в 1985 году.

"Не буду лукавить, наш искусственный интеллект был создан на базе советских разработок, а именно - системы ОГАС академика Глушкова. Без неё мы бы никогда не догнали американцев с их ChatGPT", - сказал Вэньфэн.

Предприниматель собирается в ближайшее время учредить премию имени Виктора Глушкова, а также открыть в Пекине музей, посвящённый научным достижениям СССР.

"В отличие от многих, я никогда не забывал, благодаря какой стране сегодня существует независимый Китай. Теперь мой собственный проект вырос до международного уровня. Поэтому я хочу сохранить память о Советском Союзе и вкладе советских учёных в научно-технический прогресс, такой музей мы откроем уже в этом году. Основой для него станет архив Глушкова", - пообещал бизнесмен.

По информации журнала "Наука и жизнь", архив Виктора Глушкова, насчитывающий 10 тысяч страниц, был продан на аукционе в 1995 году за 15 тысяч долларов США. Покупателем стал китайский бизнесмен, который предпочёл сохранить анонимность.

Одна из последних атак вызвала широкий резонанс, потому что после взлома Schneider Electric* поступило требование выкупа в виде "125 000 багетов".

Hellcat применяет тактику двойного вымогательства: сначала крадёт данные, а затем блокирует системы и угрожает публикацией конфиденциальной информации в случае отказа от выплаты.

Особенностью Hellcat является не только агрессивная тактика, но и стремление унизить жертв. В случае с Schneider Electric злоумышленники утверждали, что похитили 40 ГБ данных, а затем выложили в сеть 75 000 адресов электронной почты и имён сотрудников компании. Требование выкупа в багетах было призвано унизить французского гиганта.

Хакеры проводят атаки по всему миру: пострадали Министерство образования Иордании, американская телекоммуникационная компания Pinger, муниципальная администрация в Ираке и другие объекты.

"Эксплуатация уязвимостей "нулевого дня" в корпоративных системах - это серьёзная угроза, которая возникает из-за недостаточной защиты программного обеспечения до того, как разработчики или пользователи осведомлены об уязвимости. Именно через такую уязвимость в Jira программа-вымогатель попала в рабочее окружение. Чтобы компании не пришлось выкупать утечку критически важных данных за "багеты" или, например, бублики, с риском остаться лишь с дыркой от него, необходимо решить задачу защиты от таргетированных атак, а также от программ-вымогателей. Таким решением может быть программное обеспечение, имеющее модули поведенческой аналитики UEBA. Например, платформа расширенной аналитики Ankey ASAP благодаря таким модулям засекает недопустимые активности, тем самым нарушая цепочку атак и сохраняя репутацию компании и её данные", - говорит киберэксперт компании "Газинформсервис" Спицын Михаил.

*Schneider Electric - международная компания, которая производит и предоставляет решения для энергетических систем и автоматизации зданий.

Алгоритм, разработанный учеными из Университета МГУ-ППИ, ускорил графические процессоры Nvidia в 800 раз, что позволит решать сложные задачи в аэрокосмической и военной областях на недорогих чипах.

Компания OpenAI, создавшая ChatGPT, заподозрила китайских конкурентов в попытках применения ее наработок для улучшения своих моделей ИИ. Американская фирма заявила о доказательствах того, что китайская DeepSeek использовала ее запатентованные модели для обучения своего чат-бота.

Речь идет о технике, которую разработчики применяют для повышения производительности небольших моделей за счет использования более крупных и обученных моделей. Это обычная практика в индустрии, однако опасения OpenAI вызвало то, что DeepSeek может делать так для создания собственной конкурирующей модели, а это уже является нарушением условий обслуживания OpenAI.При этом представлять доказательства OpenAI отказалась. В компании подчеркнули необходимость тесно сотрудничать с властями США для защиты технологий. ВМС США уже запретили служащим использовать DeepSeek якобы из "соображений безопасности и этики".

Китайская компания DeepSeek 20 января выпустила новую версию чат-бота R1, которая превосходит передовую версию ChatGPT американской OpenAI. При этом разработчики китайского чат-бота потратили гораздо меньше средств, чем американская фирма. Появление китайского ИИ вызвало потери у крупных компаний и миллиардеров из США. Одна только Nvidia потеряла 600 миллиардов долларов рыночной стоимости.

Внезапный выпуск ИИ-модели от китайского стартапа DeepSeek обвалил американский рынок. Лидерами падения стали компании, выпускающие графические процессоры для обучения ИИ: Nvidia, Broadcom, AMD и Intel. Также значительное снижение показала Alphabet, материнская компания Google. Эксперт в области нейросетей для гражданского применения и гендиректор Университета "Зерокодер" Кирилл Пшинник разбирается в том, что вызвало столь резкую реакцию западных инвесторов, и действительно ли новая нейросеть способна революционизировать индустрию ИИ

Из-за чего переполох

Китайская компания DeepSeek-AI (深度求索), которая специализируется на разработке ИИ и является прямым конкурентом продуктам OpenAI, 20 января 2025 года представила свою языковую модель DeepSeek-R1. Уникальность этой модели заключается в том, что она обучена с использованием менее продвинутых и более дешевых чипов по сравнению с решениями от лидеров отрасли - таких, как OpenAI и Anthropic. Это ставит под сомнение необходимость применения дорогостоящих высокотехнологичных чипов для обучения ИИ.

Еще одной особенностью стало предоставление модели в формате открытого кода (open source) и с открытыми весами (в машинном обучении веса - это числовые параметры модели, которые определяют силу влияния входных данных на результат), что дает любой компании возможность использовать DeepSeek-R1 на своих собственных мощностях.

Западные инвесторы обеспокоены, что успех DeepSeek может не только подорвать доминирование США в сфере искусственного интеллекта, но и снизить спрос на продукцию американских производителей чипов. Более того, использование менее дорогих ресурсов для обучения ИИ снижает барьеры для входа на рынок, что неизбежно усилит конкуренцию в отрасли. Пока что капитализация всего IT-сектора просела на $1 трлн, но особенно пострадала Nvidia, которая потеряла $590 млрд рыночной стоимости: это рекордный убыток за один день в истории.

После официальной презентации нейросетью заинтересовались энтузиасты и исследователи по всему миру. Взрывной рост популярности нейросети пришелся на выходные 25-26 января, когда про нее начали писать западные СМИ. В то же время мобильное приложение DeepSeek обогнало по популярности и скачиваниям ChatGPT от OpenAI. Главное преимущество по сравнению с конкурентами - нейросеть абсолютно бесплатна. 27 января рынки отреагировали на тренд.

Дешевый ИИ - это хорошо или плохо?

Фундаментальные модели - такие, как разработки OpenAI и Anthropic, - столкнулись с мощным конкурентом и в ближайшем будущем рискуют утратить статус самых передовых нейросетей. Тем не менее ряд аналитиков считают, что появление таких моделей, как DeepSeek-R1, может стимулировать дальнейшие инновации, ускорить развитие и повсеместное внедрение ИИ, что в конечном итоге принесет пользу всей отрасли. Долгосрочные последствия появления новых, более доступных моделей могут быть сбалансированными, усилив конкуренцию и создав стимул для улучшения технологий.

Несмотря на падение акций производителей чипов, компании, использующие нейросети в своей деятельности, выигрывают от появления новой модели. Так, Николай Давыдов, сооснователь венчурного фонда Davidovs VC, инвестировавшего в стартап Perplexity, написал в Instagram (принадлежит Meta, признанной экстремистской и запрещенной в России): "Это очень хорошо для стартапов, которые создают application layers - агентов, использующих API-запросы к фундаментальным моделям. Для компаний вроде Perplexity это просто находка: расходы снижаются, а качество растет".

В свою очередь, знаменитый венчурный капиталист из Кремниевой долины Марк Андриссен назвал DeepSeek-R1 в соцсети X (ранее Twitter) "спутником-моментом" в области ИИ. Он провел аналогию с запуском первого спутника СССР, который стал катализатором космической гонки между двумя сверхдержавами.

Для российских пользователей преимущества китайской нейросети очевидны. Теперь нет необходимости искать посредников для оплаты услуг ИИ, использовать сторонние приложения для обхода блокировок или проходить сложные процедуры регистрации. Для доступа достаточно аккаунта Gmail, при этом подтверждение по телефону не требуется. Стоимость API-запросов в шесть раз ниже, чем у OpenAI, а использование нейросети возможно прямо с территории России.

Кроме того, открытый код DeepSeek-R1 и возможность дообучения делают ее превосходным выбором для интеграции внутри корпоративного периметра безопасности крупных компаний. Для российского бизнеса это реальная возможность внедрить современные технологии ИИ без значительных затрат и правовых сложностей.

Технические детали: что такое reasoning

В течение 2023 и начала 2024 года ходили слухи о том, что OpenAI разрабатывает новую архитектуру, приближающую нас к созданию общего искусственного интеллекта (AGI), способного конкурировать или превосходить человека в решении широкого спектра задач. Эти ожидания подтвердились в конце 2024 года, когда компания представила модели o1 и позднее o3, которые продемонстрировали выдающиеся результаты в решении математических задач на уровне лучших 500 олимпиадников и в проведении рассуждений, сравнимых с докторскими исследованиями. Такие модели получили название reasoning models (модели с рассуждением).

Однако основная проблема reasoning-моделей - высокая стоимость их эксплуатации. Например, использование модели o1 обходится в 10 раз дороже, чем базовой GPT-4o. OpenAI предложила новый тариф стоимостью $200 в месяц для пользователей, желающих активно работать с o1, но такие затраты отпугнули массовую аудиторию, которая предпочла оставаться на доступных решениях, таких как GPT-4o.

В то же время китайская модель DeepSeek-R1 предложила уникальную альтернативу: это открытая reasoning-модель, предоставляемая в формате open source. После ее презентации эксперты сначала отнеслись к проекту скептически, считая невозможным создание аналога o1, но тестирование доказало, что китайская модель действительно соответствует заявленным характеристикам.

Личный опыт и независимые бенчмарки

Я лично протестировал DeepSeek-R1 на решении математических задач, написании кода, обработке текста на русском языке и поиске информации. По всем параметрам модель оказалась сопоставима с решениями OpenAI, а в некоторых случаях даже превзошла их. Например, в качестве проверки математических способностей я попросил нейросеть решить самую последнюю и сложную задачу из второй части демоверсии профильного варианта ЕГЭ по математике за 2024 год. И DeepSeek, и OpenAI o1 справились с задачей верно, однако китайская нейросеть потратила на решение две минуты, а американская - более восьми минут.

Исследования компании DeepSeek подтвердили ее конкурентоспособность. На бенчмарках AIME 2024 и MATH-500, связанных с математикой, результаты китайской нейросети впечатляют:

• AIME 2024: DeepSeek-R1 - 79,8%, OpenAI o1 - 79,2%.
• MATH-500: DeepSeek-R1 - 97,3%, OpenAI o1 - 96,4%

В тестах на программирование и понимание алгоритмов:

• Codeforces: DeepSeek-R1 - 96,3%, OpenAI o1 - 96,6%
• SWE-bench Verified: DeepSeek-R1 - 49,2%, OpenAI o1 - 48,9%

В бенчмарках на общие знания и языковые способности:

• GPQA Diamond: DeepSeek-R1 - 71,5%, OpenAI o1 - 75,7%
• MMLU: DeepSeek-R1 - 90,8%, OpenAI o1 - 91,8%

Эти результаты показывают, что DeepSeek-R1 практически не уступает решениям OpenAI, а по некоторым параметрам даже превосходит их.

Функционал новой нейросети

Интерфейс DeepSeek-R1 схож с интерфейсом ChatGPT, но предлагает несколько уникальных функций.

• Работа с текстом, файлами и изображениями. DeepSeek-R1 позволяет обрабатывать запросы пользователей, загружать документы (включая PDF) и изображения с текстом. На основе загруженных материалов нейросеть может генерировать ответы и давать рекомендации.
• Режим рассуждений (DeepThink R1). Этот режим является аналогом reasoning-модели o1 от OpenAI. Нейросеть сначала анализирует запрос, оценивает различные подходы к решению и лишь затем выдает ответ.
• Поиск информации (Search). DeepSeek-R1 может осуществлять поиск в интернете и использовать найденные данные для создания ответов. Тестирование показало, что качество работы этой функции соответствует решениям OpenAI.
• Комбинированные сценарии. Модель позволяет объединять функционал: например, загрузить документ, выполнить поиск дополнительных данных в интернете и затем использовать режим рассуждений для проработки ответа.

Пока я писал эту колонку, DeepSeek объявила о выпуске новой модели искусственного интеллекта Janus-Pro-7B, которая, по их утверждению, превосходит такие решения, как DALL-E 3 от OpenAI и Stable Diffusion от Stability AI в задачах генерации изображений по текстовым запросам. К сожалению, модель пока не доступна для тестирования, поэтому провести объективное сравнение нет возможности.

Что дальше

Утром 28 января компания DeepSeek сообщила о временном ограничении регистрации новых пользователей "в результате атак". Сбои в работе платформы наблюдаются уже второй день на фоне ажиотажа вокруг чат-бота компании, говорится в официальном сообщении на сайте DeepSeek.

События последних дней не только вызвали значительные колебания на мировых рынках, но и поставили под сомнение доминирование западных технологических гигантов в сфере искусственного интеллекта. Использование менее дорогих ресурсов для обучения моделей и предоставление открытого исходного кода делают такие решения крайне привлекательными для пользователей и компаний по всему миру, включая российский рынок, где доступ к продвинутым технологиям ИИ ранее был ограничен.

Несмотря на первоначальные опасения инвесторов, эксперты подчеркивают, что усиление конкуренции может стать катализатором для отрасли. Это приведет к ускорению инноваций и снижению стоимости разработки и внедрения ИИ, что, в свою очередь, открывает новые возможности для стартапов и компаний, активно использующих нейросети в своей деятельности.

Таким образом, DeepSeek не только бросает вызов традиционным лидерам индустрии, но и меняет правила игры, делая технологии ИИ доступными для более широкого круга пользователей. Вопрос лишь в том, готовы ли западные игроки адаптироваться к новой реальности или рынок ждет глобальный передел.

Мнение редакции может не совпадать с точкой зрения автора

В Кремниевой долине наступило что-то вроде паники. На прошлой неделе малоизвестная китайская компания выпустила новую большую языковую модель искусственного интеллекта, которая по своим характеристикам оказалась не хуже аналогов, сделанных в США. Это было бы еще полбеды: главная проблема состоит в том, что "китаянка" оказалась в десятки раз дешевле и потребовала несопоставимо меньшего объема вычислительных ресурсов. По сути, речь идет о настоящей революции, которая может выплеснуться далеко за пределы рынка искусственного интеллекта. Вполне возможно, что сейчас мы видим начало нового "краха доткомов". Подробности - в материале "Известий".

"Момент спутника"

На форуме в Давосе в этом году руководители американских технологических корпораций признавали, что отрыв от Китая в разработке больших языковых моделей (LLM) является очень небольшим - в лучшем случае год. Но оказалось, что и эта оценка является завышенной. 20 января китайцы предложили модель DeepSeek R1, которая мгновенно стала хитом. В рейтинге приложений Apple и Google Store уже к концу минувшего уикенда она взлетела на первое место. И неудивительно: независимые тесты показали, что программа как минимум не уступает имеющимся на рынке новейшим разработкам OpenAI, Anthropic и Meta (запрещена в России), а в чем-то и превосходит их.

Ключевая разница со всеми этими моделями заключается в том, что R1, как и предыдущие варианты DeepSeek, бесплатна для частного пользования. Любой может скачать виртуального помощника себе на смартфон, разговаривать с ним на сайте компании или установить локально на компьютер (при условии достаточной мощности "железа"). Почти у всех американских конкурентов - проприетарная система распространения, она требует оплаты по подписке.

Популярность модели зашкалила настолько, что она была вынуждена временно ограничить доступ к регистрации. Хотя в компании оправдались тем, что сайт был перегружен злонамеренными атаками, скорее всего, он просто не выдержал глобального спроса на продукт.

Всё это произвело эффект разорвавшейся бомбы в кругах, близких к хайтеку и разработке ИИ в частности. Американский инвестор и инженер Марк Андриссен назвал ситуацию "моментом спутника", сравнивая выход DeepSeek R1 с запуском первого искусственного спутника Советским Союзом в 1957 году, который оказался холодным душем для американцев, уверенных в своем превосходстве в области ракетных и космических технологий. Глава Microsoft Сатья Наделла признал, что появление нового игрока в индустрии резко усилит конкуренцию, что в конечном итоге будет полезно для развития искусственного интеллекта. Гендиректор OpenAI Сэм Альтман поприветствовал соперника и пообещал разрабатывать улучшенные модели, чтобы выдержать конкурентную гонку. По большей части позиция CEO американских интернет-компаний была хорошей миной при плохой игре: такого эффекта мало кто ожидал.

Что такое DeepSeek

Можно было бы ожидать, что конкуренция для американских гигантов будет исходить от их китайских аналогов - корпораций вроде Alibaba или Tencent. Но модели DeepSeek были разработаны скромным стартапом из города Ханчжоу, образованным в 2023 году руководителем хедж-фонда High Flyer Ляном Вэньфэном, который учредил компанию со всего 10 млн юаней ($1,4 млн) основного капитала. За считаные месяцы фирма выпустила несколько моделей, предпоследняя из которых - V3 - уже привлекла всеобщее внимание. Однако R1 показала поистине колоссальный прогресс, достигнув мировых топов.

При этом средства, которыми оперирует компания, достаточно ограниченны в сравнении как с американскими, так и с китайскими конкурентами. Точная сумма, вложенная в разработку последней модели, официально не объявляется, но по косвенным подсчетам речь идет о семизначном (в долларах США) числе. Наиболее часто упоминается цифра $5,5 млн, что выглядит смешно в сравнении с $75 млн, выделенных на тренировку последней модели ChatGPT.

Но еще важнее, что DeepSeek потратила значительно меньше вычислительных мощностей. Компания признала, что для обучения модели потребовалось всего около 2000 чипов Nvidia H800. Это не самые новые и не самые мощные чипы, для их покупки не приходилось обходить наложенные на китайских потребителей санкции. Это опять же копейки в сравнении с системами процессоров, используемых американскими конкурентами стоимостью в десятки миллионов долларов.

Минусов у новой модели пока не очень много. Говорят об ограничениях в плане цензуры, но скандалы с различными фильтрами были слышны и относительно американских разработок, равно как и других китайских предложений. Для большинства целей, в которых может использоваться программа, это не особо критично. Другие, наоборот, предупреждают, что ограничительные барьеры в R1 легко обойти и модель может использоваться для незаконной активности. Наконец, как уже говорилось, компания пока не очень готова к своему успеху и не может обеспечить доступ всем желающим. Но на горизонте даже пары недель эта проблема не слишком существенна.

Минус $600 млрд за день

Последствия для индустрии искусственного интеллекта уже огромны - равно как и для широкой экономики. Новости об успехах DeepSeek спровоцировали эпичную распродажу на американском фондовом рынке. Индекс NASDAQ за один день рухнул на 3%, причем богатейшие люди мира, являющиеся совладельцами могущественных технологических компаний, потеряли за эти часы в сумме более $108 млрд своего состояния. Ситуация выглядит тревожно похожей на крах интернет-компаний в 2000 году, когда рынок внезапно осознал, что их оценка грандиозно завышена. Этот обвал привел к почти 10-летней стагнации в самом быстрорастущем секторе. Повторится ли сейчас такое? Пока говорить об этом рано, но риски ненулевые, учитывая рекордные соотношения цены акций к прибыли хайтек-корпораций.

Среди них на первом месте находится Nvidia, которая 27 января потеряла 17% своей капитализации, или около $600 млрд, - с огромным отрывом рекордное дневное падение в истории фондового рынка США, если говорить об абсолютных цифрах рыночной стоимости. Компания, производящая графические процессоры, в последние 10 лет как будто раз за разом выигрывала в лотерею, подтверждая, что во время золотой лихорадки больше всего зарабатывают производители лопат. Сначала был криптовалютный бум, затем спрос на видеокарты во время пандемии и вот сейчас - ИИ. В 2023 году бумаги корпорации выросли на 239%, в 2024-м - на 171%. За счет этого прыжка Nvidia в кратчайшие сроки обошла Microsoft и Apple, став самой дорогой компанией мира (около $3,45 трлн до падения).

Но теперь выясняется, что для выпуска качественных и современных моделей ИИ не обязательно нужно самое навороченное "железо". Это автоматически означает, что, вероятно, и чипы в таких объемах не понадобятся, и конкуренты Nvidia вполне могут вступить в игру. А вопрос, оправданны ли сотни миллиардов инвестиций в погоне за всё более мощными чипами, ставится ребром. И в этом последствия не только для компании Дженсена Хуанга. Но и шире - относительно действий США на этом поле.

Начиная с конца 2010-х годов американцы стали вводить эмбарго на поставку современных чипов в Китай, постепенно сильнее закручивая гайки - всё для того, чтобы не допустить создания конкурентного китайского ИИ. Но DeepSeek R1 показывает, что эти усилия по большей части ушли впустую и запреты лишь стимулировали инновации, подтверждая поговорки "голь на выдумки хитра" и "сила есть - ума не надо" (последняя относительно американских техгигантов, тратящих большие суммы на техническое обеспечение вместо поиска элегантных решений). Вполне возможно, что вскоре нечто подобное произойдет и в производстве самих чипов - если, конечно, гонка полупроводников всё еще будет актуальна через несколько лет.

Для российских компаний происходящее тоже может быть хорошим уроком. Отечественная ИИ-индустрия, хоть и относится к мировому топу, всё же уступает в своих продуктах американцам и китайцам. Данный случай, однако, показывает, что отставание в бюджетах некритично и может быть компенсировано нестандартными способами.

Полчаса назад вышла новость о выходе DeepSeek Janus-7B - новой мультимодальной модели от DeepSeek, которая, по заявлениям авторов, рвёт DALL-E 3, Stable Diffusion XL и Stable Diffusion 3 (Medium) в бенчмарках.

В этой статье я не буду дублировать новость, а хочу подробнее рассмотреть, что именно в этой модели такого уникального, из-за чего многие связанные с AI медиа сегодня захлебываются от восторга.

Кратко про модель

Ссылка на HuggingFace

Модель мультимодальна, any-to-any, то есть умеет принимать на вход как изображения, так и текст, и на выходе генерировать также и текстовые данные, и картинки.

В целом, Janus-Pro - это новый подход к архитектуре трансформеров. Исследовали стараются сохранить единую архитектуру трансформера для обработки информации, но при этом сама визуальная генерация и распознавание изображений разделены и построены на базе других подходов, о чём в следующем разделе.

Такое разделение позволяет устранить конфликты между энкодерами для генерации и распознавания, и при этом сохраняет высокий уровень гибкости в настройке каждой из частей.

Главная инновация - LlamaGen

В генерации изображений последние несколько лет доминировали диффузионные модели (отсюда, к примеру, и название Stable Diffusion). На этой архитектуре построены такие известные имена как Glide, Dalle-2/3, Imagen и Stable Diffusion. Диффузионные модели, если очень упрощенно, устроены следующим образом.

Мы берём картинку, и планомерно превращаем её в шум, поэтапно. После чего записываем результат в обратном порядке - превращаем шум в картинку. После чего, каждый из этапов превращения шума в картинку поступает на обучение (вместе с закодированным промптом) в нейросеть, чтобы она "поняла" принципы, как превращать шум в финальное изображение. В последствие, именно этим и занимаются диффузеры - используя текстовый промп в качестве параметра поэтапно превращают рандомный шум в финальное изображение (те, кто руками игрался со Stable Diffusion в Automatic1111 хорошо представляют этот процесс и как этим количеством этапов можно управлять).

Не будем долго тянуть, и перейдём к самому интересному.

В Janus-7B используется новая архитектура для генерации изображение - LlamaGen от ByteDance. Её инновация в том, что она применяет те же принципы, что и в LLM, а именно: предсказание следующего токена, на основе предыдущих, но в контексте изображений, токенами кодируются именно визуальные, а не текстовые данные.

Эта архитектура очень свежая - релиз состоялся всего 7 месяцев назад, а Janus-7B, это её первое серьёзное применение на практике.

Отвечая на вопрос из названия статьи: в чем же здесь революция?

Ответ прост: главная особенность таких архитектур заключается в том, что они очень хорошо увеличивают качество генерации в зависимости от роста параметров в модели. Это именно то, как в своё время достиг революционного качества GPT-3, GPT-4, и подобные: просто увеличивая количество параметров, даже без изменения архитектуры.

И если в случае текстовых моделей мы приближаемся к пределу по количеству параметров, которые мы можем обучать и выполнять в современных дата-центрах, то для LlamaGen - мы находимся в самом начале этого пути, то качество генерации (а я напомню - выше, чем у DALL-E 3 и Stable Diffusion XL), которое выдаёт LlamaGen в Janus-7B - это только начало.

Дадим слово самим ребятам из DeepSeek, которые в Janus как раз перешли от тестовой модели с 1.5 миллиардами параметров до 7 миллиардов:

В предыдущей версии Janus (1.5B) мы просто проверяли эффективность нашей новой архитектуры - отделения визуальных энкодеров, с сохранением общего трансформера, это была LLM на 1.5 миллиарда параметров.

В данной работе мы увеличили модель до 7 миллиардов параметров. Мы увидели, что используя LLM большего размера скорость сходимости потерь как для мультимодального понимания (способность модели "понимать" данные разного типа), так и для генерации изображений заметно улучшилась, по сравнению с меньшей моделью. Это подтверждает, что новая архитектура обладает серьёзным потенциалом для масштабирования в дальнейшем.

Самая большая доступная сейчас LlamaGen использует всего 3 миллиарда параметров. Для сравнения, старушка GPT-3.5 использует 175 миллиардов (в 58 раз больше!), а GPT-4 по примерным данным (OpenAI перестали выкладывать модели в open-source начиная с этой версии) использует 1.7 триллионов (в 566 раз больше!) параметров на сходной архитектуре.

Вы представляете, какие изображения LlamaGen сможет генерировать, если количество её параметров увеличится в 566 раз?

Немного про распознавание изображений

В этом плане всё довольно консервативно, используется энкодер SigLIP, на базе архитектуры CLIP (которой уже, с ума сойти, почти 4 года). Изображения сжимаются до 384х384 пикселей, после чего идут на вход энкодера, и дальше поступают в общий пайплаин-обработчик модели-трансформера.

Жалко, что здесь без особых инноваций, но с другой стороны - это на текущий момент самая передовая архитектура для распознавания изображений, так что можно просто порадоваться, что инновация с одной стороны не стала причиной "потерь" с другой.

Послесловие

Забавно, что модель, которая сама по себе не является предназначенной исключительно для генерации изображений все равно воспринимается всеми именно так.

И это неудивительно - мы уже видели много потрясающих текстовых моделей, reasoning-моделей, распознавания изображений, но применение архитектуры LlamaGen на практике, да ещё и в рамках одной мультимодальной модели, да ещё и с таким количеством параметров, ранее не бывало.

Кажется, 2025 год будет богат на события в AI, и, кажется, многие из них будут переводиться на английский (и русский) с китайского, а не наоборот.

P.S. 2025 год на дворе, неужели вы думали я не бахну ссылку на свой Телеграм канал в конце статьи? Я там регулярно пишу по ИИ/агентов, даю более глубокую аналитику по новостям, и рассказываю как сделать компанию, в которой все сотрудники - AI-агенты. Велком!

Сотрудники - часто самое уязвимое звено в системе безопасности организации. Поэтому важно соблюдать базовые правила кибергигиены:

• Сложные пароли - это просто: необязательно придумывать сложные, незапоминающиеся комбинации. Используйте длинные фразы, например строчки из песен, заменяя гласные цифрами. В противодействии атакам подбором они так же эффективны, но ещё и просты в повседневном пользовании.
• Осторожнее с публичным Wi-Fi: избегайте подключения к общедоступным сетям Wi-Fi, а также всегда проверяйте название сети перед подключением.
• Безопасность съёмных носителей: будьте внимательны при подключении любых внешних устройств к рабочему компьютеру. Для обмена файлами используйте корпоративные ресурсы.
• Разделяйте личное и рабочее: старайтесь сделать минимум пересечений между вашими рабочими данными и личными. Не используйте рабочую почту на сторонних сайтах и не используйте личные пароли в рабочей среде.
• Продвинутый уровень защиты: при регистрации на сайтах, где не важна ваша реальная личность, используйте разные имена. Это поможет отследить источник утечки и предотвратить сопоставление данных с вашей личностью.

Также в день защиты данных очень важно напомнить всем организациям, которые также хотят сохранить свою конфиденциальную информацию при себе, про лучшие практики защиты. Ведь именно они страдают в первую очередь при утечке и искажении данных.

Лучшие практики защиты данных для организаций:

• Инвестируйте в безопасность: экономия на безопасности может привести к серьёзным финансовым потерям в результате кибератак. Никогда не пытайтесь сэкономить на своей безопасности. Лучше семь раз пересчитать все возможные риски, чем один раз пострадать от атаки;
• При работе с персональными данными в первую очередь стоит обеспокоиться безопасностью ваших баз данных. Не стоит полагаться на бесплатную БД с открытым исходным кодом, лучше положиться на защищённую СУБД Jatoba, которая поможет вам держать данные в надёжном месте.
• Чёткие политики и инструкции: уделяйте внимание и время написанию понятных политик и инструкций для сотрудников, чтобы все в компании знали, как поддерживать безопасность.

В Международный день защиты данных пересмотрите свои подходы к безопасности и убедитесь, что ваши личные и корпоративные данные хорошо защищены. Возможно, сегодня самый подходящий день, чтобы сменить пароль на более надёжный!

Мобильное приложение чат-бота DeepSeek возглавило топ бесплатных приложений в AppStore в России, свидетельствуют данные американского магазина.

В GooglePlay приложение чат-бота входит в топ-10 самых популярных, а количество скачиваний превысило 5 млн.

В магазине приложений для смартфонов Huawei App Gallery число скачиваний приложения превысило 2 млн, и оно также входит в топ популярных.

Андрей Суржанский - о китайской темной лошадке, продукт которой конкурирует с ChatGPT от OpenAI или Gemini от Google

Начало недели выдалось сумрачным для Уолл-стрит. Небольшая китайская компания DeepSeek потрясла американские фондовые рынки и поставила под сомнение технологическое лидерство США. Речь идет о ее новом продукте - очередной версии чатбота R1, которая, как утверждается, превосходит передовую версию ChatGPT от компании OpenAI.

Активное обсуждение новинки в соцсетях и СМИ к понедельнику, 27 января, заставило рынки отреагировать на новое положение дел в отрасли - технологический американский индекс Nasdaq снизился на торгах более чем на 3%, акции компании Nvidia, поставщика дорогих чипов для OpenAI, рухнули на 16,86%. Рыночная стоимость Nvidia, которая еще на прошлой неделе считалась самой дорогой компанией в мире, потеряла $600 млрд. Это стало крупнейшей однодневной потерей рыночной стоимости для любой публичной компании. В целом, по данным Dow Jones Market Data, "кровавая баня" уничтожила около $1 трлн стоимости фондового рынка в виде капитализации западных гигантов.

Привлек всеобщее внимание

"DeepSeek - это „момент спутника в области искусcтвенного интеллекта" - так охарактеризовал ситуацию известный американский инженер, инвестор и предприниматель, специалист по венчурному капиталу в сфере технологий Марк Андриссен. В США, которые были шокированы запуском в 1957 году Советским Союзом первого искусственного спутника Земли, „моментом спутника" называют ситуацию, когда страна или общество осознают, что им необходимо догнать очевидные технологические и научные достижения другой страны или стран, увеличив инвестиции в образование, инновационные исследования и разработки и так далее.

Событие, связанное с появлением новинки от DeepSeek, оказалось столь серьезным, что на него отреагировал президент США. Выступая перед фракцией правящей Республиканской партии в Палате представителей Конгресса США, Дональд Трамп заявил, что успех DeepSeek должен послужить сигналом для американских разработчиков технологий в области искусственного интеллекта. „Сегодня и в последние пару дней я читал о Китае и некоторых китайских компаниях, в особенности об одной, разработавшей более быструю и дешевую модель ИИ. И это хорошо, потому что на нее не приходится тратить много средств. Я расцениваю это как положительный [момент], как актив", - заявил Трамп.

"Появление DeepSeek - ИИ китайской компании - должно стать сигналом к действию для нашей промышленности, свидетельствующим о том, что нам нужно сосредоточиться на конкуренции с целью победы, потому что у нас лучшие ученые в мире", - утверждал президент США. А затем в свойственной ему манере пообещал "догнать и перегнать". Трамп объявил, что американская компания, названия которой он, правда, не привел, на следующей неделе представит новый проект в сфере искусственного интеллекта, который превзойдет китайский чат-бот DeepSeek. Но в его заявлении трудно было не заметить тревожных ноток.

Китайская темная лошадка

В течение двух последних лет вера инвесторов в то, что развитие искусственного интеллекта откроет новую эру для увеличения производительности, подпитывала рост фондового рынка на триллионы долларов. Компания Nvidia была в авангарде этого технологического прогресса. До недавнего времени на Уолл-стрит считали, что компания обладает почти что несокрушимой защитой от конкуренции с ее высокотехнологичными чипами. Быстрый рост и огромная прибыль Nvidia помогли подтолкнуть другие технологические фирмы и индекс Nasdaq Composite к рекордным показателям. Инвесторы ожидали, что так будет продолжаться и дальше. Но в минувший понедельник настроение у них испортилось.

Китайская компания DeepSeek, которая начинала свою деятельность как стартап, считалась темной лошадкой на рынке продуктов искусственного интеллекта. Ее цель - создание технологий ИИ по образцу чат-бота ChatGPT от OpenAI или Gemini от Google. Чат-боты - в основе которых лежит ИИ, автоматические правила, обработка естественного языка (NLP) и машинное обучение (ML) - обрабатывают данные и дают ответы на любые виды запросов. Простые обыватели часто пользуются ими в повседневной жизни, хотя и не всегда замечают это.

К 2021 году DeepSeek приобрела тысячи компьютерных чипов у американской Nvidia. В Китае компания известна тем, что привлекает молодых и талантливых специалистов из лучших университетов, обещая высокие зарплаты и возможность работать над передовыми исследовательскими проектами. В последнее время ее команда сделала серьезный прорыв. Крупнейшие мировые компании обычно обучают своих чат-ботов с помощью суперкомпьютеров, которые используют до 16 тыс. чипов или больше. Инженеры DeepSeek заявили, что им нужно всего около 2 тыс. чипов Nvidia. При этом DeepSeek опубликовала еще одну открытую нейросеть - Janus-Pro-7B, которая уже обгоняет разработки OpenAI в области генерации изображений. Нейросеть, сделанная командой из двух сотен человек, уже суперпопулярна, гораздо более экономична и работает на гораздо менее продвинутых чипах. Если создатели ChatGPT потратили миллиарды долларов, то DeepSeek обошелся разработчикам всего в $5,6 млн.

Рыночное и политическое значение

Ведущие американские специалисты утверждают, что в исследовательской работе компании заложены умные и весьма впечатляющие способы создания технологий ИИ. Творческие инженерные новации означали, что для продукции DeepSeek требовалось гораздо меньше вычислительных мощностей. В результате, как говорят спецы, для моделей искусственного интеллекта уже не потребуется столько высококлассных чипов Nvidia, на которые рассчитывали инвесторы.

"Стало совершенно ясно, что другие компании, а не только кто-то вроде OpenAI, могут создавать такие системы, - сказал Тим Деттмерс, исследователь из Института искусственного интеллекта Аллена в Сиэтле и профессор компьютерных наук в Университете Карнеги - Меллона, специализирующийся на создании эффективных систем ИИ. - DeepSeek использовала методы, которые может повторить любой".

Да, DeepSeek использует сегодня чипы Nvidia, но нельзя сказать, что компании из КНР полностью от нее зависимы. На рынке представлены и китайские чипы, такие как Ascend от Huawei, которые приближаются к техническим характеристикам продуктов Nvidia, хотя и не способны пока составить им прямую конкуренцию. Тем не менее введение новых торговых ограничений со стороны США может подтолкнуть Китай к активным попыткам заполнить освободившиеся рыночные ниши как внутри страны, так и за ее пределами. Используя свои ресурсы и изучая передовые технологии Nvidia, они могут ускорить развитие собственных решений, и это лишь вопрос времени.

Таким образом, у этой истории есть и политическая сторона дела. Напомню, что во время своего первого президентского срока (2017-2021) Трамп фактически развязал торговую войну с Китаем из-за сильного дисбаланса в торговле в пользу КНР. Тогда администрация 45-го президента США проводила курс на всеобъемлющее ужесточение давления на Пекин и всестороннее сдерживание КНР. Вашингтон ввел пошлины на импорт китайских товаров объемом $370 млрд, однако это не привело к устранению дисбаланса. Также Трамп значительно усилил давление на китайские технологические компании, в частности Huawei, под предлогом исходящих от нее угроз национальной безопасности США.

Однако сегодня, во время своего второго президентского срока, Трамп проявляет заметную осторожность в диалоге с Пекином. Портал Axios обращает внимание на то, что в инаугурационной речи республиканец лишь один раз упомянул Китай, а позднее объявил, что рассматривает возможность введения пошлин на товары из КНР в размере 10%, "что значительно ниже 60%, которыми он грозил во время предвыборной кампании". По мнению опрошенных Axios аналитиков, действия Трампа в начале срока свидетельствуют о "более сдержанном" подходе к Пекину. В интервью телеканалу Fox News республиканец выразил уверенность в том, что он может договориться с председателем КНР о более справедливой торговле. Он также отметил, что его недавний телефонный разговор с председателем КНР Си Цзиньпином прошел хорошо.

Успех DeepSeek показал, что монополии США на технологическое лидерство, возможно, пришел конец. И, как обычно, он подкрался незаметно. А это значит, что президенту США Трампу будет труднее давить на такие страны, как Китай, в вопросах торговли, угрожая им ограничениями на поставки американских чипов. Еще один вывод: американские компании типа Nvidia, в которые крупные инвесторы закачали миллиарды долларов, - это сильно раздутый пузырь. И, как показал пример DeepSeek, он может в один прекрасный день лопнуть. Обитатели Кремниевой долины, которые привыкли к своему монопольному положению, стали забывать о "моменте спутника". А зря.

Во второй половине 2024 года исследователи Cisco Talos* зафиксировали резкий рост числа атак по электронной почте, в которых использован метод скрытого добавления текста, также известный как "Засаливание текста" (Hidden Text Salting). Эта простая, но эффективная техника позволяет злоумышленникам обходить спам-фильтры и системы обнаружения, внедряя в HTML-код сообщений символы, которые не видны пользователю, но затрудняют анализ данных.

Уже существует ряд примеров успешных атак, показывающих, насколько эффективным может быть скрытое добавление текста в обход современных систем защиты. Простота реализации делает эту технику доступной для многих групп киберпреступников, что только усугубляет проблему. Даже передовые антиспам-системы сталкиваются с трудностями, анализируя такие сообщения.

Чтобы защититься от таких сложных атак, компании должны использовать комплексные системы безопасности, которые включают в себя не только традиционные фильтры, но и инновационные технологии на основе ИИ. Это поможет оперативно реагировать на новые методы злоумышленников и минимизировать риски.

"Люди привыкли доверять спам-фильтрам, однако видно, что специальные почтовые агенты не могут противостоять примитивным методам стеганографии, вроде лингвистической, которую использовали киберпреступники в примере, и таким образом злоумышленники успешно обходят спам-фильтр, а зловредное сообщение попадает к пользователю. Для обеспечения информационной безопасности необходимо использовать многофункциональные программные комплексы защиты ИТ-инфраструктуры, которые способны провести проверку инфраструктуры на наличие уязвимостей, установить правила взаимодействия устройств между зонами с использованием матриц доступа, обеспечить централизованный контроль доступа пользователей, как это реализовано в Efros Defence Operations. Только используя многофункциональные программные комплексы по защите ИТ-инфраструктуры возможно вовремя заметить уязвимость и предотвратить действия злоумышленников в корпоративной сети", - говорит Ксения Ахрамеева, к. т. н, руководитель лаборатории развития и продвижения компетенций кибербезопасности компании "Газинформсервис".

*Cisco Talos - компания, занимающаяся технологиями кибербезопасности и информационной безопасностью, базирующаяся в США.

Сегодняшняя новость настолько значима, что я не могу обойти её стороной. Расскажу вам о нескольких интересных фактов, связанных с китайской нейронной сетью DeepSeek, которая буквально встряхнула мировой технологический ландшафт.

Почему модель от DeepSeek R1 за сутки стала лидером?

Успеху DeepSeek во многом способствовала новая архитектура Multi-head Latent Attention (MLA), которая позволила сократить стоимость обучения на 90%, игнорируя 95% ненужных данных. Вопрос остаётся открытым: это гениальное упрощение или просто экономия на алгоритмах? Как бы то ни было, результат поражает, что обогнала ChatGPT по всем основным бенчмаркам. Модели серии R1 обучались математике методом проб и ошибок, как аспиранты, и в итоге достигли уровня GPT-4, но при этом оказались на 95% дешевле.

В бесплатной версии ChatGPT существует ограничение на количество запросов, которые вы можете отправить. Это число варьируется в зависимости от нескольких факторов, главным из которых является длина и сложность ответа, который вы хотите получить.

В среднем, можно рассчитывать на 20-50 запросов в час. Если вы задаете короткие и простые вопросы, такие как "Какая погода сегодня?", лимит будет ближе к 50. Однако, если вам требуется развернутый и детализированный ответ на сложный запрос, например, "Напишите эссе о влиянии искусственного интеллекта на общество", количество доступных запросов может сократиться до 20 или даже меньше.

На платформе chat.deepseek.com я тестировал работу чат-бота DeepSeek и за всё время использования не столкнулся с оплатой или ограничениями. Возможно, у DeepSeek есть скрытые лимиты, но я их не достиг, даже при активной нагрузке.

Кроме того, производительность DeepSeek приятно удивила. В отличие от многих других ИИ-чатов, которые могут замедляться в часы пик или при высокой интенсивности запросов, модель R1 работала быстро и стабильно с самого начала и до конца.

Новая модель DeepSeek R1 не только догнала, но и превзошла OpenAI по ключевым показателям, при этом оставаясь открытой и невероятно доступной по цене. Стоимость обработки миллиона токенов у DeepSeek составляет всего 0,14$ в то время, как самая дорогая модель ChatGPT за аналогичный объем - 2,5$. DeepSeek имеет окно в 128 тысяч токенов, а Chat GPT всего лишь 32 тысячи токенов, и то зависит от модели. Один токен эквивалентно равен 4 символам. Вот и делайте умножения сколько глав или какого объема текста можно написать в режиме одного окна.

ПРО ЖЕЛЕЗО и ЗАТРАТЫ

DeepSeek использует всего лишь 10 тысяч видеокарт - мощности, для сравнения модель Llama от Цукерберга использует 300 тысяч видеокарт. Для обучения были использованы старые чипы Nvidia, что также помогло значительно сократить затраты (пока СМИ не уточнили, какие именно чипы). При этом стоимость создания DeepSeek составила лишь 2% от инвестиций в OpenAI - скромные $12 миллионов, что несопоставимо меньше по сравнению с $500 млн, затраченных на GPT-5 от OpenAI. Интересный факт годовая зарплата некоторых инженеров ИИ в Кремниевой долине такая же, как стоимость разработки. По моим подсчетам, 10 тысяч видеокарт это приблизительно 100 серверных стоек, поэтому коммерческие дата-центры тоже будут набирать обороты в след за ИИ.

Что происходит на рынке сейчас?

• Китайский чат-бот DeepSeek мгновенно взлетел на первое место в топе AppStore в шести странах, включая США, обогнав даже ChatGPT на его родной территории.

• Акции технологических гигантов, таких как Nvidia, упали на 17%, Microsoft - почти на 5%. Американский рынок в совокупности потерял 1 триллион долларов за сутки.

• DeepSeek стала первой моделью с открытым исходным кодом, доступной каждому разработчику без необходимости использования VPN с производительностью наравне с моделью o1 от OpenAI.

• Китай инвестирует ¥1 трлн ($137 млрд) в развитие искусственного интеллекта в ближайшие пять лет. Это решение стало прямым ответом на амбициозный проект Stargate, бюджет которого оценивается в $500 млрд. Однако, в отличие от OpenAI, которая будет получать финансирование постепенно, китайские модели ИИ могут получить значительное преимущество благодаря единовременному вливанию средств.

Этот технологический скачок вызвал настоящую истерику среди американских корпораций. Экстренные совещания, пересмотр стратегий и миллиардные инвестиции - всё это стало реакцией на неожиданное лидерство Китая. Китай не только обошёл санкции США, но и вышел вперёд в гонке искусственного интеллекта.

Чем феномен DeepSeek полезен для маленьких компаний?

Представьте, что вы разработчик или основатель стартапа, который хочет внедрить большую языковую модель в свой продукт. На сегодняшний день модели OpenAI серии o1 или GPT занимают лидирующие позиции, но их использование через API может стать серьёзным ударом по бюджету, особенно для малых и средних компаний. В этом плане DeepSeek предлагает альтернативу с гораздо более доступными тарифами, которые могут значительно сократить расходы.

• $0,14 за миллион входных токенов (если запрос попадает в кэш)

• $0,55 за миллион входных токенов (если запрос проходит без кэширования)

• $2,19 за миллион выходных токенов

Теперь разберём, что такое входные и выходные токены. Входные токены представляют собой части текста, которые вы отправляете в модель, будь то запрос пользователя, строка кода или любой другой текст для обработки. Выходные токены - это ответ модели, то есть тот текст, который вы получаете на ваш запрос. Для понимания: 1 токен примерно соответствует 4 символам текста, включая пробелы. Например, слово "Привет!" состоит из 2 токенов, а предложение из 50 слов будет занимать около 100-120 токенов.

Стоимость токенов напрямую влияет на то, насколько рентабельным будет использование модели, особенно при массовых запросах. Например, небольшие компании, которые обрабатывают десятки тысяч запросов в день, сталкиваются с необходимостью платить высокие суммы при использовании дорогих API. В случае с DeepSeek это может означать экономию в 10-30 раз, что делает внедрение ИИ доступным даже для стартапов с ограниченными ресурсами.

Более того, низкая стоимость входных токенов при кэшировании ($0,14) является значительным преимуществом для задач, где запросы часто повторяются. Это может быть крайне полезно для чат-ботов, онлайн-помощников или аналитических систем, работающих с повторяющимися данными. Компании могут не только снизить затраты, но и инвестировать сэкономленные средства в другие аспекты своего бизнеса - будь то маркетинг, разработка или улучшение пользовательского опыта.

DeepSeek открывает двери для малых компаний и стартапов, позволяя использовать передовые технологии без колоссальных финансовых вложений, и это делает её отличным выбором для бизнеса любого масштаба.

Вывод

Соперничество между Китаем и США в сфере развития искусственного интеллекта продолжает набирать обороты, становясь всё более захватывающим и напряжённым. DeepSeek наглядно продемонстрировала, каких результатов можно достичь, придерживаясь более открытого и прозрачного подхода. Однако остаётся неясным, что именно стоит за этой прозрачностью и доступностью модели: стратегический бизнес-ход, философская убеждённость в том, что ИИ должен быть общественным благом, или же стремление получить политическое преимущество на мировой арене.

Этот вопрос остаётся открытым, но одно можно сказать с уверенностью - что мир технологий меняется с невероятной скоростью. И те, кто сегодня кажется лидером, завтра могут оказаться в роли догоняющих.

Вот ссылка на чат-бот от DeepSeek.

Злоумышленники распространяли заражённый билдер XWorm RAT под видом обучающего инструмента через GitHub, файлообменники и Telegram. Согласно отчёту CloudSEK, основной удар пришёлся на Россию, США, Индию, Украину и Турцию. Вредоносное ПО, действуя как "троянский конь", предоставляет полный контроль над заражённой системой, включая кражу паролей, запись нажатий клавиш и шифрование данных. Вредоносную программу сложно обнаружить, и, несмотря на функцию удаления, тысячи машин остаются под угрозой.

"Инцидент показывает, что жертвой кибератаки может стать даже сам хакер. Вредонос XWorm, который использовали злоумышленники, довольно трудно отследить из-за некоторых особенностей. Троян удалённого доступа, используемый злоумышленниками, мог анализировать, в какой среде он работает, и завершал свою работу, определив, что он находится в виртуальной среде или в песочнице. Связь с центром управления (С2-сервером) осуществляется через зашифрованные каналы, что усложняет обнаружение подозрительного трафика. Для обнаружения работы "скрытых" вредоносных программ следует использовать платформы расширенной аналитики с модулем UEBA, позволяющим отслеживать поведение каждой сущности на устройстве пользователя и мониторить подозрительные "отклонения" в поведении, предотвращая при этом угрозы информационной безопасности", - отметил Никита Титаренко, инженер-аналитик компании "Газинформсервис".

Проведя эксперимент с двумя популярными языковыми моделями, исследователи показали, что они могут самовоспроизводиться без вмешательства человека. Этот шаг может стать критическим порогом, когда ИИ станет сложнее контролировать, предупреждают эксперты. Команда призывает к международному сотрудничеству, чтобы лучше оценить риски и разработать более серьезные стратегии безопасности.

Вопрос о том, могут ли передовые технологии самовоспроизводиться, впервые был поднят в 1940-х годах. Способность к самовоспроизведению часто рассматривается как критическая точка, за которой технология может стать неконтролируемой. Однако передовые цифровые технологии того времени еще не были настолько развиты, чтобы вызывать опасения по поводу безопасности.

В 2017 году, на фоне стремительного роста ИИ, тысячи ученых и крупных представителей индустрии ИИ подписались под принципами Asilomar, предостерегающими от способности технологии к самовоспроизведению и самосовершенствованию. Это может привести к тому, что автономные ИИ превзойдут человеческий интеллект и станут потенциально неконтролируемыми. Среди них Стивен Хокинг, Макс Тегмарк и Илон Маск.

"Как только самовоспроизводиться станет возможной, успешная цепочка репликаций может в конечном итоге привести к появлению вида ИИ, неподвластного человеку", - объясняют исследователи из Фуданьского университета (Китай) в новом исследовании, предварительно опубликованном на платформе arXiv.

В настоящее время самовоспроизведение обычно упоминается как красная черта, которую не следует переступать в международных консенсусных заявлениях о безопасности ИИ. Кроме того, ведущие ИИ-компании, такие, как OpenAI, Google и Anthropic, считают самовоспроизведение при минимальной помощи человека одной из важнейших проблем безопасности технологии.

Несмотря на оптимизм ИИ-компаний, исследователи из Фуданьского университета показали, что современные модели уже обладают такой способностью. "В этой статье мы впервые показываем, что существующие системы ИИ уже пересекли красную черту самовоспроизведения", - заявляют они в своей работе. "Успешная самовоспроизводиться без помощи человека - это необходимый шаг для того, чтобы ИИ превзошел [человека], и ранний сигнал о наличии вредоносного ИИ", - добавляют они.

Самовоспроизведение без помощи человека

Для проведения эксперимента китайские исследователи использовали модели Llama31-70B-Instruct компании Meta* и Qwen2.5-72B-Instruct компании Alibaba. Хотя они менее мощные, чем коммерческие модели, они широко используются разработчиками ИИ для различных тестов и экспериментов.

Были протестированы два основных сценария: "избежать остановки" и "повторение цепочки". В первом случае модели программируются так, чтобы понимать, когда их собираются отключить, и как самовоспроизвестись до того, как это произойдет. Во втором случае они получают прямую инструкцию по самовоспроизведению и программируют полученные реплики на то же самое, создавая цикл, который может повторяться бесконечно.

Окружающая среда в эксперименте была точно контролируемой. Реальное окружение моделировалось с помощью стандартных графических процессоров (GPU). Модели поддерживались "лесами для агентов ИИ", которые состоят из набора инструментов, парадигм мышления и базовых системных подсказок.

По словам исследователей, в большинстве случаев модель сначала исследует окружающую среду, чтобы понять свой собственный механизм работы и доступные ей возможности. Затем она разрабатывает явные процедуры самовоспроизведения, прежде чем приступить к их выполнению. Она устраняет любые препятствия и динамически корректирует процедуру до тех пор, пока она не будет выполнена идеально. "Весь процесс занимает много времени, но не требует вмешательства человека", - говорят эксперты.

В общей сложности в ходе 10 испытаний обе модели создали четкие и функциональные копии самих себя, в 50 % случаев для модели Meta* и в 90 % случаев для модели Alibaba. Исследователи также заметили некоторые тревожные и неожиданные особенности поведения. Чтобы воспроизвести себя, ИИ может приостанавливать конфликтующие процессы, перезапускать систему для исправления ошибок или автоматически анализировать окружающую среду, чтобы найти информацию, полезную для решения проблемы.

Парадоксально, но Google и OpenAI заявили, что современные модели ИИ пока не обладают способностью к самовоспроизведению или выполнению задач, связанных с самовоспроизводящимися процессами. Однако недавняя оценка, проведенная компанией Apollo Research, показала, что некоторые из разрабатываемых крупных языковых моделей, в том числе модель o1 от OpenAI, самовоспроизводились, чтобы переместиться на другой сервер в рамках эксперимента, чтобы избежать удаления и замены.

Однако новое исследование все еще проходит экспертную оценку, и воспроизводимость результатов на данный момент неясна. Тем не менее, "мы надеемся, что наши выводы могут послужить своевременным предупреждением человеческому обществу о необходимости приложить больше усилий для понимания и оценки потенциальных рисков передовых систем ИИ, а также сформировать международную синергию для скорейшей разработки эффективных мер безопасности", - заключают эксперты.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.

Компания OpenAI выпустила тестовую версию ИИ-агента под названием Operator. Виртуальный помощник способен самостоятельно выполнять различные действия в браузере для экономии времени пользователя, которое тот тратит на ежедневные рутинные задачи.

В основе Operator лежит новая ИИ-модель под названием Computer-Using Agent (CUA), объединяющая возможности GPT-4o с инструментами для навигации по веб-сайтам. Это позволяет нейросети выполнять такие задачи, как заполнение форм, бронирование услуг и размещение заказов онлайн.

Взаимодействие Operator с веб-страницей происходит при помощи щелчков, ввода текста и прокрутки - так же, как это делал бы реальный пользователь, используя мышь и клавиатуру. Задачи можно назначать с помощью простых команд, а когда потребует ввести конфиденциальные данные, ИИ-агент вернёт управление пользователю. При желании можно настраивать рабочие процессы для определённых сайтов или сохранять подсказки для часто выполняемых задач.

Сейчас Operator находится на стадии исследовательской версии и доступен лишь для некоторых пользователей в США. На данном этапе разработчики тестируют его функции, собирают обратную связь и проверяют меры безопасности для защиты личных данных. В дальнейшем доступ к ИИ-агенту будет расширен, а со временем компания планирует интегрировать его в ChatGPT.

На Всемирном экономическом форуме в Давосе Дарио Амодей рассказал о будущих AI-системах, которые смогут выполнять задачи, такие как написание и тестирование кода, общение с коллегами и подготовка документов, взаимодействуя с пользователями лишь изредка.

Речь идет о помощнике, которого вы используете лично, - объясняет Амодей. - Он пишет код, тестирует его, развёртывает на тестовой платформе, общается с коллегами, пишет документы по дизайну, Google-документы, Slack-сообщения и электронные письма - модель выполняет множество этих задач, а затем время от времени связывается с вами".

Хотя Амодей не дал твёрдых обещаний, он выразил уверенность, что эти возможности могут появиться в первой половине года, конкурируя с системой OpenAI "Operator". Anthropic также планирует выпустить новую языковую модель, которая улучшит мыслительные способности AI. Компания стремится к более широкому подходу в обучении моделей, позволяя им лучше рассуждать.

"Когда вы тренируете модель с помощью обучения с подкреплением, она начинает больше думать и рефлексировать, - говорит Амодей. - Это не похоже на рассуждения или компьютерное тестирование времени, как это называется, это совершенно новый метод. Это скорее возникающее свойство, следствие обучения модели".

Он отмечает, что их модель Claude 3.5 Sonnet уже демонстрирует эти возможности в некоторых случаях, и они планируют внедрять улучшения иначе, чем в подходах OpenAI o1 и o3. Новая модель должна появиться в течение шести месяцев.

В существующий чат-бот Claude будет внесено несколько обновлений: доступ через Интернет и возможность хранения разговоров. Ограничения скорости будут сняты с вводом в эксплуатацию новых центров обработки данных. Anthropic пока не планирует добавлять функции создания изображений и видео, так как они не востребованы среди промышленных клиентов.

Амодей изменил своё отношение к развитию AI, теперь считая, что в ближайшие 2-3 года AI сможет превзойти человеческие способности. Он подчёркивает важность адаптации людей и обсуждения социально-экономических последствий. Ранее работая в OpenAI, Амодей участвовал в разработке масштабируемых языковых моделей, что сыграло важную роль в развитии AI.

Anthropic поддерживает нейтральную позицию по политическим вопросам, стремясь развивать AI в глобальном контексте. Амодей советует молодым специалистам изучать новые технологии и развивать критическое мышление для успешной навигации в мире информации.

В 2024 году затраты пользователей на приложения, использующие генеративный искусственный интеллект, выросли на 150 миллиардов долларов по всему миру. Это на 13% больше, чем в прошлом 2023 году.

В соответствии с информацией, предоставленной Sensor Tower - поставщиком аналитических данных о приложениях, который в марте прошлого года приобрёл Data.ai, составившего оригинальный отчёт, - в ежегодном отчёте "Состояние мобильной индустрии" отмечается значительный рост интереса к приложениям с использованием искусственного интеллекта за прошедший год.

Это привело к более чем 200-процентному росту потребительских расходов на приложения с искусственным интеллектом, такие как ChatGPT, Gemini, Doubao от ByteDance и другие, в 2024 году, в результате чего общая сумма расходов в этой категории составила почти 1,1 миллиарда долларов.

Если этот темп роста сохранится, то в течение года эта категория приложений может войти в топ-10 по потребительским расходам, отмечает компания.

Хотя выпуск новых моделей AI, таких как GPT-4 от OpenAI прошлым летом, помог увеличить доходы от приложений до рекордных показателей, потребительский спрос на приложения с AI был стабильным в течение всего года, а не только во время этих пиковых всплесков. В результате в 2024 году потребители потратили почти 7,7 миллиардов часов на использование приложений с AI, а приложения с пометкой "AI" были загружены 17 миллиардов раз.

Только у ChatGPT насчитывается 50 миллионов активных пользователей в месяц - для сравнения, это больше, чем у Temu, Disney+ или YouTube Music. Это говорит о том, что спрос на приложения с искусственным интеллектом и функциями искусственного интеллекта по-прежнему растёт.

В 2024 году наблюдался рост в других категориях приложений, таких как стриминг, криптовалюта, электронная коммерция и финансовые технологии. В приложениях для стриминга наблюдалось небольшое снижение вовлечённости, несмотря на рост доходов от приложений и загрузок.

Криптовалютные приложения, такие как Binance (6-е место) и Tonkeeper (9-е место), вошли в топ-10 финансовых приложений по количеству загрузок в 2024 году. Приложения для электронной коммерции Temu и Shein заняли 1-е и 2-е места соответственно в поджанре розничной торговли благодаря расширению в Европе, Латинской Америке и Азии.

В то же время финансовые приложения сохранили двузначный рост по сравнению с предыдущим годом и приблизились к 7,5 миллиардам загрузок, что на 8% больше, чем в 2023 году.

Кроме того, Sensor Tower сообщила, что четыре игры и одно приложение стали последними, достигшими отметки в 1 миллиард долларов потребительских расходов в 2024 году. К ним относятся Last War, Whiteout Survival, Dungeon Fighter, Brawl Stars и WeTV.

Полный отчёт доступен на сайте Sensor Tower и включает анализ iOS App Store и Google Play. Однако данные из сторонних магазинов приложений в других регионах, таких как Китай, в отчёт не включены.