Artificial Intelligence (ИИ) / Лучшие новости / news2.ru

[AI пересадка] Ребёнок озвучил Свинку Пеппу - и потерял право на собственный голос навсегда. Это новые условия Hasbro: повзрослевший артист может проиграть своей детской цифровой копии

suare — Mon, 29 Jun 2026 10:35:42 +0300

Через 20 лет повзрослевший артист обнаружит: он до сих пор работает на студию. И сделать ничего нельзя.

Hasbro раскритиковали из-за новых условий для детей, которые озвучивают будущие проекты про Свинку Пеппу. Компания просит юных исполнителей согласиться на использование их голосов в ИИ-системах. Для обычной записи мультфильма это серьёзное изменение: студия получает не только реплики для конкретной серии, но и возможность создавать новые фразы на основе детского голоса.

Сами договоры с несовершеннолетними артистами не редкость. Родители или законные представители подписывают документы за ребёнка, студия записывает нужные сцены, затем использует готовую работу в проекте. Но ИИ меняет границы такой сделки. Голос можно не просто сохранить в архиве, а превратить в модель, которая будет говорить новые фразы без участия человека.

Юристы предупреждают: такие права нельзя отдавать без срока и понятных ограничений. В договоре нужно отдельно прописывать, как долго можно использовать запись, разрешено ли обучать на ней голосовую модель, можно ли создавать дополнительные версии и кто контролирует повторное применение. Без рамок студия теоретически сможет пользоваться голосом годами, даже когда исполнитель вырастет и голос его будет звучать совсем иначе.

В согласии главная фишка. Родители могут разрешить ребёнку работать над мультфильмом, но передача голоса ИИ затрагивает уже будущую коммерческую идентичность человека. Ребёнок не может полноценно оценить, где и как его синтетический голос прозвучит через пять, десять или 20 лет. Критиков насторожил и формат таких условий. По их словам, семьи часто оказываются перед выбором "подписать или отказаться", без нормального обсуждения с правообладателем. Пункт про ИИ может затеряться среди стандартных документов, хотя последствия у него намного шире, чем у обычного согласия на озвучку.

Около 1000 человек подписали открытое письмо к студиям. Свинка Пеппа в письме напрямую не названа, но авторы отдельно указали: когда речь идёт о ребёнке, согласие требует особой осторожности.

Есть и риск для будущей профессии. Если студия сохранит ИИ-модель детского голоса, повзрослевший артист может однажды конкурировать с собственной цифровой копией. Персонаж мультфильма может оставаться ребёнком сколько угодно, а реальный человек взрослеет, меняет голос и должен иметь право решать, где его используют.

История Hasbro показывает, как ИИ меняет привычные правила в индустрии развлечений. Для студий синтетическая озвучка удобна: производство становится быстрее и меньше зависит от графика исполнителей. Для несовершеннолетних артистов такая запись может превратиться в актив, контроль над которым легко потерять ещё до взрослого возраста. По этой причине специалисты предупреждают о голосовых дипфейков и необходимости тщательного регулирования их использования, особенно когда речь идёт о детях.

(https://www.securitylab.r...)

Использование искусственного интеллекта при принятии стратегических решений

suare — Fri, 08 May 2026 09:13:29 +0300

Искусственный интеллект в стратегической политике может быть полезен не как замена государственного суждения, а как катализатор внимания, скорости и дисциплины стратегического анализа. Его оптимальное назначение - это оперативная обработка массивов данных, выявление слабых сигналов, выстраивание и оценка различных правдоподобных сценариев развития событий, проверка логических допущений и фиксирование кризисных отклонений. Там же, где речь идет об эскалации, применении силы, необратимых шагах или международно-правовой ответственности, ИИ не может пока становиться механизмом, принимающим решение, но способен значительно усилить возможности стратегического анализа, лежащего в его основании.

В российском правовом поле под ИИ понимается комплекс технологических решений, имитирующих когнитивные функции человека. В терминологию дополнительно также введены и фундаментальные модели (frontier models). На практике это означает, что под одним зонтичным термином объединены различные по своей природе инструменты - от специализированных систем компьютерного зрения до генеративных языковых и мультимодальных моделей.

Настоящий доклад систематизирует зарубежный и российский опыт применения ИИ в стратегическом контуре, фиксирует ключевые ограничения и предлагает контуры управленческой дисциплины.

1. Зарубежный и российский опыт: где ИИ уже дает результат

Современный зарубежный опыт наиболее убедителен в сферах анализа информации и прогнозирования. Программа Project Maven, запущенная Министерством обороны США в 2017 году, изначально решала задачу применения компьютерного зрения для распознавания объектов и приоритизации сигналов при обработке видеопотока с беспилотных платформ. Логика прозрачна: машина берет на себя первичную сортировку потока, а аналитик получает не весь массив данных, а отобранные сигналы. В программе прогнозирования IARPA Hybrid Forecasting Competition было показано, что наилучшие результаты дают не машина и не человек по отдельности, а гибридная схема, в которой экспертное суждение и алгоритмический расчет лаконично дополняют друг друга.

Тот же принцип работает в раннем предупреждении и логистике. Платформа EIOS Всемирной организации здравоохранения анализирует в режиме, близком к реальному времени, большие объемы открытых данных, помогая выявлять потенциальные угрозы общественному здоровью. Армия США описывает предиктивную логистику как переход от реактивного снабжения к упреждающему: алгоритмы, опираясь на исторические данные, текущие тренды и оперативные планы, заранее оценивают спрос на запасы, запчасти и услуги. В обоих случаях польза ИИ связана не со способностью "понимать мир", а со способностью быстрее человека фиксировать статистически значимые отклонения.

Отдельного рассмотрения заслуживает опыт компании Palantir Technologies, одного из наиболее известных поставщиков аналитических решений для государственных структур и силовых ведомств США. Ее платформы применяются для интеграции разнородных данных - от разведывательных сведений до перманентного анализа финансовых потоков с целью выявления скрытых связей и поддержки оперативных решений аналитика. Вместе с тем этот пример отчетливо иллюстрирует ключевой тезис, что даже наиболее совершенные аналитические платформы с ИИ не принимают решений самостоятельно. Они формируют основу ситуационной оценки, тогда как интерпретация данных и выбор стратегий остаются за экспертом.

Российская практика также формирует широкий набор прикладных инструментов. В 2025 году правительством России заявлено о внедрении ИИ в систему мониторинга национальных проектов и государственных программ: соответствующая модель в онлайн-режиме сопоставляет мероприятия и показатели с национальными целями. МЧС России использует ИИ в "Атласе опасностей и рисков". Отдельные модели за определенное время до начала ледохода оценивают сроки вскрытия льда на реках, что служит инструментом управленческого решения при подготовке к паводкам и положительным примером использования ИИ. Применяются и технологии компьютерного зрения для обработки спутниковых снимков, позволяющие в отдельных случаях устанавливать причины лесных пожаров. Это один из наиболее зрелых типов государственных применений ИИ в формате мониторинга, раннего предупреждения, классификации, приоритизации и распределения ресурсов.

Что касается сценарного анализа, то в работах RAND Corp. отмечается, что ИИ уже способен содействовать политико-военному моделированию - особенно там, где требуется быстро просчитывать множество вариантов развития событий. Одновременно те же исследователи подчеркивают и ограничения: большинство подобных "упражнений" пока недостаточно цифровизированы и не формируют полноценных обучающих массивов, а современные системы не обладают стратегическим пониманием, сопоставимым с человеческим. Иными словами, ИИ усиливает это направление, но не отменяет собственно стратегического мышления.

2. Сильные стороны и ограничения

Сильные стороны ИИ в стратегическом контуре вполне конкретны. Он расширяет "полосу внимания", ускоряет первичную сортировку входящей информации, обеспечивает единообразие рутинной обработки, помогает выявлять слабые сигналы в массивах данных и позволяет за меньшее время перебрать больше альтернатив, чем способна исключительно человеческая команда. Можно прямо связать ИИ с улучшением принятия решений, прогнозирования и выявления аномалий в государственном управлении. Однако польза не возникает автоматически - она требует исключительно качественных данных, корректной постановки задачи и отсутствия завышенных ожиданий.

Одновременно следует ясно очертить пять основных ограничений.

Первое - качество данных. RAND в обзоре ограничений ИИ для военных применений выводит устойчивую закономерность: данные для обучения и тестирования должны быть актуальными, доступными и качественными, а сами алгоритмы существенно сужают круг своей применимости. ИИ не "додумает" в отсутствие релевантных данных: данные мирного времени не подменяют данные реального кризиса или военного конфликта. Вывод: дефицит качественных данных, устаревшие информационные системы и необходимость формирования квалифицированных кадров нового образца влияют на масштабирование и риски ошибочных выводов.

Второе - прозрачность. Нейросетевые системы обладают свойствами черного ящика, что в регуляторном и политическом контуре затрудняет подотчетность, внешнюю проверку и требует обязательного человеческого контроля над результатами. Частично эту проблему компенсируют методы механистической интерпретируемости языковых моделей - анализ активаций нейросети и цепочек рассуждения (reasoning trace), однако говорить о полной прозрачности сейчас преждевременно.

Третье - человеческая психология. Систематические исследования фиксируют, что пользователи систем поддержки принятия решений склонны реже искать противоречащие данные и чаще некритично принимать машинную рекомендацию, особенно в условиях дефицита времени. Более новые работы применительно к публичному сектору отмечают избирательное следование алгоритмическим советам там, где они совпадают с уже имеющимися установками или стереотипами. Для стратегической политики это опаснее, чем для рутинной бюрократии: ошибка здесь редко бывает локальной.

Четвертое - враждебная среда и "ИИ против ИИ". Исследования по состязательному машинному обучению систематизируют специфические опасные атаки: отравление обучающих данных, атаки на приватность, перехват контроля над автономными агентными системами, управление выходами генеративных моделей. Для языковых моделей к этому добавляются инъекции промптов (prompt injection) - вредоносный текст или документ, способный вывести систему из штатного режима, такие атаки сейчас автоматизированы. В стратегическом контуре из этого следует практический вывод, что в условиях противоборства ИИ необходимо рассматривать как новую потенциальную поверхность атаки и уязвимости, а не только как инструмент усиления собственных возможностей.

Пятое - геополитическое измерение. Потенциальная зависимость от иностранных облачных мощностей и аппаратных решений, регулярных обновлений и отдельных программных библиотек - это не только технический фактор, но и вопрос устойчивости и суверенности принимаемых решений. В российском контуре эта проблематика уже формализована в перечне поручений президента России 2026 года, где обозначено приоритетное использование отечественных фундаментальных моделей генеративного ИИ в государственном управлении и на объектах критической информационной инфраструктуры.

3. Управление, ответственность и роль человека

В качестве примера представляет интерес полезный практический каркас NIST AI Risk Management Framework. Он опирается на четыре последовательные функции: govern, map, measure, manage - управление, картирование, измерение, оперативные действия.

Сначала выстраивается система управления: роли, процедуры, учет правовых требований, документированная терпимость к риску, цепочки ответственности и порядок работы с третьими сторонами. Затем следует картирование: контекст применения, целевая задача, применимые нормы, возможный вред, уязвимые группы - и принципиальное решение о целесообразности внедрения системы вообще. Далее - измерение: тесты, метрики, независимая оценка надежности, безопасности, объяснимости, а также механизм апелляции и обратной связи. И лишь затем - решения: приоритизация рисков, мониторинг после развертывания, процедуры ручного контроля и отката версий, реагирование на новые и потенциальные инциденты и при необходимости вывод системы из эксплуатации.

Отсюда следует содержательное понимание "человека в контуре решения" (human-in-the-loop). Речь идет не о символической подписи под машинным выводом, а об институционально оформленной роли, когда конкретное ответственное должностное лицо обладает правом отклонить ИИ-рекомендацию, управлять доступами к альтернативному, немашинному каналу проверки. А также использовать понятный журнал действий (что предложила система, что решил человек и почему). Это и возможность остановки, отключения и разбора отдельного возможного инцидента.

В российском контуре заслуживают внимания три основополагающих организационных сигнала. Во-первых, Минцифры России совместно с аналитическим центром при правительстве Российской Федерации оформили центр развития ИИ с задачами координации, тиражирования решений и оценки уровня внедрения. Во-вторых, в составе правительственной комиссии создана подкомиссия по развитию и внедрению технологий искусственного интеллекта. В-третьих, введен в действие порядок управления качеством государственных данных с использованием единой информационной платформы национальной системы управления данными.

4. Практические правила применения

Практическое правило может быть сформулировано просто. ИИ целесообразно применять там, где задача повторяема, данные относительно полны и актуальны, качество измеримо, ошибка быстро замечается и исправляется, а эксперт способен проверить результат быстрее, чем выполнить работу с нуля. ИИ следует применять ограниченно - как предварительный фильтр или генератор вариантов - там, где цена ошибки высока, но рекомендация еще обратима. ИИ не следует использовать как решающий механизм там, где решение уникально, необратимо, принимается в условиях кризисного сжатия времени, затрагивает применение силы, санкционные или правоограничительные меры либо существенно зависит от тонкого политического контекста, не поддающегося формализации в данных.

Для генеративных моделей правило еще строже. Их допустимо использовать для ускорения первого черновика, сопоставления сценариев, подготовки перечня вопросов и выявления лакун в рассуждении. Однако их нельзя использовать как автономный фактографический источник или как самодостаточное основание для официальной позиции. Причины хорошо известны: галлюцинации, инъекции подсказок, риск утечек данных, сложность верификации происхождения каждого фрагмента текста. Рабочий стандарт таков: генеративная модель ускоряет написание, но ответственность несет не она - ее несет автор документа.

5. Как описывать ИИ руководителям и обществу

Для политического руководства ИИ следует описывать, если можно так сказать, без маркетинга. Не "система решила", а "система выявила сигнал, ранжировала версии и предложила варианты; решение принял уполномоченный сотрудник". Не "модель умнее эксперта", а "модель быстрее просматривает массив аналогичных случаев, но не несет политической и правовой ответственности". Не "точный прогноз", а "вероятностная оценка при заданных данных и ограничениях". Такой язык не только точнее - он снижает риск чрезмерного доверия к автоматизации и облегчает последующий разбор ошибок.

Для публичной коммуникации представляется целесообразным фиксировать пять обязательных элементов, даже применительно к не самым чувствительным случаям: цель применения, тип данных и временной охват, роль человека в окончательном решении, известные ограничения, риски и механизм оспаривания или исправления ошибки.

В заключение представляется принципиально важным разграничивать два класса применений. Первый - административный: черновики, мониторинг, логистика, поиск аномалий. Второй - управленческий: кризисные сигналы, санкционные и правоограничительные решения, силовые шаги.

Для первого класса допустим более широкий экспериментальный режим. Для второго уместна вначале вспомогательная роль ИИ - с повышенными требованиями к объяснимости, с обязательной независимой верификацией. Это и есть содержательная позиция через пропорциональность возможных рисков и пути их купирования.

6. Политическое измерение работы с ИИ

Принципиальное значение в обращении с ИИ в области принятия политических решений любого рода, тем более стратегического характера, как показывает доступный опыт, имеют следующие моменты.

Независимый и высокоэрудированный ум, доказанная способность непредвзято и трезво оценивать ситуацию. Проблема в том, что называется групповым конформизмом, исходящим из коллективно принятой картины мира на основе определенной идеологии. Мы наблюдали это в СССР, то же налицо в ряду западных элит, включая американские, которые не видят себя вне своей глобальной гегемонии.

Любая идеология - серьезный ограничитель, будь то альтернативы социализм - капитализм, демократия - авторитаризм или другие продукты исключительно западной цивилизации. Необходимо широко смотреть на вещи и выходить на культурно-цивилизационные категории, что уже в полный голос заявляет о себе в мировой политике, включая нынешнюю войну Израиля и США с Ираном. Словом, необходимо комплексное осмысление всего мирового исторического опыта без клише и попыток мерить по себе. Необходимо понимать другого и представить себя на его месте, особенно ввиду различия ценностных систем и моделей развития, уже не говоря об историческом опыте.

С этим связано представление о нелинейном характере исторических процессов, о законе нежелаемых последствий принимаемых решений, о высокой вероятности отсутствия полного представления о них, что должно побуждать к соблюдению принципов умеренной политики, отказу от постановки конечных/предельных целей, отдающих "концом истории". В частности, важно сознавать наличие как банальных, легко просчитываемых стратегий, так и фатальных, укорененных в судьбах, исторической миссии и идентичности государств и народов, что требует глубокого, а не выборочного знания истории, философии и религии (проблема - как вписать свод этих обширных знаний в большие данные). На этот счет четко высказался Генри Киссинджер в одной из своих последних книг "Лидерство" (2022 год), а последняя (в соавторстве) вообще была посвящена проблематике ИИ.

Ярким примером фатальных стратегий была наша борьба с Наполеоном и Гитлером, а в наше время - реакция на украинский кризис, навязанный нам Западом и имеющий все признаки цивилизационного прокси-конфликта. То же можно сказать о нынешней борьбе Ирана, отстаивающего свою цивилизационную идентичность. Что касается выборочного подхода к истории, то один из архитекторов украинского конфликта использовал аналогию с Русско-японской войной и последующей революцией 1905 года - вне более широкой исторической картины и характера нынешней ситуации в России и мире.

Не менее опасно впасть в апологетику, сделаться жертвами собственной пропаганды, когда за скобки выводится все, включая неоспоримые факты, что не укладывается в коллективно принятый нарратив. Помимо советского, весьма убедителен американский опыт. Так, внешнеполитическая политология насквозь политизирована в том числе тем, что соответствующие команды демократов и республиканцев сменяют друг друга в высших эшелонах администрации (порядка трех тысяч политических назначенцев, противостоящих профессионалам, слово которых далеко не первое). В бюрократических вертикалях складываются существенные ограничители. Апологетика американского доминирования дает о себе знать и на страницах такого издания, как журнал Foreign Affairs, где в последние 30 лет от силы найдутся одна-две статьи в каждом номере, содержащие элементы критического мышления. В остальных под разными углами утверждается непоколебимость и безальтернативность американской гегемонии, в том числе на путях ее "тонкой настройки". На это накладывается подмеченная еще Алексисом де Токвилем (в его "Демократии в Америке" 1834 года) своего рода диктатура коллективного мнения в республиканской Америке, то есть высокая степень несвободы суждений и самоцензуры по сравнению даже с монархическими режимами.

Также приходится сознавать, что любой независимый анализ так или иначе ставит под вопрос уже принятые политические решения. И это понятно: ситуации меняются и требуют новых подходов, что всегда сопряжено с рисками, но при этом и возможностями. Это особенно верно для текущего геополитического перелома в мире, когда многие моменты из привычной определенности перестают быть таковыми. Собственно, поэтому анализ вообще не приветствовался в СССР: бал правил догматизм, хотя на нижних уровнях и могли быть свежие идеи, наверх они не доходили - было заведомо понятно, что проходит, а что нет. Не лучше дела и на Западе. Скажем, логично то, что аналитические подразделения МИД России (департамент внешнеполитического планирования) и Госдепартамента США (штаб политического планирования) подчинены непосредственно министру и госсекретарю.

Искусственный интеллект - обоюдоострый инструмент, и он может стать союзником аналитиков и лиц, формирующих решения, если будет соответственно вооружен/снаряжен и с ним будут работать хорошо подготовленные, интеллектуально честные и открытые сотрудники.

Но главное, что необходимо постоянно иметь в виду, - это то, что ИИ не функционирует в отрыве от окружающего его массива информации, который всегда будет связан с политикой и политической мыслью конкретных стран. Это значит, что мы снова возвращаемся к теме образования и глубокого знания истории и всего, что с ней связано.

Александр Яковенко

(https://ria.ru/20260507/i...)

["Доверяй, но проверяй"☝️] ИИ сказал - ты согласился: учёные описали феномен "когнитивной капитуляции" (cognitive surrender)

suare — Tue, 07 Apr 2026 19:04:54 +0300

Исследователи из Университета Пенсильвании предложили новое объяснение тому, как люди взаимодействуют с ИИ. По их мнению, всё чаще пользователи не просто пользуются нейросетями, а буквально "сдаются" им. Этот феномен специалисты назвали "когнитивной капитуляцией" (cognitive surrender).

Если раньше люди использовали технологии вроде калькуляторов или GPS для отдельных задач - "разгружали" мозг, но сохраняли контроль, - то с ИИ ситуация меняется.

Всё чаще пользователи просто принимают ответы модели за истину, не проверяя и не анализируя их. Причём, как отмечают исследователи, это особенно заметно, если ответ звучит уверенно, гладко и без лишних сложностей. В таком случае у человека просто не включается внутренний "режим сомнения".

Чтобы проверить это, учёные провели серию экспериментов с участием более 1300 человек. Им предложили задачи на когнитивное мышление с подвохом, который требует не интуиции, а вдумчивого анализа.

Часть участников могла пользоваться ИИ-помощником, но с нюансом: модель специально давала неправильные ответы примерно в половине случаев. Результат оказался показательным.

Когда ИИ отвечал правильно, пользователи соглашались с ним в 93% случаев. Но даже когда он ошибался, люди всё равно принимали его ответ в 80% случаев. То есть большинство просто не перепроверяло результат, даже если он был неверным.

В среднем участники соглашались с ошибочным ИИ в 73% случаев и оспаривали его лишь в 19,7% случаев.

Более того, у тех, кто пользовался ИИ, уровень уверенности в своих ответах оказался выше - даже несмотря на то, что половина этих ответов была неправильной.

Интересно, что поведение менялось в зависимости от условий. Например, если участникам давали небольшие денежные стимулы за правильные ответы и мгновенную обратную связь, они чаще перепроверяли ИИ и исправляли ошибки. А вот дефицит времени, наоборот, усиливал зависимость от модели: под давлением дедлайна люди ещё охотнее доверяли ИИ.

Не все оказались одинаково уязвимы. Люди с более высоким уровнем так называемого флюидного интеллекта (fluid IQ) реже полагались на ИИ и чаще замечали его ошибки. А вот те, кто изначально воспринимал ИИ как авторитетный источник, чаще попадались на неверные ответы.

При этом сами исследователи подчёркивают: "когнитивная капитуляция" - не обязательно зло сама по себе. Если ИИ действительно работает лучше человека, логично ему доверять, особенно в задачах вроде анализа данных или оценки рисков.

Но есть важный нюанс: качество мышления в таком случае напрямую зависит от качества самой модели.

(https://www.anti-malware....)

Интернет с британским акцентом

4toSnamiStalo — Thu, 05 Feb 2026 12:20:10 +0300

Интернет с британским акцентом.

Интернет долго воспринимался как что-то единое и неделимое: либо он есть, либо его нет. Маааааксимум, что нового в нем появилось за последние годы, так это всякие белые и черные списки, которые работают чаще всего в зависимости от региона. Где-то это называют цензурой, где-то заботой, но сегодня не об этом.

Какие страны вам приходят в голову, когда речь заходит о той самой цензуре и цифровой свободе? Правильно - Северная Корея, Китай и Иран с их локальными сетями, блокировками и тотальным контролем. Но похожие механизмы начинают появляться и в странах, которые ещё недавно ставили в пример как образец свободного интернета. И я сейчас не о той стране, о которой вы подумали.

Я говорю про Британию, находящуюся в верхних строчках рейтинга цифровой свободы (https://gtmarket.ru/ratings/freedom-on-the-net). Она фактически первой в Европе реализовала модель "двух интернетов" - с полным доступом для верифицированных пользователей и урезанной версией для всех остальных. А произошло это в прошлом году.

Изменения правил подавались избирателям под соусом защиты детей от порнографии, саморазрушительного контента и травли. Формальным поводом стала трагическая история девочки-подростка (https://www.theguardian.com/technology/2022/sep/30/how-molly-russell-fell-into-a-vortex-of-despair-on-social-media), которая столкнулась с токсичным контентом в социальных сетях. При продвижении закона об онлайн-безопасности власти ссылались именно на эту историю.

На практике под требования закона попали почти все крупные сервисы: соцсети, видеоплатформы, игры, мессенджеры и даже стриминговые сервисы. Если пользователь не подтверждает возраст, он получает "детскую" версию платформы с ограниченными функциями. А если сервис не внедряет такую проверку - ему грозят штрафы, сопоставимые с годовыми доходами.

И в целом, общество готово отстаивать благородную цель - защиту детей. Но способ ее достижения оказался куда радикальнее, чем многие ожидали. Проверка возраста больше не просто галочка "мне есть 18", теперь это паспорт, банк, оператор связи или распознавание лица. Возникает ощущение, что безопасность покупается ценой приватности (внезапно, да?). И вот здесь люди уже не так рьяно поддерживают закон, потому что не готовы загружать свои данные на сайты, особенно чувствительного характера.

А все потому что утечки, шантаж, продажа и злоупотребление никуда не пропадают с внедрением этих новых механизмов безопасных интернетов. Неудивительно, что на фоне этого в Британии резко вырос интерес (https://www.kommersant.ru/doc/7923080) к VPN и другим способам выглядеть для сервиса пользователем из "другой страны".

В итоге мы приходим к сложному и неприятному вопросу: как защитить уязвимых, не превратив интернет в стерильное, отслеживаемое пространство с доступом по документам. И где проходит граница между заботой и контролем. Пока одни страны только обсуждают эти идеи, другие уже живут в реальности, где интернет перестаёт быть одинаковым для всех. И, кажется, назад эта дорога будет куда сложнее, чем вперёд.

⚡ ПБ (https://t.me/package_security) | 😎 Чат (https://t.me/+pMuo0wo0ctkwNmFi) | 🛍 Проекты (https://t.me/package_with_packages) | 📹 YT (https://www.youtube.com/@package_security/videos)

(https://t.me/package_secu...)

TI (Threat Intelligence), а что же это вообще такое

4toSnamiStalo — Thu, 05 Feb 2026 12:10:01 +0300

Скоро нас атакуют.

Многие ИБшники и ITшники не раз слышали такую аббревиатуру, как TI. Но далеко не у всех доходили руки до того, чтобы загуглить или осознать, а что же это вообще такое. Сегодня пробежимся по верхам и попробуем понять, насколько это важное направление в рамках всего ИБ, что там происходит внутри и стоит ли вообще идти туда работать. Так что заваривай свой чай и погнали.

Начнем, как и всегда, с расшифровки - Threat Intelligence. Если описывать этот домен один словом, то лучше всего, как по мне, подходит киберразведка (не путаем с OSINT, хоть оно и похоже). Эти ребята сидят внутри синей команды (то есть защищают), а основная их задача - это отслеживать киберугрозы до того, как они реализовались. А это значит, что на этой работе нужно будет следить за тем, кто и кого сейчас в мире атакует, как это делают и какие у всего этого последствия. По сути, эти ребята должны приглядывать одновременно и за хакерскими группировками, и за их жертвами.

TI в компании может быть реализован как на основе человеческого ресурса, так и при помощи автоматизированной платформы. Но, само собой, лучше эти два метода комбинировать. Автоматизированная платформа работает с достаточно большими объемами данных, выявляя релевантные угрозы для конкретной компании или ее активов (мобильных приложений, сайтов, данных, API и т.д.), выдает некоторый регулярный отчет, а инженер TI уже адаптирует это всё под текущий ландшафт, технологии и продукты, донося эту информацию до тех, кто отвечает за настройку WAF, AntiDDoS, IPS/IDS, EDR и прочие средства защиты информации.

Что за большие данные такие и откуда их получают? Те самые большие данные платформа TI может получать из огромного количества источников, как открытых (бесплатных), так и закрытых (платных). Это всё тоже лучше комбинировать и сравнивать между собой, чтобы получать наиболее точные данные о возможных угрозах. А содержат эти данные информацию, например, о том, какие домены или IP-адреса были засвечены в рамках проведения хакерских атак (чтобы мы могли их у себя заблокировать), или какие техники и тактики (TTP) сейчас используются хакерскими группировками из определенного региона или для атак на конкретный сектор компаний.

Кажется, что можно жить и без TI. Вообще, да, можно. Просто более тревожно. По сути, TI - это отличный вспомогательный инструмент для того, чтобы поддерживать в актуальном боеготовном состоянии все остальные средства защиты и знать, с какой стороны на нас могут напасть. Организовывается Threat Intelligence на достаточно зрелом уровне развития ИБ, так как он не помогает тушить активные пожары, а лишь вовремя подносит огнетушители туда, где скоро может загореться (да-да, именно туда).

Идти в TI работать можно, но нужно понимать, что ребят, к сожалению, там недооценивают по ЗП. С другой стороны - это отличная точка входа в кибербезопасность и отличное место для того, чтобы понять, куда расти дальше. А еще туда достаточно интересно собесят и дают интересные тестовые задания - так, например, одна кибербезопасная контра даёт задания на исследования конкретных хакерских группировок (существующих) - их языка общения, локации, мотивации, используемого вредоносного ПО и тактик, и (что мне понравилось больше всего) способов внедрения в эти группировки, включая варианты первого контакта, вхождения в доверие и далее по списку. И всё это надо сделать на основе открытых источников информации.

В общем, как-то так. Если вам понравился такой формат разбора, то наваливайте реакций и вариантов того, что можно разобраться еще в комментариях. Всем мир.

#Разбор

Твой Пакет Безопасности (https://t.me/package_security)

(https://t.me/package_secu...)

Если джунов заменит ИИ, то из кого мы будем выращивать миддлов и синьоров?

4toSnamiStalo — Thu, 05 Feb 2026 11:14:19 +0300

Если джунов заменит ИИ, то из кого мы будем выращивать миддлов и синьоров?

Каждая вторая компания сейчас пытается выкрикнуть о том, что "если есть ИИ, зачем вообще брать джунов?", "давайте заменим джунов на ИИ", "да мы уже заменили половину джунов на ИИ". ИИ пишет код, тексты, тесты, отвечает на вопросы - быстро, в нужном формате, без перекуров или поездок в поликлинику. На короткой дистанции это звучит разумно. Но чем дольше об этом думаешь, тем больше вопросов возникает.

Джун - это ведь не просто человек, который делает простые задачи. Это вход в профессию. Место, где можно ошибаться, тупить, задавать странные вопросы и постепенно начинать понимать, как всё работает в реальности, а не в учебниках. Джун - это суперзамотивированный молодой специалист, который будет брать препятствия не опытом и насмотренностью, а смекалкой и упорством. И поверьте, порой для решения большинства задач этот способ подходит намного лучше. Если эту ступень убрать, то мы просто перекрываем людям дорогу внутрь. И инструмент насыщения рынка и целой отрасли.

Миддлы и сеньоры не появляются внезапно. Они не возникают "готовыми". Каждый опытный специалист когда-то был тем самым джуном, который писал криво, переделывал по три раза, переживал и не понимал, почему "так нельзя". Это нормальный путь роста. И если сейчас сказать: "джуны нам больше не нужны", то через несколько лет внезапно выяснится, что расти-то некому.

ИИ при этом вообще не враг этой системе. Он классно ускоряет обучение, помогает разбираться, снимает рутину, даёт возможность раньше браться за что-то сложное. Но он не проходит путь ответственности, не учится чувствовать последствия решений и не берёт на себя контекст. Это всё всё равно делают люди. Не ИИ будет двигать кибербез вперед.

Самая большая ловушка здесь - думать слишком узко. Да, сегодня можно сэкономить, не вкладываться в новичков, переложить простые задачи на ИИ и их новомодных агентов. А потом - удивляться, почему сеньоры перегружены, миддлов не хватает, а рынок перегрет (если сейчас уже почти так, то что будет дальше?).

Если ИИ действительно заменит джунов, то очень скоро станет очевидно, что миддлам и сеньорам просто не из кого расти.

👨‍🏫 Менторство ИБ (https://t.me/+iIBAFNXwZt03Nzcy) | Отзывы (https://t.me/+dFX_CyW1R4M0YjZi) | 📹 YT (https://www.youtube.com/@package_security/videos)

(https://t.me/package_secu...)

А вы знали, как работает антиспам в почте?

4toSnamiStalo — Thu, 05 Feb 2026 11:18:37 +0300

А вы знали, как работает антиспам в почте?

Мы привыкли ругать почту за то, что "опять письмо улетело в спам". Но редко задумываемся, что этот же фильтр, возможно, не раз спасал нас от очень дорогих ошибок. Собственно, настало время разобраться в том, как почтовый ящик отсортировывает "мусорные письма" и почему он все-таки пропускает фишинговые сообщения.

Начнем с того, что спам-фильтр не читает письма как человек. Он оценивает риски. Каждое входящее сообщение проходит через цепочку проверок, и на выходе получается простой ответ: это похоже на нормальную переписку или на попытку вас обмануть. В банках и схожих организациях подобные процедуры называются скорингом.

Первое, на что смотрит почта, кто вообще написал. Откуда это письмо, с какого IP, с какого домена, и чем этот отправитель занимался раньше (ну условно). Если IP уже попал в чёрные списки, светился в рассылках или домен молодой, не подтверждены базовые вещи вроде SPF, DKIM и DMARC (это такие специфичные протоколы аутентификации электронной почты), письмо начинает путь с минуса.

Дальше начинается разбор содержимого. Алгоритм не просто ищет стоп-слова вроде "выигрыш" или "срочно", он считает их плотность, сочетания и контекст. Семантический анализ, да. Странная вёрстка, картинка вместо текста, ссылки с маскировкой, вложения непонятного формата - всё это не по отдельности, а в сумме повышает вероятность, что письмо небезопасно. Само собой, тут тоже есть своя гонка вооружений и авторы фишинга постоянно работают над тем, чтобы мимикрировать под нормальные письма и обойти алгоритмы/фильтры.

Но тут в игру вступает самая интересная механика. Почтовый сервис внимательно смотрит, что делают пользователи. Если письма от этого отправителя массово удаляют, не открывая, или помечают как спам, репутация у этого адресата падает очень быстро. Если по ссылкам никто не переходит или, наоборот, переходят и сразу жалуются - это тоже сигнал.

Именно обучение на коллективном поведении помогает спам-фильтрам эффективно защищать нас от фишинга. Даже если письмо выглядит правдоподобно и имитирует банк, доставку или коллегу, оно часто ломается на одном из уровней: домен не тот, шаблон уже где-то встречался, есть признаки манипуляции или призыва в тексте. Поэтому многие атаки не доходят до пользователя вовсе - их ловят ещё до того, как у вас появится шанс кликнуть не туда.

Плюс к этому алгоритмы дообучаются, следят за инфополем (порой не без помощи TI (https://t.me/package_security/686)) и актуальными фишинговыми кампаниями. А еще много где уже встроены ИИшки, которые нормально отрабатывают и иногда даже помогают выявлять новые вектора атак.

Но не стоит расслабляться и доверять проверкам на 100%. Если хакеры проводят целенаправленную атаку с "чистого" адреса (например, со взломанной почты), то распознать фишинг защитным системам будет крайне сложно.

Думаю, что вы и сами не раз видели, как в основной ящик просачивается что-то из серии акционных предложений от магазинов или прощальные письма от дядюшки из Нигерии. Так что наличие спам-фильтров не отменяет необходимость быть внимательным и использовать критическое мышление. Это всего лишь первая линия обороны, которая останавливает львиную долю мусора и мошенничества ещё до того, как оно доберётся до вас. Как-то так.

(https://t.me/package_secu...)

Модель угроз для кибербезопасности AI: комплексный подход ко всем этапам жизненного цикла искусственного интеллекта

4toSnamiStalo — Thu, 05 Feb 2026 07:36:35 +0300

Экспертами кибербезопасности Сбера подготовлена первая версия модели угроз для систем искусственного интеллекта (AI), которая охватывает все ключевые этапы жизненного цикла AI-систем - от подготовки данных и разработки AI-модели до интеграции в приложение. Документ пригодится командам, которым требуется системный подход к моделированию угроз, опирающийся на объединение экспертизы команды Сбера и лучших мировых практик по кибербезопасности AI.

Документ описывает 70 угроз моделей генеративного (GenAI) и предиктивного (PredAI) искусственного интеллекта. Создание подобной модели особенно актуально в свете растущего использования GenAI-моделей в критически важных бизнес-процессах и возникающих в связи с этим новых киберугроз.

Разработанная модель угроз учитывает текущий опыт команд Сбера при работе над повышением защищённости собственных AI-моделей, а также лучшие мировые практики в данной предметной области (документы OWASP, MITRE, NIST и др.).

Для каждой из 70 угроз, помимо возможных последствий, определены свойства информации, которые нарушаются (конфиденциальность, целостность и доступность), и объект, который может быть подвергнут воздействию нарушителя, - к примеру, датасеты для обучения или оpen-source модели.

Для наглядности модель угроз содержит схему взаимодействия таких объектов и их описание.

Обобщённая схема объекта защиты и актуальных угроз КБ AI

Скачать

"Внедрение технологий искусственного интеллекта в бизнес-процессы сопровождается масштабными вызовами кибербезопасности. Организации, использующие AI, сталкиваются с новыми рисками, способными повлиять на устойчивость систем и конфиденциальность данных. Эти угрозы затрагивают все этапы жизненного цикла AI, что требует новых решений для их прогнозирования и нейтрализации.

Сбер активно применяет технологии искусственного интеллекта в своих бизнес-процессах и хорошо понимает новый ландшафт угроз. Для ответа на эти вызовы нами разработана первая в России модель угроз, охватывающая полный спектр рисков, связанных с разработкой и применением AI. Она позволяет организациям любой отрасли - от финансового сектора до государственных институтов и промышленности - системно оценивать уязвимости, адаптировать защитные механизмы и минимизировать потенциальные потери".

Сергей Лебедь

Вице-президент по кибербезопасности СберБанка

(https://www.sberbank.ru/r...)