![Модель угроз для кибербезопасности AI: комплексный подход ко всем этапам жизненного цикла искусственного интеллекта]()
Экспертами кибербезопасности Сбера подготовлена первая версия модели угроз для систем искусственного интеллекта (AI), которая охватывает все ключевые этапы жизненного цикла AI-систем — от подготовки данных и разработки AI-модели до интеграции в приложение. Документ пригодится командам, которым требуется системный подход к моделированию угроз, опирающийся на объединение экспертизы команды Сбера и лучших мировых практик по кибербезопасности AI.
Документ описывает 70 угроз моделей генеративного (GenAI) и предиктивного (PredAI) искусственного интеллекта. Создание подобной модели особенно актуально в свете растущего использования GenAI-моделей в критически важных бизнес-процессах и возникающих в связи с этим новых киберугроз.
![]()
Разработанная модель угроз учитывает текущий опыт команд Сбера при работе над повышением защищённости собственных AI-моделей, а также лучшие мировые практики в данной предметной области (документы OWASP, MITRE, NIST и др.).
Для каждой из 70 угроз, помимо возможных последствий, определены свойства информации, которые нарушаются (конфиденциальность, целостность и доступность), и объект, который может быть подвергнут воздействию нарушителя, — к примеру, датасеты для обучения или оpen-source модели.
Для наглядности модель угроз содержит схему взаимодействия таких объектов и их описание.
Обобщённая схема объекта защиты и актуальных угроз КБ AI
Скачать
«Внедрение технологий искусственного интеллекта в бизнес-процессы сопровождается масштабными вызовами кибербезопасности. Организации, использующие AI, сталкиваются с новыми рисками, способными повлиять на устойчивость систем и конфиденциальность данных. Эти угрозы затрагивают все этапы жизненного цикла AI, что требует новых решений для их прогнозирования и нейтрализации.
Сбер активно применяет технологии искусственного интеллекта в своих бизнес-процессах и хорошо понимает новый ландшафт угроз. Для ответа на эти вызовы нами разработана первая в России модель угроз, охватывающая полный спектр рисков, связанных с разработкой и применением AI. Она позволяет организациям любой отрасли — от финансового сектора до государственных институтов и промышленности — системно оценивать уязвимости, адаптировать защитные механизмы и минимизировать потенциальные потери».
Сергей Лебедь
![]()
Вице-президент по кибербезопасности СберБанка
Т9: «Доверяй, но проверяй».
