Куда я попал?
из-за уязвимости
Возможность подмены обученной модели машинного обучения
в Активе
Модель машинного обучения
Описание угрозы
Угроза заключается во внедрении ложного или подмене существующего компонента информационной системы и (или) обрабатываемой с его использованием информации.
Например, подмена DNS-сервера.
Например, подмена DNS-сервера.
Описание уязвимости
Недостаточная защита файлов модели машинного обучения, отсутствие контроля целостности и механизмов подтверждения подлинности модели позволяют заменить легитимную обученную модель на измененную. В результате система искусственного интеллекта может выполнять обработку данных на основе несанкционированной модели, что приводит к получению некорректных результатов и нарушению доверия к функционированию решения.
Описание типа актива
Артефакт машинного обучения (обученная модель) для инференса. Объект угроз отравления, кражи, инверсии и состязательных (adversarial) атак.
Область действия: Вся организация
Классификация
КЦД:
Достоверность
?
STRIDE:
Искажение
?
Источники угрозы
Внешний нарушитель -
Средний потенциал
?
Внутренний нарушитель -
Средний потенциал
?
БДУ ФСТЭК:
УБИ.222
Угроза подмены модели машинного обучения
?
Угроза заключается в возможности подмены нарушителем модели машинного обучения, используемой в информационной (автоматизированно...
Новая БДУ ФСТЭК Угрозы:
УБИ.4
Угроза несанкционированной подмены
?
Угроза заключается во внедрении ложного или подмене существующего компонента информационной системы и (или) обрабатываемой с его...
УБИ.5
Угроза удаления информационных ресурсов
?
Угроза заключается в несанкционированном удалении обрабатываемой в информационной системе информации (конфиденциальной, конфигур...
| Название | Severity | IP | Integral | |
|---|---|---|---|---|
| 1111111 111 11 1111 11111111111111111 1111111 1 11111111111111111 |
-
|
1 |
-
|
|
| 11 111111111 111 1111111111111111111111111 1111 1 11111 1111111 |
-
|
1 |
-
|
Мы используем cookie-файлы, чтобы получить статистику, которая помогает нам улучшить сервис для вас с целью персонализации сервисов и предложений. Вы может прочитать подробнее о cookie-файлах или изменить настройки браузера. Продолжая пользоваться сайтом, вы даёте согласие на использование ваших cookie-файлов и соглашаетесь с Политикой обработки персональных данных.