Главная Моделировать угрозы Сценарии
ID | Наименование | Тактическая задача | Описание | Ид. ФСТЭК | Нарушитель | Объект | К | Ц | Д | Мера защиты |
---|---|---|---|---|---|---|---|---|---|---|
221 | Угроза модификации модели машинного обучения путем искажения («отравления») обучающих данных | Воздействие | Угроза заключается в возможности модификации (искажения) модели машинного обучения, используемой в информационной (автоматизированной) системе, реализующей технологии искусственного интеллекта. Данная угроза обусловлена: - недостатками реализации процесса машинного обучения; - недостатками устройства алгоритмов машинного обучения. Реализация данной угрозы возможна при наличии у нарушителя возможности воздействовать на процесс машинного обучения | 221 | Внешний нарушитель с высоким потенциалом, Внутренний нарушитель со средним потенциалом | Обучающие данные машинного обучения, Модели машинного обучения, Программное обеспечение (программы), использующее машинное обучение | ✘ | ✔ | ✘ | УПД.3, УПД.13 |
222 | Угроза подмены модели машинного обучения | Обход защиты, Воздействие | Угроза заключается в возможности подмены нарушителем модели машинного обучения, используемой в информационной (автоматизированной) системе, реализующей технологии искусственного интеллекта. Данная угроза обусловлена слабостями разграничения доступа в информационных (автоматизированных) системах, использующих машинное обучение. Реализация данной угрозы возможна при наличии у нарушителя непосредственного доступа к модели машинного обучения | 222 | Внутренний нарушитель с высоким потенциалом | Модели машинного обучения, Программное обеспечение (программы), использующее машинное обучение | ✔ | ✔ | ✘ | УПД.3, УПД.13 |