| Угроза модификации модели машинного обучения путем искажения («отравления») обучающих данных |
Угроза заключается в возможности модификации (искажения) модели машинного обучения, используемой в информационной (автоматизированной) системе, реализующей технологии искусственного интеллекта.
Данная угроза обусловлена:
- недостатками реализации процесса машинного обучения;
- недостатками устройства алгоритмов машинного обучения.
Реализация данной угрозы возможна при наличии у нарушителя возможности воздействовать на процесс машинного обучения |
221 |
Внешний нарушитель с высоким потенциалом
Внутренний нарушитель со средним потенциалом
|
Обучающие данные машинного обучения
Модели машинного обучения
Программное обеспечение (программы), использующее машинное обучение
|
✘
|
✔
|
✘
|
УПД.3
УПД.13
|