УБИ.221 – Угроза модификации модели машинного обучения путем искажения («отравления») обучающих данных
Угроза заключается в возможности модификации (искажения) модели машинного обучения, используемой в информационной (автоматизированной) системе, реализующей технологии искусственного интеллекта. Данная угроза обусловлена: - недостатками реализации процесса машинного обучения; - недостатками устройства алгоритмов машинного обучения. Реализация данной угрозы возможна при наличии у нарушителя возможности воздействовать на процесс машинного обучения
- Источник
- БДУ ФСТЭК
- Нарушает
- целостность