计算机安全

关注1人关注

我要报错

什么是对抗机器学习？为何要对抗机器学习？

对抗机器学习是一个机器学习与计算机安全的交叉领域。对抗机器学习旨在给恶意环境下的机器学习技术提供安全保障。由于机器学习技术一般研究的是同一个或较为稳定的数据分布，当部署到现实中的时候，由于恶意用户的存在，这种假设并不一定成立。比如研究人员发现，一些精心设计的对抗样本(adversarial example)可以使机器学习模型不能成功地输出正确的结果。针对模型的攻击问题，我们主要分为两大类，就是从训练阶段和推理(inference)阶段来进行讨论。

人工智能AI
2023-01-24

对抗机器学习机器学习计算机安全