对抗样本攻击与防御，MindSpore是怎么做的？

5月7日，“机器之心”和华为阿森松岛学院开设的在线公开课“心灵运动”结束。讲师刘志丹带来了一个分享“思维运动模型鲁棒性评估工具”的话题。

第5课精选问答

在第五课的问答环节中，一些问题被大家广泛提及。刘志丹教导员再次对其进行了精选和编辑，以供参考。

Q1:为什么使用符号功能？

Q2:加入防御算法后，精确度会降低吗？

不一定。防御算法使用对抗训练的方法来生成对抗样本，并将它们添加到原始数据集来一起训练模型。获得的模型参数与原始数据集的参数略有不同。这种差异可能会使测试集的准确性发生变化、降低或提高。

Q3:增加防御算法如何影响训练时间？

使用和不使用对抗训练的区别在于，对抗训练增加了在正常模型训练过程中生成对抗样本的步骤，因此训练期间增加的计算成本在于生成对抗样本。不同的攻击算法有不同的时间开销。如果将梯度攻击作为一种简单的攻击算法，增加的时间非常小，如果将连续波作为一种更强的攻击方法，时间开销会更大。攻击算法的具体选择要求用户根据自己的需要，结合时间开销和安全要求，选择合适的攻击算法。

Q4:如果对抗训练过程增加，对推理时间会有什么影响？

它对推理没有影响。训练后，模型与正常模型相同，推理时间与原始模型相同。

问题5:对抗训练中使用的对抗样本与后防御测试中使用的样本相同吗？

不一样。培训和测试中使用的方法可以相同，也可以不同。

问题cleverhans有什么不同？

明达玛和克莱夫汉斯有着相同的出发点，都是针对样本安全性对模型进行研究。根据所提供的特性，MindArmour做了更全面的工作，包括反样本和检测的生成、模型的防御、抗攻击和防御的评估模块以及通过模糊化对模型进行鲁棒性测试的模块。

如果您以后有更多的问题，请关注MindSpore的gitee和github，并随时提问。官员们会及时回答他们:

吉蒂:https://gitee.com/mindsporeGitHub:·https://github.com/mindspore-ai第五课PPT如下:

2

本文由 在线网速测试 整理编辑，转载请注明出处，原文链接：https://www.wangsu123.cn/news/6211.html。