【Ablation Studies 理解】深度学习模型组件的对比实验/性能分析

Ablation Study 用于检测深度学习/机器学习模型中各部分构件对于整体的重要性。
可以理解为为:组件 ricks重要性测试、组件性能系统性分析、控制变量法、组件去除对比实验、性能敏感性测试、性能因子分析等

Ablation Studies

一些新颖的深度学习模型在论文中都会进行AblationStudy,这部分的主要意义在于系统性的移除模型中的各种组件/trick等因子或者是创新的方法,来探究各个因素对于模型整体贡献的强弱多寡, 找到对性能最主要的影响因素。


例如在这篇论文中:
在这里插入图片描述
作者就针对自己提出的跳接层、特征注意力机制来分别进行研究,并分析了两种方法对于网络性能的重要性:
在这里插入图片描述
可以看到四种关键组件进行了9中不同的组合,在没有任何创新加入的时候,模型的PSNR只有28.45,而长跳接提升了0.33,短跳接提升了0.36,长短链接一起提升了0.41;而特征注意力则单独共享了0.06,与长链接配合提升了0.4(这一看到了长链接更重要的作用了),倒数第二列则与长短跳接结合,得到了0.55的提升,说明长短跳接组合比长链接好。最后再加上长连接又提升了0.06。


所以从消融性分析/组件性能测试中,可以控制各个潜在的影响因素,以观察他们对于整体表现的影响,并从中找出最为重要的提升组件。同时也可以为你找出一些对模型性能影响微乎其微的模块,以便简化模型提高效率。


ref:
https://www.quora.com/In-the-context-of-deep-learning-what-is-an-ablation-study
https://blog.csdn.net/Julialove102123/article/details/88996478
https://www.jianshu.com/p/2ba896c1a306
https://www.zhihu.com/question/60170398

在这里插入图片描述
pic from pexels.com

原文地址:https://www.cnblogs.com/Tom-Ren/p/11054633.html