Ablation Study 用于检测深度学习/机器学习模型中各部分构件对于整体的重要性。
可以理解为为:组件\tricks重要性测试、组件性能系统性分析、控制变量法、组件去除对比实验、性能敏感性测试、性能因子分析等
Ablation Studies
一些新颖的深度学习模型在论文中都会进行AblationStudy,这部分的主要意义在于系统性的移除模型中的各种组件/trick等因子或者是创新的方法,来探究各个因素对于模型整体贡献的强弱多寡, 找到对性能最主要的影响因素。
例如在这篇论文中:

作者就针对自己提出的跳接层、特征注意力机制来分别进行研究,并分析了两种方法对于网络性能的重要性:

可以看到四种关键组件进行了9中不同的组合,在没有任何创新加入的时候,模型的PSNR只有28.45,而长跳接提升了0.33,短跳接提升了0.36,长短链接一起提升了0.41;而特征注意力则单独共享了0.06,与长链接配合提升了0.4(这一看到了长链接更重要的作用了),倒数第二列则与长短跳接结合,得到了0.55的提升,说明长短跳接组合比长链接好。最后再加上长连接又提升了0.06。
496




被折叠的 条评论
为什么被折叠?



