Manifold Mixup 摘要速览

Manifold Mixup 摘要速览

Manifold Mixup: Better Representations by Interpolating Hidden States​​​ 这种测试数据包括数据分布偏移, 异类, 对抗样本， 为解决这个问题，我们提出Manifold Mixup，即一种简单的正则化方法， Manifold Mixup使用语义插补文字作为附加的训练信号，使神经网络 在多层的向量表示 有更平滑的决策边界， 结果是，用Manifold Mixup训练的神经网络可学习class-representations时使用更少的方差方向， 我们证明了这个理论在理想情况下为何会发生扁平化，在实际场景也证实了，以及联系到之前的信息论和泛化理论， 尽管只用很少代码，Manifold Mixup很大提升了监督学习的baseline， 提升了一步对抗样本攻击的鲁棒性，以及提升了测试集的log-likelihood分数

版权声明：本文内容由网络用户投稿，版权归原作者所有，本站不拥有其著作权，亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容，请联系我们jiasou666@gmail.com 处理，核实后本网站将在24小时内删除侵权内容。