查看PDF HTML（实验性） 摘要：观察到神经网络的设计选择对于其成功优化通常至关重要。本文因此讨论了一个问题：是否总有可能重新设计一个神经网络，使其能够很好地进行梯度下降训练。这产生了以下普遍性结果：如果对给定网络，存在任何算法可以为分类任务找到良好的网络权重，则存在该网络的一个扩展，它通过简单的梯度下降训练重现这些权重和相应的前向输出。该构造并不适用于实际计算，但为元学习及相关方法的可能性提供了一些方向。 主题：机器学习（cs.LG）；机器学习（stat.ML） MSC类别：68T07，68Q04，90C26 引用为：arXiv:2007.13664 [cs.LG]（或arXiv:2007.13664v1 [cs.LG]，用于此版本） https://doi.org/10.48550/arXiv.2007.13664 arXiv发出的DOI通过DataCite 提交历史 来自：Gerrit Welper [查看电子邮件] [v1] 2020年7月27日周一 16:17:19 UTC（31 KB）