变分自动编码器(VAE)百科全书从压缩到生成
一、开篇:生成模型的"概率革命"2013 年 12 月 20 日,arXiv 上出现了一篇看似不起眼的论文:Auto-Encoding Variational BayesDiederik P. Kingma, Max WellingUniversity of Amsterdam20 页的论文,引入了一个看起来"普通"的想法:让自动编码器的潜变量服从概率分布。但这个简单的修改打开了一扇大门——深度生成模型的概率时代正式开启。在 VAE 出现之前,生成模型的世界是这样的:玻尔兹曼机(1985):理论优雅但训练困难DBN 深度信念网络(2006):Hinton 的杰作,但推理慢去噪自编码器(2008):能做生成但不够灵活NADE / MADE:自回归,速度慢而 VAE 一举解决了三个问题:训练稳定:用反向传播 + SGD 就行采样高效:一次前向传播即可生成数学优雅:基于严格的变分推断更重要的是,
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2629591.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!