当前位置: 首页 > 运动场馆

谷歌提出深度概率编程语言 Edward

发布日期:2019-07-14 19:01:25 | 编辑:有氧运动网| 阅读次数:

近日,美国哥伦比亚大学,Adobe公司的研究,谷歌的研究和谷歌大脑研究联合发表的一篇论文中,我们引入了新的概率图灵完备的编程语言。纸表示爱德华集成到TensorFlow。以下是论文和爱德华的简要说明。

https://开头的arXiv。组织/ PDF / 1701.03757v1。PDF格式

爱德华的官方网站:http:// edwardlib。组织/

爱德华的官方网站介绍了这种新语言是:爱德华是Python库的建模,推理和评价的概率。这是一个快速的实验和研究概率模型,模型范围内的测试平台,从一个小数据集的复杂概率模型的深度上的大数据集经典的分层模型覆盖。爱德华结合了以下三个领域:贝叶斯统计和机器学习,深度学习,概率性编程。

变推理(推理变)

蒙特卡洛(蒙特卡洛)

推理成分

爱德华建立在TensorFlow。图它支持诸如计算,分布式训练,CPU / GPU集成,自动分化和其它功能,它也可以被用于可视化TensorBoard。

发布时间:深度概率编程(DEEP概率性编程)

摘要

我们提出了一个概率图灵完备的编程语言爱德华。爱德华构建了基于由所表示的两个模块化 - 随机变量和推理(随机变量和推理)。通过推理视为“一等公民”,和建模(造型),我们表明,传统的编程和学习,灵活和高效计算的深度的概率可以做到。

为了提高灵活性,爱德华让我们用从点估计(点估计)推理各种变推理和MCMC等。可以组合,以适应同一个模型。此外,爱德华也可以作为造型的一部分来表征复杂的推理,这可以有助于丰富变化模型的设计和产生对抗网络。

\

为了提高效率,爱德华融入到TensorFlow,提供了在现有的系统中的显著加速度,基于所述概率。例如,在此基础上回归任务,爱德华至少比斯坦和PyMC3快35倍。

介绍

神经网络的深度自然是模块化的(组成)。用户可能创造性的方式将层连接在一起,而不用担心如何执行测试(前向传播)或推理(基于梯度的优化,自动分化和反向传播)。在本文中,我们成为模块化设计表示(成分表示)的概率。概率编程允许用户生成的概率模型被指定为一个程序(程序),然后将这些模型汇编“(编译)”作为推理(推理过程)。概率模型本质上是模块化的,之前的大部分工作已经通过随机变量(Goodman等人的组合集中于一个方案,以构建丰富的概率。,2012; Ghahramani,2015年; 湖等。,2016)。

\

然而,很少有研究考虑推理的类似组合。相反,现在大多数现有编程语言概率推理引擎将被从模型中抽象处理黑匣子。这些方法在概率推理模型重用特征并不代表最新发展。例如,在推断(金玛&威灵,2014变化;雷森德&穆罕默德,2015; Tran等人。,2016B),并且生成针对(Goodfellow等人的网络。,2014)的进展已成为非常重要的。

我们提出了一个概率图灵完备的编程语言爱德华。随机变量和推理(随机变量和推理) - 爱德华在由表示的两个基的组合构成。我们给出计算的方法如何整合到现有的帧的爱德华视图(例如。G。TensorFlow)的。TensorFlow这种框架可以是“免费”的优惠分布式训练,并行性,并以量化的GPU计算的支持优势。我们还表明爱德华如何使我们能够轻松地使用从点估计(点估计)推理各种变推理和MCMC等。可以组合,以适应同一个模型。通过推理视为“一等公民”,和建模(造型),我们表明,传统的编程和学习,灵活和高效计算的深度的概率可以做到。例如,我们的汉密尔顿蒙特卡洛(哈密顿蒙特卡洛)实现比现有软件快35倍。

图1:β-伯努利程序(左)和其计算(右)。从图X截取。50将生成的二进制向量中的元素

图2:来自编码器的可变数据设置一个28×28像素的图像:(左)图模型,其中虚线表示推理模型; (R)与2层的神经网络节目概率

\

图3:贝叶斯RNN :(左)图形模型; (右)概率程序。该程序的时间步骤中没有指定; 使用符号周期的(TF。扫描)

图左:( 4)变推理; (右)蒙特卡洛


图5:针对网络式:(左)的概率图模型(右)概率程序。添加一些假数据以及培训其判别模型,我们将继续加强这一代模型

图6:LDA文档主题生成模型,隐含狄利克雷分布(Blei等人。,2003年)

图7:高斯矩阵分解

资料来源:人类差不多

本文链接:谷歌提出深度概率编程语言 Edward

上一篇:赵永刚任内蒙古警察职业学院党委书记、提名任院长|内蒙古警察职业学院|赵永刚|杨伟东

下一篇:赵永刚加盟新疆首秀砍17分 感叹球队良好气氛

友情链接:

佛经大悲咒 心经 佛教典籍

Copyright © 2017 有氧运动网 版权所有 All Rights Reserved. 网站地图

苏ICP备18043316号