深度盘点国内四大机器学习开源平台：paddlepaddle,angel-k8凯发
2015-2016 的机器学习平台开源大潮中，美国是当之无愧的引领者：无论是谷歌、亚马逊、微软、ibm 等互联网巨头，还是美国各大科研院所，为开源世界贡献了品类繁多的机器学习工具。这其中不乏华人的身影，比如开发出 caffe 的贾杨清。
但在大陆这边，无论是 bat 还是学界，在开源机器学习项目上始终慢了一拍，令人十分遗憾。这与我国世界最大 ai 研究者社区、占据 ai 科研领域半壁江山的江湖地位*颇为不符。让人欣喜的是，2016 下半年，百度和腾讯先后发布了它们的开源平台战略。虽然姗姗来迟，但作为下半场入场的选手，它们的开源平台各自有什么意义？本文中，作为机器学习开源项目盘点的第三弹，雷锋网将与你一起看看包括百度腾讯平台在内的国内四大开源项目。
*注：据创新工场人工智能工程院王咏刚副院长统计，我国 ai 发文数与引用文章数居世界第一，占世界总数一半以上。
1. 百度：希望获得开发者青睐的 “paddlepaddle”
2016 年 9 月 1 日的百度世界大会上，百度首席科学家吴恩达宣布，该公司开发的异构分布式深度学习系统 paddlepaddle 将对外开放。这标志着国内第一个机器学习开源平台的诞生。
其实，paddlepaddle 的开发与应用已经有段时日：它源自于 2013 年百度深度学习实验室创建的 “paddle”。当时的深度学习框架大多只支持单 gpu 运算，对于百度这样需要对大规模数据进行处理的机构，这显然远远不够，极大拖慢了研究速度。百度急需一种能够支持多 gpu、多台机器并行计算的深度学习平台。而这就导致了 paddle 的诞生。自 2013 年以来，paddle 一直被百度内部的研发工程师们所使用。
而 paddle 的核心创始人，当年的百度深度学习实验室研究员徐伟，现在已是 paddlepaddle 项目的负责人。
徐伟
对了，从 “paddle” 到 “paddlepaddle” 的命名还有一个小插曲：paddle 是“parallel distributed deep learning”的缩写，意为“并行分布式深度学习”。而去年 9 月发布时，吴恩达认为 “paddlepaddle” （英语意为划船——“让我们荡起双~昂~桨，小船儿推开波浪。。。”）其实更郎朗上口、更好记，于是就有了这么个可爱的名字。
那么，paddlepaddle 有什么特点？
支持多种深度学习模型 dnn（深度神经网络）、cnn（卷积神经网络）、 rnn（递归神经网络），以及 ntm 这样的复杂记忆模型。
基于 spark，与它的整合程度很高。
支持 python 和 c 语言。
支持分布式计算。作为它的设计初衷，这使得 paddlepaddle 能在多 gpu，多台机器上进行并行计算。
相比现有深度学习框架，paddlepaddle 对开发者来说有什么优势？
首先，是易用性。
相比偏底层的谷歌 tensorflow，paddlepaddle 的特点非常明显：它能让开发者聚焦于构建深度学习模型的高层部分。项目负责人徐伟介绍：
“在 paddlepaddle 的帮助下，深度学习模型的设计如同编写伪代码一样容易，设计师只需关注模型的高层结构，而无需担心任何琐碎的底层问题。未来，程序员可以快速应用深度学习模型来解决医疗、金融等实际问题，让人工智能发挥出最大作用。”
抛开底层编码，使得 tensorflow 里需要数行代码来实现的功能，可能在 paddlepaddle 里只需要一两行。徐伟表示，用 paddlepaddle 编写的机器翻译程序只需要“其他”深度学习工具四分之一的代码。这显然考虑到该领域广大的初入门新手，为他们降低开发机器学习模型的门槛。这带来的直接好处是，开发者使用 paddlepaddle 更容易上手。
其次，是更快的速度。
如上所说，paddlepaddle 上的代码更简洁，用它来开发模型显然能为开发者省去一些时间。这使得 paddlepaddle 很适合于工业应用，尤其是需要快速开发的场景。
另外，自诞生之日起，它就专注于充分利用 gpu 集群的性能，为分布式环境的并行计算进行加速。这使得在 pebblepebble 上，用大规模数据进行 ai 训练和推理可能要比 tensorflow 这样的平台要快很多。
说到这里，业内对 paddlepaddle 怎么看？
首先不得不提的是 caffe，许多资深开发者认为 paddlepaddle 的设计理念与 caffe 十分相似，怀疑是百度对标 caffe 开发出的替代品。这有点类似于谷歌 tensorflow 与 thano 之间的替代关系。
知乎上，caffe 的创始人贾杨清对 paddlepaddle 评价道：
"很高质量的 gpu 代码"
"非常好的 rnn 设计"
"设计很干净，没有太多的 abstraction，这一点比 tensorflow 好很多"
"设计思路有点老"
"整体的设计感觉和 caffe ‘心有灵犀’，同时解决了 caffe 早期设计当中的一些问题”
最后，贾表示 paddlepaddle 的整体架构功底很深，是下了功夫的。这方面，倒是赢得了开发者的普遍认同。
总结起来，业内对 paddlepaddle 的总体评价是“设计干净、简洁，稳定，速度较快，显存占用较小”。
但是，具有这些优点，不保证 paddlepaddle 就一定能在群雄割据的机器学习开源世界占有一席之地。有国外开发者表示， paddlepaddle 的最大优点是快。但是，比 tensorflow 快的开源框架其实有很多：比如 mxnet，nervana system 的 neon，以及三星的 veles，它们也都对分布式计算都很好的支持，但都不如 tensorflow 普及程度高。这其中有 tensorflow 庞大用户基础的原因，也得益于谷歌自家 ai 系统的加持。
百度的 ai 产品能够对普及 paddlepaddle 产生多大的帮助，尚需观察。雷锋网获知，它已经应用于百度旗下的多项业务。百度表示：
“paddlepaddle 已在百度 30 多项主要产品和服务之中发挥着巨大的作用，如外卖的预估出餐时间、预判网盘故障时间点、精准推荐用户所需信息、海量图像识别分类、字符识别(ocr)、病毒和垃圾信息检测、机器翻译和自动驾驶等领域。”
最后，我们来看看对于自家推出的 paddlepaddle，李彦宏怎么说：
“经过了五六年的积累，paddlepaddle 实际上是百度深度学习算法的引擎，把源代码开放出来，让同学们、让社会上所有的年轻人能够学习，在它的基础上进行改进，我相信他们会发挥出来他们的创造力，去做到很多我们连想都没有想过的东西。”
2. 腾讯：面向企业的 “angel”
2016，鹅厂在 ai 领域展开一系列大动作：
9 月，成立 ai 实验室。
11 月，获得 sort benchmark 大赛的冠军
12 月 18 日，在腾讯大数据技术峰会暨 kdd china 技术峰会上对外公开 “angel” 的存在，并透漏它就是拿下 sort benchmark 冠军背后的天使。
（即将）在 2017 年一季度，开放 angel 源代码。
angel 将成为 paddlepaddle 之后、bat 发布的第二个重磅开源平台。那么，它到底是什么？
简单来说，angel 是面向机器学习的分布式计算框架，由鹅厂与香港科技大学、北京大学联合研发。腾讯表示，它为企业级大规模机器学习任务提供凯发k8官网登录vip的解决方案，可与 caffe、tensorflow 和 torch 等业界主流深度学习框架很好地兼容。但就雷锋网所知，它本身并不算是机器学习框架，而侧重于数据运算。
上个月 18 日的发布会上，腾讯首席数据专家蒋杰表示：
“面对腾讯快速增长的数据挖掘需求，我们希望开发一个面向机器学习的、能应对超大规模数据集的、高性能的计算框架，并且它要对用户足够友好，具有很低的使用门槛，就这样，angel 平台应运而生。”
这其中的关键词，一个是“大”规模数据，另一个是“低”使用门槛。
“大”方面，企鹅表示 angel 支持十亿级别维度的模型训练：
“angel 采用多种业界最新技术和腾讯自主研发技术，包括 ssp（stale synchronous parallel）、异步分布式 sgd、多线程参数共享模式 hogwild、网络带宽流量调度算法、计算和网络请求流水化、参数更新索引和训练数据预处理方案等。这些技术使 angel 性能大幅提高，达到 spark 的数倍到数十倍，能在千万到十亿级的特征维度条件下运行。”
“低”方面，angel 并没有采用机器学习领域标配的 python，而使用企业界程序猿最熟悉的 java，以及 scala 。企鹅声明：“在系统易用性上，angel 提供丰富的机器学习算法库及高度抽象的编程接口、数据计算和模型划分的自动方案及参数自适应配置。同时，用户能像使用 mr、spark 一样在 angel 上编程，我们还建设了拖拽式的一体化的开发运营门户，屏蔽底层系统细节，降低用户使用门槛。”
总的来讲，angel 的定位是对标 spark 。蒋杰宣称，它融合了 spark 和 petuum 的优点。“以前 spark 能跑的，现在 angel 快几十倍；以前 spark 跑不了的，angel 也能轻松跑出来。”
其实，angel 已经是鹅厂的第三代大数据计算平台。
第一代是基于 hadoop 的深度定制版本“tdw”，它的重点是“规模化”（扩展集群规模）。
第二代集成了 spark 和 storm，重点是提高速度，“实时化”。
第三代自研平台 angel，能处理超大规模数据，重点是“智能化”，专门对机器学习进行了优化。
这三代平台的演进，从使用第三方开源平台过渡到自主研发，涵盖了从数据分析到数据挖掘、从数据并行到模型并行的发展。现在 angel 已支持 gpu 运算，以及文本、语音、图像等非结构化数据。自今年初在鹅厂内部上线以来，angel 已应用于腾讯视频、腾讯社交广告及用户画像挖掘等精准推荐业务。另外，国内互联网行业开口闭口就要打造“平台”、“生态”的风气，鹅厂也完美继承：“angel 不仅仅是一个只做并行计算的平台，更是一个生态”——这种话虽然不耐听，但腾讯的大数据野心可见一斑。
12 月 18 日晚，马化腾在微信朋友圈写道：“ai 与大数据将成为未来各领域的标配，期待更多业界同行一起开源携手互助。”
但对于机器学习社区，angel 开源的意义是否如同鹅厂宣称的那样大？
对此，机器学习界的“网红”、微软研究员彭河森说道：
“对于小一点的公司和组织，spark 甚至 mysql 都已经够了(为了政治正确我提一下 postgresql)；而对于大一点真的用得上 angel 的企业，如阿里巴巴等，早就自主开发了自己的大数据处理平台。”
因此，他总结 angel 的发布是一个“很尴尬的时间和市场定位”。
彭河森
与百度 paddlepaddle 相比，angel 有一个很大的不同：它的服务对象是有大数据处理需求的企业，而不是个人开发者。可惜的是，由于 angel 尚未正式开源，大数据、机器学习同行们无法对其进行一番评头论足。目前所有的信息都来自于鹅厂的官方宣传。关于 angel 开放源代码后能在业界引发多大反响，请关注雷锋网后续报道。
最后，我们来看看蒋杰对 angel 开源意义的官方总结：
“机器学习作为人工智能的一个重要类别，正处于发展初期，开源 angel，就是开放腾讯 18 年来的海量大数据处理经验和先进技术。我们连接一切连接的资源，激发更多创意，让这个好平台逐步转化成有价值的生态系统，让企业运营更有效、产品更智能、用户体验更好。”
更多信息请看雷锋网整理的腾讯 angel 发布会实录：。
3. 阿里巴巴： 犹抱琵牌半遮面的 dtpai
但凡说到平台，就不能不提阿里。
与百度比起来，阿里的 ai 战略布局看上去更“务实”：主要是依托阿里云计算、贴近淘宝生态圈的一系列 ai 工具与服务，比如阿里小蜜。而基础研究起步较晚，相对百度和鹅厂也更低调。 2016 年阿里 ai 战略的大事件是 8 月 9 日的云栖大会，马云亲自站台发布了人工智能 et，而它的前身是阿里“小 ai ”。综合目前信息，阿里想要把 et 打造成一个多用途 ai 平台：应用于语音、图像识别，城市计算（交通），企业云计算，“新制造”，医疗健康等等领域，让人不禁联想起 ibm watson。用阿里的话来说，et 将成为“全局智能”。
但是，在开源项目方面，阿里有什么布局（马云最喜欢用这样的词）？
答案有惊喜也有失望。
好消息是，阿里早在 2015 年就宣布了数据挖据平台 dtpai （全称：data technology，the platform of ai，即数据技术—人工智能平台）。
坏消息是，那之后就没动静了。
当时，也就是 2015 年的八月，阿里宣布将为阿里云客户提供付费数据挖掘服务 dtpai。当然，对它的发布免不了大谈特谈一通“生态”、“平台”——宣称 dtpai 是“中国第一个人工智能平台”。格调定得相当高。
它有什么特点？
首先， dtpai 将集成阿里巴巴核心算法库，包括特征工程、大规模机器学习、深度学习等等。其次，与百度、腾讯一样，阿里也很重视旗下产品的易用性。阿里 odps 和 idst 产品经理韦啸表示，dtpai 支持鼠标拖拽的编程可视化，也支持模型可视化；并且广泛与 mapreduce、spark、dmlc、r 等开源技术对接。
若仅仅如此，一个阿里云的付费数据挖据工具还不会出现在这篇文章中。雷锋网真正感兴趣的是：阿里表示 dtpai “未来会提供通用的深度学习框架，它的算法库将在后期向社会开放”。
嗯，有关 dtpai 的信息到此为止。seriously，2015 年之后它就再也没消息了。阿里云是耍猴还是在憋大招？ 我们只有走着瞧。
4. 山世光：大陆学界硕果仅存的 seetaface
盘点了 bat 的开源平台规划，再来看一个始于学界的项目。与国外 ai 学界百花齐放的现状不同，大多数人从未听说过始于国内学界的机器学习开源项目，这方面几乎是空白一片——说是“几乎”，因为有中科院计算所山世光老师带领开发的人脸识别引擎 seetaface 。
山老师是我国 ai 界的学术大牛之一，2016 年下半年已经下海创业，创业后不久就公开了 seetaface。山老师的研究团队表示，开源 seetaface 是因为“该领域迄今尚无一套包括所有技术模块的、完全开源的基准人脸识别系统”。而 seetaface 将供学界和工业界免费使用，有望填补这一空白。
seetaface 基于 c ，不依赖于任何第三方的库函数。作为一套全自动人脸识别系统，它集成了三个核心模块，即：人脸检测模块（seetaface detection）、面部特征点定位模块（seetaface alignment）以及人脸特征提取与比对模块 （seetaface identification）。
该系统用单个英特尔 i7 cpu 就可运行，成功降低了人脸识别的硬件门槛。它的开源，有望帮助大量有人脸识别任务需求的公司与实验室，在它们的产品服务中接入 seetaface，大幅减少开发成本。
