騰訊Angel平臺

騰訊Angel是騰訊發(fā)布一款開源高性能分布式計算平臺，可以更加高速精確的處理數據材料，其能力超過各類同行軟件，如果你有興趣，就來綠色資源網下載，學習源碼吧！

騰訊Angel官網介紹

騰訊Angel 1.0是騰訊數據平臺部與香港科技大學合作、北京大學參與共同開發(fā)的分布式計算框架，它的主要設計目標是為了支持超大維度的機器學習模型運算。

高性能分布式計算平臺Angel功能特色

【網絡優(yōu)化】

Angel的網絡解決方案使用的是香港科技大學的Chukonu。借助Chukonu，Angel可以通過網絡流量再分配的方式，解決半同步的運算協(xié)調機制SSP中可能出現的快節(jié)點等待慢節(jié)點的問題，減少了窗口空閑等待時間。

【整體架構】

Angel的整體架構參考了谷歌的DistBelief，這是一種最初為了深度學習而設計、使用了參數服務器來解決巨大模型在訓練時更新問題的架構。參數服務器同樣可用于機器學習中非深度學習的模型，如SGD、ADMM、LBFGS的優(yōu)化算法在面臨在每輪迭代上億個參數更新的場景中，需要參數分布式緩存來拓展性能。

Angel 1.0軟件優(yōu)點

1.Angel的核心設計理念圍繞模型。它將高維度的大模型切分到多個參數服務器節(jié)點，并通過高效的模型更新接口和運算函數，以及靈活的同步協(xié)議，實現機器學習算法的高效運行

2.Angel基于Java和Scala開發(fā)，能在社區(qū)的Yarn上直接調度運行，并基于PS Service，支持Spark on Angel，未來將會支持圖計算和深度學習框架集成。

3.Angel采用的Parameter Sever架構相比其它類型的架構更適合解決巨大模型中的參數更新問題；實際運行中相比參數更新方面有單點瓶頸的Spark平臺，Angel能夠取得成倍的性能優(yōu)勢，而且模型越大優(yōu)勢越明顯。

4.騰訊開源的Angel給頭疼于大規(guī)模機器學習模型計算的業(yè)內人員提供了一個新選擇。發(fā)展自己技術、擴大自己的平臺的同時，騰訊也承諾未來的開源力度只會越來越大。

5.圍繞Angel，騰訊還建立了一個小生態(tài)圈，可以支持Spark之上的MLLib，支持上億的維度的訓練；也支持更復雜的圖計算模型。

相關新聞

去年Angel發(fā)布時，騰訊平臺部總經理、首席數據專家蔣杰對騰訊計算平臺的發(fā)展歷程做過介紹。2009到2011年的第一代平臺主要目標是規(guī)?；纬闪薚DW（騰訊分布式數據倉庫）這樣的架構；2012到2014年第二代平臺主要是實時化，把大規(guī)模計算搬到平臺上，支持了實時性強、規(guī)模大的業(yè)務需求，但是基于Spark的數據訓練就遇到了超大維度時出現瓶頸的問題。

這樣，騰訊開始建設新的高性能計算框架，要能支持超大規(guī)模數據集，能完成十億級別維度的訓練。這就是騰訊的第三臺計算平臺Angel。圍繞Angel，騰訊還建立了一個小生態(tài)圈，可以支持Spark之上的MLLib，支持上億的維度的訓練；也支持更復雜的圖計算模型。

也就是依靠Angel，騰訊獲得了2016年的Sort benchmark的排序的4項冠軍，用98.8秒時間完成了100T數據的排序，刷新了四項世界紀錄。2015年的這項排序時間還高達329秒。