科技博客|新聞博客 - 國內最強大的博客網站 ? 人工智能 ? 愛Linux的微軟,一手打造了深度學習開放聯盟ONNX

愛Linux的微軟,一手打造了深度學習開放聯盟ONNX

如今的微軟已經一躍成為全球市值最高的高科技公司之一。2018年11月底,微軟公司市值曾兩次超越了蘋果,成為全球市值最高的公司,之后也一直處于與蘋果膠著的狀態。市場驚嘆微軟是一家有能力改造自己并取得成功的公司!自微軟CEO薩堤亞·納德拉于2014年2月上任以來,微軟就處于穩定復蘇的狀態中,而納德拉上任之后最震驚業界的舉動之一就是對外宣布微軟愛Linux。如今,繼Linux之后,微軟更愛下一個“操作系統”:ONNX。

ONNX(Open Neural Network Exchange)是2017年9月由微軟與Facebook、AWS共同創立的開放神經網絡格式交換計劃,其目的是提高神經網絡軟件之間的互操作性,也就是可以用不同的神經網絡框架開發軟件,但經過ONNX的格式交換后就可以轉換成通用軟件運行在Windows、Linux以及蘋果OS硬件及云服務之上。ONNX吸引了AMD、ARM、NVIDIA、INTEL、高通、華為、HPE、IBM等芯片及服務器巨頭,以及百度、騰訊、阿里等互聯網巨頭,還有MathWork、CEVA、Synopsys等專業軟件和集成電路公司等20家全球企業。

2018年3月,微軟宣布將在下一個Windows版本中原生支持ONNX硬件加速功能,這把ONNX推向了上億的Windows設備,包括IoT邊緣設備、HoloLens、2合1筆記本以及桌面PC等。這意味著數據科學家和開發者用Facebook、AWS、BAT等公司的深度神經網絡框架所開發的模型,可以直接部署到上億的Windows設備中。ONNX還原生支持Linux Ubuntu虛機、Azure ML服務、Windows Server 2019虛機,并通過轉換程序連接蘋果等設備。

2018年11月26日,ONNX研討會首次來到中國。微軟項目總經理Venky Veeraraghavan在2018 ONNX中國研討會后接受采訪時表示:AI想要成功,必須要軟件和硬件兩手抓,兩手都要硬。這可以類比商用操作系統的思路:一處開發的應用軟件,可以處處運行在不同硬件上。

打通人工智能落地最后一公里

(微軟項目總經理Venky Veeraraghavan)

人工智能已經成為新一輪科技革命和產業變革的核心驅動力,正在對世界經濟、社會進步和人類生活產生深刻的影響。普化永道曾預測,由人工智能所帶來的全球GDP增長,將在2030年達到14%,即15.7萬億美元。但Gartner的2018年CIO議程調查卻顯示,全球僅有4%的CIO實施了人工智能項目,盡管還有46%的CIO已經開發了人工智能相關計劃。

換句話說,人工智能在落地方面還遇到很多挑戰,其中之一就是不同深度神經網絡框架之間缺乏互操作性。簡單理解,用一種深度神經網絡框架訓練出的模型,并不能直接用在其它神經網絡框架所支持的運行平臺(即推理平臺),例如Caffe2訓練出的模型僅能運行在Caffe2支持的硬件上,這相當于間接創造了人工智能的“孤島”。而開源的神經網絡框架都多少種呢?主流的開源神經網絡框架至少有十余種。

除了神經網絡框架之間的差異化處,神經網絡軟件如果想要運行的好,還需要與不同硬件系統之間的打磨。NVIDIA GPU、Intel CPU等都提供了神經網絡的硬件加速功能,HPE、華為、IBM等Linux和Windows服務器以及微軟的Windows設備等,都需要在芯片、板卡和操作系統及應用軟件之間進行整體優化,才能達到流暢的人工智能應用運行效果。

Venky Veeraraghavan表示:“在談到深度學習的時候,會涉及到海量的數據處理,這就意味著需要有極高速或者可加速的硬件設備。但開發者會遇到不同的硬件接口、不同的界面和不同的格式,這是很困擾的事情。ONNX在硬件和軟件之間提供了通用的語言和界面,讓硬件和應用軟件有機結合起來,運行在任何地方。”

微軟ONNX技術進展

ONNX帶來的互操作性可以讓各種開發創意更快速地投入生產環境。利用ONNX,數據科學家可以為其工作選擇最適合的框架,而開發者花費更少的時間就能訓練出適合生產環境的機器學習模型,并且將其部署到云端或者是邊緣。同時,ONNX也使得開發者能更靈活地在不同框架間切換,為不同的場景選擇最佳的深度學習模型。

目前,在多種人工智能開發框架中都能創建ONNX模型,包括PyTorch、Chainer、CNTK、MXNet、ML.Net、TensorFlow、Keras、SciKit-Learn,還在不斷增加。此外,為ONNX模型實現可視化和加速的開發工具生態系統也已初具規模,已經出現了針對典型場景預先訓練的ONNX模型。2018 年 9 月,ONNX 社區發布了 1.3 版本的模型標準。

作為ONNX的主要支持者,微軟的主流產品,包括Bing、廣告、Office、視覺服務等,后臺都開始采用ONNX格式。2018年10月,微軟發布了ONNX Runtime運行時預覽版,這是一個高性能的機器學習推理引擎,可以用最有效的方式利用各種芯片加速器,從而實現跨多種硬件平臺和設備運行神經網絡算法的結果。

相關文章

彩票快速赛车网站