微軟Facebook聯(lián)手發(fā)布AI生態(tài)系統(tǒng)，推出開(kāi)放神經(jīng)網(wǎng)絡(luò)交換格式
微軟Facebook聯(lián)手發(fā)布AI生態(tài)系統(tǒng)，推出OpenNeuralNetworkExchange（ONNX，開(kāi)放神經(jīng)網(wǎng)絡(luò)交換）格式，這是一個(gè)用于表示深度學(xué)習(xí)模型的標(biāo)準(zhǔn)，可使模型在不同框架之間進(jìn)行轉(zhuǎn)移。ONNX是邁向開(kāi)放生態(tài)系統(tǒng)的第一步，AI開(kāi)發(fā)人員可以輕松地在最先進(jìn)的工具之間轉(zhuǎn)換，并選擇最適合他們的組合。但是，現(xiàn)在系統(tǒng)支持的框架只有Caffe2，PyTorch和CognitiveToolkit，谷歌的TensorFlow并沒(méi)有被包含在內(nèi)。在TensorFlow的市場(chǎng)份額迅猛增長(zhǎng)的當(dāng)下，兩家企業(yè)的聯(lián)手，似乎有特別的意味。
Facebook和微軟宣布，推出OpenNeuralNetworkExchange（ONNX，開(kāi)放神經(jīng)網(wǎng)絡(luò)交換）格式，庫(kù)卡機(jī)器人何服電機(jī)維修，這是一個(gè)用于表示深度學(xué)習(xí)模型的標(biāo)準(zhǔn)，可使模型在不同框架之間進(jìn)行轉(zhuǎn)移。ONNX是邁向開(kāi)放生態(tài)系統(tǒng)的第一步，AI開(kāi)發(fā)人員可以輕松地在最先進(jìn)的工具之間轉(zhuǎn)換，并選擇最適合他們的組合。
以下是Facebook、微軟官方博客的介紹：
在開(kāi)發(fā)學(xué)習(xí)模型時(shí)，工程師和研究人員有許多AI框架可以選擇。在項(xiàng)目開(kāi)始時(shí)，開(kāi)發(fā)人員必須選擇對(duì)應(yīng)一個(gè)框架的特征（features）。很多時(shí)候，在研發(fā)過(guò)程中進(jìn)行實(shí)驗(yàn)時(shí)選擇的feature與生產(chǎn)所需的feature是不一致的。許多組織都沒(méi)有很好的方法來(lái)消除這些操作模式之間的差距，只有采取一系列創(chuàng)造性的解決辦法來(lái)應(yīng)對(duì)，例如要求研究人員在生產(chǎn)系統(tǒng)中工作或人工翻譯模型。
Facebook與微軟一起開(kāi)發(fā)了ONNX，以彌合這一差距，讓AI開(kāi)發(fā)人員可以選擇符合項(xiàng)目當(dāng)前階段的框架，并隨著項(xiàng)目的發(fā)展輕松切換框架。Caffe2，PyTorch和CognitiveToolkit將在9月份發(fā)布對(duì)ONNX的支持，這將允許在其中一個(gè)框架訓(xùn)練的模型導(dǎo)出到另一個(gè)框架來(lái)進(jìn)行推理。我們邀請(qǐng)社區(qū)加入這一努力，并在其生態(tài)系統(tǒng)中支持ONNX。實(shí)現(xiàn)不同框架之間的相互操作性，簡(jiǎn)化從研究到生產(chǎn)的過(guò)程，將有助于提高AI社區(qū)創(chuàng)新的速度。
ONNX在Facebook內(nèi)部使用
ONNX是Facebook深度學(xué)習(xí)方法的重要組成部分。在Facebook的AI團(tuán)隊(duì)（FAIR和AML）中，我們不斷嘗試推動(dòng)AI的前沿研究，開(kāi)發(fā)更好的學(xué)習(xí)算法。當(dāng)我們得到一個(gè)突破時(shí)，我們希望盡快在應(yīng)用中提供更好的技術(shù)。通過(guò)ONNX，我們專(zhuān)注于將AI研究和產(chǎn)品實(shí)現(xiàn)更緊密地結(jié)合在一起，從而更快地進(jìn)行創(chuàng)新和部署。
嘗試新模型的人們，特別是研究人員，希望在編寫(xiě)神經(jīng)網(wǎng)絡(luò)時(shí)擁有最大的靈活性和表現(xiàn)力從動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)到支持梯度漸變（gradientsofgradients），同時(shí)保持基本的ConvNet性能。研究人員也想實(shí)現(xiàn)快速迭代，這意味著他們需要優(yōu)秀的交互式開(kāi)發(fā)和調(diào)試工具。PyTorch旨在突破研究框架的局限，使研究人員免受平臺(tái)的限制，讓他們能夠比以前更容易地表達(dá)想法。
相反，產(chǎn)品流程每天都需要對(duì)大量新的數(shù)據(jù)進(jìn)行訓(xùn)練和推理，同時(shí)保持模型大部分不變。仔細(xì)優(yōu)化產(chǎn)品的特定模型的代碼，例如通過(guò)量化和仔細(xì)編寫(xiě)人工調(diào)整的代碼（hand-tunedcode）之類(lèi)的技巧節(jié)省資源。Caffe2已經(jīng)在產(chǎn)品、移動(dòng)和極端考慮性能的情況構(gòu)建起來(lái)。Caffe2的內(nèi)部靈活而且高度優(yōu)化，所以我們可以利用技巧將更大更好的模型部署到性能不足的硬件中。
通過(guò)ONNX，我們可以在這兩個(gè)方面獲得最優(yōu)。我們現(xiàn)在可以從PyTorch導(dǎo)出許多常見(jiàn)神經(jīng)網(wǎng)絡(luò)的模型，并將它們部署在Caffe2上。這是將最新的研究成果快速推向生產(chǎn)的第一步。在接下來(lái)的幾個(gè)月中，我們將加強(qiáng)ONNX，并對(duì)Caffe2和PyTorch進(jìn)行改進(jìn)，使其能夠更深入地互通。
怎么運(yùn)行
為了實(shí)現(xiàn)ONNX支持，我們必須對(duì)PyTorch和Caffe2進(jìn)行更改，并且在框架之間統(tǒng)一運(yùn)算符。在Caffe2中，這個(gè)過(guò)程類(lèi)似于添加一個(gè)翻譯器，因?yàn)镃affe2已經(jīng)有一個(gè)內(nèi)置的靜態(tài)圖。在PyTorch中，神經(jīng)網(wǎng)絡(luò)是被定義為程序而不是顯式圖，因此這帶來(lái)了更大的挑戰(zhàn)。為了從程序中提取圖，我們開(kāi)發(fā)了一個(gè)跟蹤器，將運(yùn)行時(shí)程序執(zhí)行的操作記錄下來(lái)。跟蹤程序消除了復(fù)雜性，并使其更容易轉(zhuǎn)換為圖表示。
要了解它是如何工作的，看以下代碼：
x=y*2
ifsomeComplicatedFunction（）：z=x+y
else:z=x*y
要直接導(dǎo)出此代碼，ONNX將不得不支持conditionals和某些復(fù)雜函數(shù)someComplicatedFunction（）；實(shí)際上成了通用編程語(yǔ)言。然而，在許多深度學(xué)習(xí)模型中，someComplicatedFunction（）的結(jié)果在推理過(guò)程中總是相同的。例如，在PyTorch條件中，通常是對(duì)輸入張量的大小或尺寸進(jìn)行的一些計(jì)算。在這些情況下，通過(guò)代碼的單一跟蹤將會(huì)更簡(jiǎn)單，并且可以輕松地在ONNX中表示為：
#someComplicatedFunction（）==True
x=y*2z=x+y
目前，我們的tracer能與許多常見(jiàn)的神經(jīng)網(wǎng)絡(luò)配合使用，但PyTorch中一些更先進(jìn)的程序，比如有動(dòng)態(tài)流控制（dynamicflowcontrol）的程序還不行。隨著時(shí)間的推移，我們將完善ONNX和tracer來(lái)支持這些程序，讓開(kāi)發(fā)人員可以充分利用PyTorch的靈活性與Caffe2的高性能強(qiáng)大部署功能。
微軟：ONNX表征具有框架互操作性和共享優(yōu)化兩大優(yōu)點(diǎn)
在Facebook發(fā)布博客的同時(shí)，微軟也發(fā)布了題為《微軟和Facebook為AI模型的互操作性構(gòu)建開(kāi)放生態(tài)系統(tǒng)》的博客。在博客中，微軟表示：
微軟給大家做出的承諾是人人有機(jī)會(huì)更方便，更有價(jià)值。我們提供各種平臺(tái)和工具來(lái)促進(jìn)這一點(diǎn)，包括我們的認(rèn)知工具包，一個(gè)構(gòu)建深層神經(jīng)網(wǎng)絡(luò)的開(kāi)源框架。我們還與其他分享我們觀點(diǎn)的組織合作，幫助AI社區(qū)。
今天，我們高興地宣布，工業(yè)機(jī)器人維修，微軟和Facebook一起推出OpenNeuralNetworkExchange（ONNX，開(kāi)放神經(jīng)網(wǎng)絡(luò)交換）格式。ONNX為AI框架生態(tài)系統(tǒng)中的互操作性和創(chuàng)新提供了共享的模型表征。CognitiveToolkit，Caffe2和PyTorch都將支持ONNX。微軟和Facebook共同開(kāi)發(fā)了ONNX這一開(kāi)源項(xiàng)目，并希望社區(qū)能夠幫助其不斷進(jìn)化。
什么是ONNX表征？
CognitiveToolkit和其他框架提供了使開(kāi)發(fā)人員更容易構(gòu)建和運(yùn)行表征神經(jīng)網(wǎng)絡(luò)的計(jì)算圖的界面。雖然提供的功能類(lèi)似，但是今天的每個(gè)框架都有自己表征這些圖的格式。ONNX表征有以下主要優(yōu)點(diǎn)：
1.框架互操作性
開(kāi)發(fā)人員可以更輕松地在框架間轉(zhuǎn)換，并為手頭的任務(wù)選擇最佳工具。每個(gè)框架都針對(duì)具體特性進(jìn)行了優(yōu)化，如快速訓(xùn)練，支持靈活的網(wǎng)絡(luò)架構(gòu)，在移動(dòng)端進(jìn)行推理等等。許多時(shí)候，研發(fā)過(guò)程中最重要的特性與生產(chǎn)環(huán)節(jié)最重要的特性是不同的。這導(dǎo)致開(kāi)發(fā)人員在框架之間進(jìn)行模型轉(zhuǎn)換時(shí)，會(huì)因框架使用不正確或明顯延遲而使得效率降低。使用ONNX表征的框架簡(jiǎn)化了這一點(diǎn)，www.tka.net.cn，使得開(kāi)發(fā)人員更加靈活。
2.共享優(yōu)化
硬件供應(yīng)商和其他改進(jìn)神經(jīng)網(wǎng)絡(luò)性能的優(yōu)化可以通過(guò)定位ONNX表征來(lái)同時(shí)影響多個(gè)框架。優(yōu)化經(jīng)常需要被分別整合進(jìn)入每個(gè)框架，這一過(guò)程很費(fèi)時(shí)間。ONNX表征使得優(yōu)化更容易實(shí)現(xiàn)，從而覆蓋更多開(kāi)發(fā)人員。
技術(shù)總結(jié)
ONNX提供了可擴(kuò)展計(jì)算圖模型的定義，以及內(nèi)置operators和標(biāo)準(zhǔn)數(shù)據(jù)類(lèi)型的定義。起初我們專(zhuān)注于推理（評(píng)價(jià)）所需的能力。
每個(gè)計(jì)算數(shù)據(jù)流圖被構(gòu)造為形成非循環(huán)圖的節(jié)點(diǎn)列表。節(jié)點(diǎn)具有一個(gè)或多個(gè)輸入和一個(gè)或多個(gè)輸出。每個(gè)節(jié)點(diǎn)是對(duì)operators的調(diào)用。
可用性