原標題:OpenAI 將完全遷移到 Facebook的Pytorch 機器學習框架! 來源:云頭條
OpenAI今天宣布其未來的項目將遷移到Facebook的PyTorch機器學習框架,回避了谷歌日漸老邁的TensorFlow平臺,這可以視作是這個社交網絡巨頭取得的勝利。
OpenAI是總部位于舊金山的AI研究公司,由首席技術官Greg Brockman、首席科學家Ilya Sutskever、Elon Musk及其他人共同創辦,并得到linkedIn聯合創始人Reid Hoffman和Y Combinator前總裁Sam Altman等知名人士的支持。該公司在一篇博文中提到PyTorch的效率、可擴展性和采用率是決定改弦易轍的幾個原因。
該公司在一份聲明中說:“我們現統一使用PyTorch作為OpenAI的深度學習框架。在過去,我們根據各種框架的相對優點決定項目使用何種框架。現在我們決定統一采用PyTorch,以便我們的團隊更容易創建和共享經過優化的模型。展望未來,我們將主要使用PyTorch作為我們的深度學習框架,但有時會因特定的技術原因而使用其他框架。我們很高興能加入一個迅速壯大的開發者社區(包括Facebook和微軟等企業組織),共同提升規模和性能。”
OpenAI表示,它的許多團隊已經將工作遷移到PyTorch上,會在今后幾個月為PyTorch社區做出貢獻。此外該公司表示,計劃在2020年初提供PyTorch方面的Spinning Up in Deep RL教學資源,此后打算研究利用數據并行訓練擴展AI系統、利用模型可解釋性直觀顯示那些系統,并建立通用的機器人框架。(OpenAI正在為其高度優化的blockparse內核編寫PyTorch綁定代碼,表示會在今后幾個月內開源那些綁定代碼。)
Facebook于2016年10月公開發布的PyTorch是一個基于Torch的開源機器學習庫,Torch是一種科學計算框架和腳本語言,而這種語言又基于Lua編程語言。從2018年3月開始,PyTorch合并了Caffe2,這種深度學習工具集由加利福尼亞大學伯克利分校的研究人員率先開發,并由Facebook的AI研究實驗室進一步開發。
雖然TensorFlow的歷史要久一點(自2015年11月問世),但PyTorch繼續在數據科學和開發者社區迅速受到追捧。據GitHub的2018年Octoverse報告顯示,PyTorch在過去12個月成為增長速度最快的開源項目之一。Facebook最近透露,2019年,為該平臺貢獻代碼的人數同比猛增50%以上,達到近1200人。The Gradient網站進行的分析發現,2019年的各大AI會議上展示的絕大多數論文提到的技術是用PyTorch實現的。O Reilly特別指出,單單在2019年上半年,PyTorch在論文中的引用率劇增了194%以上。
許多領先的機器學習軟件項目都建立在PyTorch的基礎上,包括優步的Pyro和HuggingFace的Transformers,這不足為奇。軟件開發商Preferred Networks最近加入了這個行列,承諾在不久的將來從其定制的AI開發框架Chainer遷移到PyTorch。