器集群產(chǎn)品圖..png)
器產(chǎn)品圖.png)
器產(chǎn)品圖.png)
器產(chǎn)品圖.png)
器產(chǎn)品圖1-8080.png)
品主圖.png)
算能開(kāi)源工具鏈上新，深度學(xué)習編譯器TPU-MLIR登陸GitLink
?
近期，算能開(kāi)源了編譯器項目TPU-MLIR，并同步至GitLink平臺，成為社區首個(gè)基于MLIR的開(kāi)源項目。
兼容ONNX一次編寫(xiě)多處復用，算能編譯器開(kāi)源
TPU-MLIR是一個(gè)專(zhuān)注于處理器的TPU編譯器開(kāi)源工程，提供了一套完整的工具鏈，可以將不同框架下預訓練過(guò)的深度學(xué)習模型，轉化為可以在TPU上運行的二進(jìn)制文件bmodel，從而實(shí)現更高效的推理。
?
處理器出來(lái)之前，做框架的主要圍繞處理器、Graphic做，自行開(kāi)發(fā)kernel、調用cudnn就能解決框架和處理器的對接問(wèn)題，隨著(zhù)處理器架構越來(lái)越多樣，對編譯器的需求也開(kāi)始增多。MLIR為處理器提供了一個(gè)通用、可復用的編譯器框架，可以解決軟件碎片化、降低異構硬件的編譯成本。
編譯器作為軟硬件連接的橋梁，上承算法，下接指令集，在處理器領(lǐng)域發(fā)揮著(zhù)關(guān)鍵作用，編譯優(yōu)化的好，就能充分挖掘出算力硬件的性能。但編譯器的設計開(kāi)發(fā)需要高水平的計算機架構和算法知識，是一個(gè)非常復雜的工程，需要借助開(kāi)源社區的力量，才能不斷壯大。
在MLIR出現之前，微軟和FaceBook提出了一種IR（中間表示）叫ONNX，它有一套標準化的算子格式，可以將PyTorch，TensorFlow等框架編寫(xiě)的計算圖轉換成統一的ONNX格式進(jìn)行存儲，如果算力硬件都支持ONNX，那編譯問(wèn)題不就迎刃而解了？
?
但事實(shí)上因為ONNX IR的數量太多或者改動(dòng)頻繁，沒(méi)有一個(gè)統一的表示，讓開(kāi)發(fā)者很頭疼，MLIR就是為了解決這些問(wèn)題，打造一套可重用和可擴展的工具鏈，而不是去維護大量的IR，TPU-MLIR在MLIR的基礎上更進(jìn)一步，適配了不同型號的TPU設備，同時(shí)也兼容了ONNX格式的模型，可實(shí)現一次編寫(xiě)代碼多處復用。
登陸開(kāi)源社區GitLink，TPU-MLIR開(kāi)發(fā)者生態(tài)初現
TPU-MLIR目前已經(jīng)同步在GitHub、Gitee、Gitlink等開(kāi)源項目托管平臺上，讓全球開(kāi)發(fā)者都能方便地獲取，同時(shí)也為有志于編譯技術(shù)優(yōu)化的開(kāi)發(fā)者提供了實(shí)戰的機會(huì )。
Github為全球的開(kāi)源事業(yè)做出了很大的貢獻，TensorFlow、PyTorch等框架都是在Github積聚了大量的開(kāi)發(fā)者從而不斷壯大，但是被微軟收購后，有些國家在Github上的項目突然被卡甚至下架的情況偶有發(fā)生，獨立性一度受到開(kāi)源社區的質(zhì)疑。
伴隨著(zhù)Gitlink等國產(chǎn)開(kāi)源社區的逐漸成熟，很多項目也開(kāi)始托管在Gitlink上。GitLink（確實(shí)開(kāi)源）是中國計算機協(xié)會(huì )CCF官方指定的開(kāi)源創(chuàng )新服務(wù)平臺，以“成為開(kāi)源創(chuàng )新的匯聚地”為愿景，致力于打造創(chuàng )新成果孵化和新工科人才培養的開(kāi)源創(chuàng )新生態(tài)！
2008年，國防科技大學(xué)、北京大學(xué)、北京航空航天大學(xué)、中國科學(xué)院軟件研究所等單位合作開(kāi)展了基于網(wǎng)絡(luò )的軟件開(kāi)發(fā)群體化方法與技術(shù)研究，并發(fā)布了可信的國家軟件資源共享與協(xié)同生產(chǎn)環(huán)境（簡(jiǎn)稱(chēng)“Trustie v1.0”，中文簡(jiǎn)稱(chēng)“確實(shí)”），重點(diǎn)解決大規模軟件協(xié)同開(kāi)發(fā)、可信評估、運行監控和持續演化等問(wèn)題。
2014年發(fā)布了面向軟件創(chuàng )新和教育的開(kāi)源社區Trustie v2.0，重點(diǎn)探索協(xié)作開(kāi)發(fā)社區、知識分享社區、應用服務(wù)社區等“大外圍”軟件涉眾的聯(lián)接。2020年，在中國計算機學(xué)會(huì )（CCF）的帶領(lǐng)指導下，Trustie升級形成了新一代開(kāi)源創(chuàng )新服務(wù)平臺GitLink，推動(dòng)開(kāi)源創(chuàng )新成果開(kāi)放與共享。
TPU-MLIR作為首個(gè)登陸GitLink的MLIR項目，填補了社區編譯器領(lǐng)域的空白，將為開(kāi)發(fā)者們注入新的活力。
?
?