本課程介紹了硬件電路的設計和基本環(huán)境的搭建,并提供了一些簡(jiǎn)單的開(kāi)發(fā)示例和一些基本的深度學(xué)習示例。
Milk-V Duo是基于CV1800B的超小型嵌入式開(kāi)發(fā)平臺。它體積小,功能全面,配備雙核,可以分別運行linux和rtos系統,并具有各種可連接的外設。

課程特點(diǎn):
課程目錄

完成本課程后,學(xué)生將具備以下能力:
深度學(xué)習愛(ài)好者,有linux開(kāi)發(fā)經(jīng)驗
作為框架和硬件之間的橋梁,深度學(xué)習編譯器可以實(shí)現一次性代碼開(kāi)發(fā)和重用各種計算能力處理器的目標。最近,算能也開(kāi)源了自己開(kāi)發(fā)的TPU編譯工具——TPU-MLIR (Multi-Level Intermediate Representation)。TPU-MLIR是一個(gè)面向深度學(xué)習處理器的開(kāi)源TPU編譯器。該項目提供了完整的工具鏈,將各種框架下預訓練的神經(jīng)網(wǎng)絡(luò )轉換為可在TPU中高效運行的二進(jìn)制文件bmodel,以實(shí)現更高效的推理。本課程以實(shí)際實(shí)踐為驅動(dòng),引導您直觀(guān)地理解、實(shí)踐、掌握智能深度學(xué)習處理器的TPU編譯框架。
目前,TPU-MLIR項目已應用于算能開(kāi)發(fā)的最新一代深度學(xué)習處理器BM1684X。結合處理器本身的高性能ARM內核以及相應的SDK,可以實(shí)現深度學(xué)習算法的快速部署。本課程將介紹MLIR的基本語(yǔ)法,以及編譯器中各種優(yōu)化操作的實(shí)現細節,如圖形優(yōu)化、int8量化、算子分割、地址分配等。
與其他編譯工具相比,TPU-MLIR有幾個(gè)優(yōu)點(diǎn)
1. 簡(jiǎn)單方便
通過(guò)閱讀開(kāi)發(fā)手冊和項目中包含的示例,用戶(hù)可以了解模型轉換的過(guò)程和原理,并快速入門(mén)。此外,TPU-MLIR是基于當前主流編譯工具庫MLIR設計的,用戶(hù)也可以通過(guò)它了解MLIR的應用。本項目提供了一套完整的工具鏈,用戶(hù)可直接通過(guò)現有接口快速完成模型轉換工作,無(wú)需適應不同的網(wǎng)絡(luò )。
2. 通用性
目前,TPU- mlir已經(jīng)支持TFLite和onnx兩種格式,這兩種格式的模型可以直接轉換為T(mén)PU可用的bmodel。如果不是這兩種格式呢?事實(shí)上,onnx提供了一套轉換工具,可以將目前市場(chǎng)上主要的深度學(xué)習框架編寫(xiě)的模型轉換為onnx格式,然后再進(jìn)行bmodel轉換。
3、精度與效率并存
在模型轉換過(guò)程中,有時(shí)會(huì )失去精度。TPU-MLIR支持INT8對稱(chēng)和非對稱(chēng)量化,結合原開(kāi)發(fā)公司的校準和tune技術(shù),大大提高了性能,保證了模型的高精度。此外,TPU-MLIR還使用了大量的圖優(yōu)化和算子分割優(yōu)化技術(shù)來(lái)保證模型的高效運行。
4. 實(shí)現終極性?xún)r(jià)比,構建下一代深度學(xué)習編譯器
為了支持圖形化計算,神經(jīng)網(wǎng)絡(luò )模型中的算子需要開(kāi)發(fā)圖形化版本;為了適應TPU,應該為每個(gè)運營(yíng)商開(kāi)發(fā)一個(gè)版本的TPU。此外,有些場(chǎng)景需要適應相同計算能力處理器的不同型號,每次都必須手工編譯,這將非常耗時(shí)。深度學(xué)習編譯器就是用來(lái)解決這些問(wèn)題的。TPU-mlir的一系列自動(dòng)優(yōu)化工具可以節省大量的人工優(yōu)化時(shí)間,因此在RISC-V上開(kāi)發(fā)的模型可以順利自由地移植到TPU上,以獲得最佳的性能和性?xún)r(jià)比。
5. 完整的信息
課程包括中英文視頻教學(xué)、文檔指導、代碼腳本等,詳實(shí)豐富的視頻資料詳細應用指導清晰的代碼腳本TPU-MLIR站在MLIR巨頭的肩膀上打造,現在整個(gè)項目的所有代碼都已經(jīng)開(kāi)源,免費向所有用戶(hù)開(kāi)放。
代碼下載鏈接:https://github.com/sophgo/tpu-mlir
tpu - mlir開(kāi)發(fā)參考手冊:https://tpumlir.org/docs/developer_manual/01_introduction.html
總體設計思想論文:https://arxiv.org/abs/2210.15016
視頻教程:https://space.bilibili.com/1829795304/channel/collectiondetail?sid=734875
課程目錄
| 序號 | 課程名 | 課程分類(lèi) | 課程資料 | ||
| ? | ? | ? | 視頻 | 文檔 | 代碼 |
| 1.1 | Deep learning編譯器基礎 | TPU_MLIR基礎 | √ | √ | √ |
| 1.2 | MLIR基礎 | TPU_MLIR基礎 | √ | √ | √ |
| 1.3 | MLIR基本結構 | TPU_MLIR基礎 | √ | √ | √ |
| 1.4 | MLIR之op定義 | TPU_MLIR基礎 | √ | √ | √ |
| 1.5 | TPU_MLIR介紹(一) | TPU_MLIR基礎 | √ | √ | √ |
| 1.6 | TPU_MLIR介紹(二) | TPU_MLIR基礎 | √ | √ | √ |
| 1.7 | TPU_MLIR介紹(三) | TPU_MLIR基礎 | √ | √ | √ |
| 1.8 | 量化概述 | TPU_MLIR基礎 | √ | √ | √ |
| 1.9 | 量化推導 | TPU_MLIR基礎 | √ | √ | √ |
| 1.10? | 量化校準 | TPU_MLIR基礎 | √ | √ | √ |
| 1.11 | 量化感知訓練(一) | TPU_MLIR基礎 | √ | √ | √ |
| 1.12? | 量化感知訓練(二) | TPU_MLIR基礎 | √ | √ | √ |
| 2.1 | Pattern Rewriting | TPU_MLIR實(shí)戰 | √ | √ | √ |
| 2.2 | Dialect Conversion | TPU_MLIR實(shí)戰 | √ | √ | √ |
| 2.3 | 前端轉換 | TPU_MLIR實(shí)戰 | √ | √ | √ |
| 2.4 | Lowering in TPU_MLIR | TPU_MLIR實(shí)戰 | √ | √ | √ |
| 2.5 | 添加新算子 | TPU_MLIR實(shí)戰 | √ | √ | √ |
| 2.6 | TPU_MLIR圖優(yōu)化 | TPU_MLIR實(shí)戰 | √ | √ | √ |
| 2.7 | TPU_MLIR常用操作 | TPU_MLIR實(shí)戰 | √ | √ | √ |
| 2.8 | TPU原理(一) | TPU_MLIR實(shí)戰 | √ | √ | √ |
| 2.9 | TPU原理(二) | TPU_MLIR實(shí)戰 | √ | √ | √ |
| 2.10? | 后端算子實(shí)現 | TPU_MLIR實(shí)戰 | √ | √ | √ |
| 2.11 | TPU層優(yōu)化 | TPU_MLIR實(shí)戰 | √ | √ | √ |
| 2.12 | bmodel生成 | TPU_MLIR實(shí)戰 | √ | √ | √ |
| 2.13 | To ONNX format | TPU_MLIR實(shí)戰 | √ | √ | √ |
| 2.14 | Add a New Operator | TPU_MLIR實(shí)戰 | √ | √ | √ |
| 2.15 | TPU_MLIR模型適配 | TPU_MLIR實(shí)戰 | √ | √ | √ |
| 2.16 | Fuse Preprocess | TPU_MLIR實(shí)戰 | √ | √ | √ |
| 2.17 | 精度驗證 | TPU_MLIR實(shí)戰 | √ | √ | √ |
?
本課程介紹了硬件電路的設計和基本環(huán)境的搭建,并提供了一些簡(jiǎn)單的開(kāi)發(fā)示例和一些基本的深度學(xué)習示例。
Milk-V Duo是基于CV1800B的超小型嵌入式開(kāi)發(fā)平臺。它體積小,功能全面,配備雙核,可以分別運行linux和rtos系統,并具有各種可連接的外設。

課程特點(diǎn):
課程目錄

深度神經(jīng)網(wǎng)絡(luò )模型可以快速訓練和測試,然后由行業(yè)部署,在現實(shí)世界中有效地執行任務(wù)。在小型、低功耗的深度學(xué)習邊緣計算平臺上部署這樣的系統受到業(yè)界的高度青睞。本課程采用實(shí)踐驅動(dòng)的方法,引導你直觀(guān)地學(xué)習、實(shí)踐和掌握深度神經(jīng)網(wǎng)絡(luò )的知識和技術(shù)。
SOPHON深度學(xué)習微服務(wù)器SE5是采用SOPHON自主研發(fā)的第三代TPU處理器BM1684的高性能、低功耗邊緣計算產(chǎn)品。INT8運算能力高達17.6 TOPS,支持32路全高清視頻硬件解碼和2路編碼。本課程將快速引導您了解SE5服務(wù)器的強大功能。通過(guò)本課程,您可以了解深度學(xué)習的基礎知識并掌握其基本應用。

課程的特點(diǎn)
1. 一站式服務(wù)
?在SE5應用程序中遇到的所有常見(jiàn)問(wèn)題都可以在這里找到。
2. 系統的教學(xué)
它包括設置環(huán)境、開(kāi)發(fā)應用程序、轉換模型和部署產(chǎn)品,以及擁有鏡像的實(shí)際環(huán)境等所有內容。
3. 完整的材料
本課程包括視頻教程、文檔指南、代碼腳本和其他綜合材料。
4. 免費的云開(kāi)發(fā)資源
在線(xiàn)免費申請使用SE5-16微服務(wù)器云測試空間
?