器集群產(chǎn)品圖..png)
器產(chǎn)品圖.png)
器產(chǎn)品圖.png)
器產(chǎn)品圖.png)
器產(chǎn)品圖1-8080.png)
品主圖.png)
RISC-V助力融合創(chuàng )新！DeepSeek-R1蒸餾模型已適配算能RISC-V融合服務(wù)器
算能自研RISC-V開(kāi)源指令集融合服務(wù)器SRM1-20，成功適配并本地部署DeepSeek-R1-Distill-Qwen-7B/1.5B模型，為國產(chǎn)智能計算生態(tài)提供強大開(kāi)源算力支持。
模型特點(diǎn)介紹
7B和1.5B兩種不同參數的DeepSeek-R1蒸餾模型，分別適用于輕量級任務(wù)和更復雜的應用場(chǎng)景。1.5B模型輕量高效，資源占用低，適用于輕量級云服務(wù)，同時(shí)在文本生成、基礎問(wèn)答、摘要生成和代碼自動(dòng)補全等任務(wù)上具備較快的推理速度。
相比之下，7B模型在性能與效率之間取得平衡，具備更強的推理能力，在智能對話(huà)、信息歸納、數據分析等任務(wù)上表現優(yōu)異，同時(shí)可覆蓋多輪對話(huà)、代碼理解和數學(xué)推理等更復雜的NLP任務(wù)。兩種模型在 CodeForces、MATH-50、AIME2024 等多項 Benchmark 上均超越 GPT-4o-0513 和 Claude-3.5-Sonnet-1022，展現出領(lǐng)先的性能，可滿(mǎn)足不同應用需求。
?
模型交互界面
交互界面不僅能夠展示思考過(guò)程，幫助用戶(hù)理解代碼設計思路，還能提供代碼高亮以提升可讀性。
?
部署代碼開(kāi)源
為了進(jìn)一步推動(dòng)開(kāi)源生態(tài)的發(fā)展，我們不僅在RISC-V 服務(wù)器上成功部署了DeepSeek-R1蒸餾模型，還將完整的部署代碼與文檔開(kāi)源，供開(kāi)發(fā)者參考和使用。
開(kāi)源倉庫地址：
https://github.com/sophgo/sophon-demo/tree/release/sample/Qwen
我們希望借助開(kāi)源的力量，降低RISC-V生態(tài)下大模型部署的門(mén)檻。歡迎全球開(kāi)發(fā)者一起探索，共同優(yōu)化RISC-V + TPU生態(tài)，為智能計算提供更多可能性！
?
RISC-V融合服務(wù)器
RISC-V融合服務(wù)器SRM1-20為2U雙路異構服務(wù)器產(chǎn)品，搭載雙RISC-V指令集64核處理器與TPU，專(zhuān)為加速計算打造，通過(guò)高效的雙芯互聯(lián)架構，提供強大的智算能力。支持CV模型、LLM等多種深度學(xué)習模型的加速，支持多精度計算。
適用于云計算、智算中心、科學(xué)計算、創(chuàng )新架構等領(lǐng)域。其高兼容性設計與異構計算能力協(xié)同工作，為智能計算需求提供卓越支持。
下附詳情鏈接，歡迎購買(mǎi)、部署試用 :
http://m.920lh.com/sophon-u/product/introduce/srm1-20.html
?