RM新时代|官方理财平台

最佳國產(chǎn)邊緣部署雙子星方案！DeepSeek-R1蒸餾模型已適配SE9和SE7，代碼全開(kāi)源

SE9 —— 性?xún)r(jià)比之王，小成本大能量

支持 Deepseek 蒸餾 7B/1.5B 模型，價(jià)格親民，性?xún)r(jià)比超高！Deepseek 蒸餾 7B 最大支持 6 tokens ，蒸餾 1.5B 最大支持 21 tokens。以實(shí)惠價(jià)格，提供可靠的模型運算支持，助力中小企業(yè)與初創(chuàng )團隊開(kāi)啟 AI 創(chuàng )新之旅，小成本撬動(dòng)大未來(lái)！

SE7 —— 算力猛獸，性能王者

支持 Deepseek 蒸餾 14B/7B/1.5B 模型，超強兼容！Deepseek 蒸餾 14B 最大支持 5.56 tokens，蒸餾 7B 最大支持 10.86 tokens，蒸餾 1.5B 更可達 40.81 tokens。強大算力，讓復雜模型運算行云流水，性能卓越，為您的 AI 項目強力賦能，是追求極致性能者的理想之選！

14B、7B和1.5B三種不同參數的DeepSeek-R1蒸餾模型，在CodeForces、MATH-50、AIME2024等多項benchmark上已超越GPT-4o-0513和Claude-3.5-Sonnet-1022等模型，可滿(mǎn)足邊緣不同應用場(chǎng)景的需求。1.5B模型輕量高效、資源占用低，適用于輕量級任務(wù)，如文本生成、基礎問(wèn)答等；而7B模型則兼顧性能與效率，適用于智能對話(huà)、信息歸納、數據分析等，比如AI-NAS場(chǎng)景,至于14B模型有更強的語(yǔ)言理解能力和生成能力、邏輯推理能力，更適合專(zhuān)業(yè)領(lǐng)域應用。

模型部署演示視頻

SE9 DeepSeek-R1-Distill-Qwen模型適配情況

SE7 DeepSeek-R1-Distill-Qwen模型適配情況

部署代碼已全部開(kāi)源，歡迎大家體驗、部署：

SE9大模型下載鏈接:

https://github.com/sophgo/LLM-TPU_Lite/tree/main/models?

SE7大模型下載鏈接:?

https://github.com/sophgo/LLM-TPU/tree/main/models

SOPHON 微服務(wù)器 SE9和SE7分別搭載高集成智能視覺(jué)深度學(xué)習處理器 BM1688和BM1684X，具備高性能、低功耗、接口豐富、環(huán)境適應性強等優(yōu)勢。通過(guò)集成多樣化的深度學(xué)習算法，能夠靈活應對智慧交通、智慧商業(yè)、智慧能源等場(chǎng)景，為邊緣計算提供強大的數字化賦能。?

此外，SE9 和SE7已全面適配多款主流邊緣大模型，包括 ChatGLM3-6B、Llama2-7B、Qwen2-7B、MiniCPM-V-2.6-8B、StableDiffusion-v2.1、CLIP、Whisper 等，滿(mǎn)足多樣化 AI 應用需求。更多詳情請參考上述開(kāi)源鏈接，歡迎體驗！

點(diǎn)擊跳轉了解詳情，歡迎購買(mǎi)、部署試用：http://m.920lh.com/sophon-u/product/introduce/se9-16.html

點(diǎn)擊跳轉了解詳情，歡迎購買(mǎi)、部署試用：http://m.920lh.com/sophon-u/product/introduce/se7-32-bp1-11.html

?

?

分享到 ：

最新資訊

RM新时代|官方理财平台