RM新时代|官方理财平台

最佳國產(chǎn)邊緣部署方案！DeepSeek-R1蒸餾模型已適配SE7，代碼全開(kāi)源！

?算能微服務(wù)器SE7，已完成DeepSeek-R1-Distill-Qwen-7B/1.5B模型適配，性能強勁，為DeepSeek-R1蒸餾模型提供最佳國產(chǎn)邊緣部署方案。

模型特點(diǎn)介紹

7B和1.5B兩種不同參數的DeepSeek-R1蒸餾模型，在CodeForces、MATH-50、AIME2024等多項benchmark上已超越GPT-4o-0513和Claude-3.5-Sonnet-1022等模型，可滿(mǎn)足邊緣不同應用場(chǎng)景的需求。1.5B模型輕量高效、資源占用低，適用于輕量級任務(wù)，如文本生成、基礎問(wèn)答等；而7B模型則兼顧性能與效率，適用于智能對話(huà)、信息歸納、數據分析等。

模型部署演示視頻

模型適配情況

部署代碼全開(kāi)源

部署代碼已全部開(kāi)源，歡迎大家體驗、部署：?

https://github.com/sophgo/LLM-TPU/tree/main/models/language_model/python_demo

微服務(wù)器SE7 32-BP1系列搭載算豐第四代智能視覺(jué)深度學(xué)習處理器BM1684X，?具備高性能、低功耗、環(huán)境適應性強等特點(diǎn)，通過(guò)搭配多樣化深度學(xué)習算法，實(shí)現人臉識別、視頻結構化、行為分析、狀態(tài)監測等應用，為智慧城市、智慧交通、智慧能源、智慧金融、智慧電信、智慧工業(yè)進(jìn)行數字化賦能。同時(shí)，SE7已全面適配ChatGLM3-6B、Llama2-7B、Qwen2-7B、sdxl stablediffusion-v2.1、clip、whisper等邊緣大模型，詳情見(jiàn)上述開(kāi)源鏈接，歡迎體驗。

下附詳情鏈接，歡迎購買(mǎi)、部署試用：?

http://m.920lh.com/sophon-u/product/introduce/se7-32-bp1-11.html

分享到 ：

最新資訊

RM新时代|官方理财平台