SOPHON SG2380:AIPC的新選擇
2023年是大語(yǔ)言模型(LLM)蓬勃發(fā)展、百家爭鳴的一年。大語(yǔ)言模型驅動(dòng)的行業(yè)浪潮,推動(dòng)了架構設計、交互方式、應用生態(tài)和內容端等的創(chuàng )新。在以ChatGPT、Midjourney為代表的C端大模型應用崛起標志著(zhù)深度學(xué)習技術(shù)邁向了一個(gè)新的階段,特別在LLaMA、Stable Diffusion等系列開(kāi)放模型出現后,越來(lái)越多產(chǎn)品開(kāi)始集成LLM,提供各種生成式智能(GenAI)應用,開(kāi)啟了一種新的人機交互范式。
?
首先開(kāi)始轉變的就是工具類(lèi)軟件,比如音視頻編輯、辦公軟件等。本地運行的軟件對LLM的集成,這也意味著(zhù)模型的推理不僅僅需要云端,也需要端側設備的助力。
AIPC則有望成為首個(gè)大規模實(shí)際應用的GenAI終端。AIPC是一種新型的PC形態(tài),是集成了智能引擎的PC,具備對語(yǔ)音和圖像信息的智能感知能力。
算能在2023年10月,和SiFive、Imagination等合作伙伴一起發(fā)布了SG2380——一款為AIPC設計的高性能RISC-V SoC。
?
SG2380 代號綠洲(Oasis),代表著(zhù)希望
SG2380配備16核SiFive RISC-V P670處理器,融合了12個(gè)大核心和4個(gè)小核心,完美平衡了高性能和能效。在圖形和多媒體部分,另外還配備了Imagination AXT-16-512圖形處理器以及支持眾多編碼格式的視頻編解碼器,為用戶(hù)提供了極致的多媒體體驗。圖形處理器專(zhuān)為滿(mǎn)足高端移動(dòng)游戲、快速照片編輯以及流暢用戶(hù)界面而設計,支持Vulkan 1.3,OpenGL ES 3.3/2.0/1.1及擴展和OpenCL3.0。在多媒體處理領(lǐng)域,SG2380同樣表現出色。它先進(jìn)的視頻解碼器支持最高8192x4320的分辨率,確保高清視頻播放流暢且沉浸。無(wú)論是專(zhuān)業(yè)內容創(chuàng )作還是流媒體最新的4K電影,SG2380都提供了無(wú)與倫比的視覺(jué)忠實(shí)度。
GenAI對算力的巨大需求呼喚著(zhù)專(zhuān)門(mén)的硬件,SG2380的4核SiFive X280 + SOPHON TPU(張量處理單元)正是為此而生。高達32TOPs@INT8和16TFLOPs@FP16的TPU,旨在加速GenAI計算,使得自然語(yǔ)言處理、圖片生成、文本生成等機器學(xué)習任務(wù)不僅成為可能,而且異??焖俸透咝?。而且提供了256位DDR接口,支持高達128GB的內存,以及200GB/s的速率,還有包括PCIe Gen4和USB 3.2Gen2在內的多樣化連接選項,這款處理器確保數據能夠在內部組件或外部設備之間迅速無(wú)阻地流動(dòng)。
?
SG2380運行LLaMA-2 13B模型的性能
RISC-V+TPU架構內的整合,預示著(zhù)AIPC能力的新紀元,過(guò)去需要數分鐘完成的任務(wù),現在只需幾秒鐘。這款處理器不僅僅強調原始計算力,它代表的是一種智能計算,能夠滿(mǎn)足GenAI和多媒體應用的需求,確保復雜的模型和算法能夠順暢運行,無(wú)任何阻礙。
SG2380在A(yíng)IPC行業(yè)中的獨特之處不僅在于它令人印象深刻的技術(shù)規格,還在于它與RISC-V開(kāi)源架構的一致性。這種對開(kāi)放標準促進(jìn)了創(chuàng )新、協(xié)作,提高了開(kāi)發(fā)的靈活性,使開(kāi)發(fā)者和制造商能夠以快速的步伐適應技術(shù)變革和發(fā)展。
當我們站在GenAI革命的門(mén)檻上時(shí),搭載開(kāi)創(chuàng )性RISC-V架構的SG2380處理器不僅是一款產(chǎn)品,也是未來(lái)的先驅?zhuān)籄IPC不僅是工具,也代表著(zhù)一種未來(lái)伙伴的形態(tài),與我們攜手共進(jìn),共同拓展更多可能性。在SG2380中,我們見(jiàn)證了智能計算的演化,我們正在參與一場(chǎng)將重新定義“我們與技術(shù)”關(guān)系的革命。
甲辰計劃與算能
作為甲辰計劃發(fā)起方之一,算能將依托甲辰計劃實(shí)現SG2380的完全開(kāi)源開(kāi)放。甲辰計劃的啟動(dòng)標志著(zhù)RISC-V生態(tài)將進(jìn)入一個(gè)全新的增長(cháng)階段,預計到2036年,將基于RISC-V實(shí)現從數智算心到桌面辦公、從移動(dòng)穿戴到智能物聯(lián)網(wǎng)的全信息產(chǎn)業(yè)覆蓋的開(kāi)放標準體系及開(kāi)源系統軟件棧。此舉不僅將加速RISC-V軟硬件生態(tài)的成熟,而且也將推動(dòng)SG2380及未來(lái)RISC-V高性能處理器的廣泛應用,從而促進(jìn)了2380開(kāi)源特性的深入發(fā)展。