器集群產(chǎn)品圖..png)
器產(chǎn)品圖.png)
器產(chǎn)品圖.png)
器產(chǎn)品圖.png)
器產(chǎn)品圖1-8080.png)
品主圖.png)
算力新紀元｜算能亮相2024中國算力大會(huì )，重磅發(fā)布云端智算卡SC11 FP300
9月27日，2024中國算力大會(huì )在河南鄭州拉開(kāi)帷幕，本屆大會(huì )以“聚智向新 算領(lǐng)未來(lái)”為主題，大會(huì )同期舉辦“算力中國·創(chuàng )新成果展示”，多角度、全方位展示算力領(lǐng)域核心技術(shù)突破。算能重磅發(fā)布云端智算卡SC11 FP300，驚艷全場(chǎng)。
展區現場(chǎng)，算能帶來(lái)覆蓋“云、邊、端”的全場(chǎng)景產(chǎn)品矩陣及解決方案，更有多款大模型應用一體機，為現場(chǎng)觀(guān)眾帶來(lái)沉浸式智慧應用體驗，共同探索大模型應用的無(wú)限未來(lái)，感受技術(shù)變革帶來(lái)的新機遇。
云端智算卡SC11 FP300首發(fā)
主論壇上，算能重磅發(fā)布全新一代云端智算卡SC11 FP300，采用自主研發(fā)的智能計算架構，針對大模型訓練和推理進(jìn)行了深度優(yōu)化，可提供強勁算力，板卡間支持直接互聯(lián)通信，整卡功耗控制在300W以?xún)取?/p>
該產(chǎn)品可應用于生成式AI、互聯(lián)網(wǎng)搜索推薦、視頻編解碼、智慧城市、智慧交通和智能制造等多種場(chǎng)景，并能高效兼容市場(chǎng)主流的深度學(xué)習算法。
高效的多卡擴展
SC11 FP300支持多卡高速互聯(lián)，單臺4U服務(wù)器可提供最大2TB顯存空間，極大降低模型調優(yōu)等開(kāi)發(fā)成本。
此外，通過(guò)RDMA網(wǎng)絡(luò )，可支持千卡算力集群。
更豐富的數據精度
針對智能普遍采用更低位寬數據格式來(lái)提升算力并降低對存儲容量和存儲帶寬的需求，SC11 FP300在支持傳統的FP32、FP16、BF16和INT8格式之外，加入了TF32、FP8、INT4、NF4等格式的支持。
云邊端統一的軟件工具鏈
為了減少模型移植和適配工作，加速客戶(hù)模型無(wú)縫算力擴展，算能提供云邊端統一的工具鏈。一個(gè)模型只移植一次，就可以在算能多個(gè)算力處理器平臺運行。同時(shí)所有軟件工具開(kāi)源，免除客戶(hù)后顧之憂(yōu)。配合SC11提供的軟件工具如下圖所示。
專(zhuān)用硬件加速單元加速創(chuàng )新引用
針對大數據量應用，例如億級向量數據庫查找、比對等操作，SC11 FP300內置排序、topK等專(zhuān)用加速單元，做到億級向量秒出結果。
支持多種量化算法降低推理部署成本
除了傳統后處理量化算法外，還適配了MQBench平臺，提供QAT工具，支持多種量化算法。量化算法與工具代碼完全開(kāi)源，可擴展支持自定義量化算法。
算能致力于成為全球領(lǐng)先的定制算力提供商，與全球合作伙伴共同努力打造高效、安全、實(shí)用的算力平臺；就如本屆算力大會(huì )主題：聚智向新、算領(lǐng)未來(lái)！