器集群產(chǎn)品圖..png)
器產(chǎn)品圖.png)
器產(chǎn)品圖.png)
器產(chǎn)品圖.png)
器產(chǎn)品圖1-8080.png)
品主圖.png)
把大模型裝進(jìn)小盒子：這個(gè)小魔盒直擊端側AIGC的痛點(diǎn)！
隨著(zhù)當下數字化的高速發(fā)展，今年將會(huì )迎來(lái)“大模型應用爆發(fā)元年”。市面上不少大模型產(chǎn)品應運而生，在大模型普惠應用井噴的時(shí)代，這類(lèi)產(chǎn)品的使用存在許多門(mén)檻和風(fēng)險，比如高昂的服務(wù)器部署成本、在運行過(guò)程中會(huì )過(guò)度依賴(lài)網(wǎng)絡(luò )狀態(tài)、以及難以保障數據的安全性等問(wèn)題
?
為了解決大模型產(chǎn)品使用期間所產(chǎn)生的算力成本高、網(wǎng)絡(luò )波動(dòng)、數據隱私等問(wèn)題，Firefly開(kāi)源團隊推出可本地化部署的智能盒子：AIBOX-1684X
?
Firefly智能新品：智能算力小魔盒
AIBOX-1684X支持主流大模型私有化部署，僅掌心大小的體積就能把智算能力私有化，能夠滿(mǎn)足個(gè)性化的智能部署！其算力高達32Tops，擁有八核2.3GHz處理器，兼具穩定性、私密性、精致小巧等特性
支持主流大模型
AIBOX-1684X幾乎支持目前主流大模型的本地化運行，包括LLaMa3，ChatGLM3，Qwen等語(yǔ)言大模型，SAM等視覺(jué)大模型，以及Stable Diffusion 智能繪圖
?
私有化部署：我的智算我做主
- 本地化部署，無(wú)懼斷網(wǎng)
無(wú)需網(wǎng)絡(luò )即可使用智算的能力，不受網(wǎng)絡(luò )狀態(tài)影響，任務(wù)運行更穩定
?
- 開(kāi)源透明，安全無(wú)風(fēng)險
使用全開(kāi)源智能模型工具鏈，透明可信任，做到零安全隱患
?
- 精致小巧，隨處部署
僅掌心大小，10cm內的小方盒，表面柔潤精致的鋁合金切割工藝，在哪部署都合適
?
極致性能：無(wú)需多等
千字文本生成僅需10.2秒
AIBOX在本地運行時(shí)，擁有極快的響應時(shí)間，能夠更好地提升用戶(hù)體驗。在Qwen1.5-1.8B模型中，推理性能可達到32.5 token/s，相當于其生成一篇1000字的文章僅需約10.2秒，可實(shí)現自然語(yǔ)言的快速問(wèn)答
主流模型的512SEQ推理性能數據
標準圖像生成僅需7秒
支持 AIGC 領(lǐng)域的 Stable Diffusion V1.5 圖像生成模型，在Stable Diffusion V1.5模型中，生成512* 512尺寸的圖片僅需約7秒
?
開(kāi)箱即用：已適配主流大模型
○ Meta旗下最新開(kāi)源大模型Llama3運行效果演示：
○ 清華與智譜合作研發(fā)的ChatGLM3-6B演示：
○ 阿里通義千問(wèn)開(kāi)源大模型Qwen1.5-1.8B演示：
支持多種深度學(xué)習框架
AIBOX支持所有主流深度學(xué)習框架，包括TensorFlow、PyTorch、MXNet、PaddlePaddle、ONNX和Darknet，并支持自定義算子開(kāi)發(fā)
高配硬件性能，智算運行暢通無(wú)阻
搭載SOPHON算能智算處理器BM1684X，最高主頻2.3GHz，最高支持32路1080P H.264/H.265的視頻解碼，32路1080P高清視頻全流程處理（解碼+智能分析）
?
?
即刻擁有，快人一步！
AIBOX-1684X現已正式發(fā)售，超高性?xún)r(jià)比，一次購買(mǎi)，終生享用