DeepSeek信創(chuàng)一體機服務(wù)器
DeepSeek信創(chuàng)一體機集高端服務(wù)器、AI管理系統(tǒng)、高效能基礎(chǔ)模型、全流程AI工具鏈于一體的開箱即用的AI解決方案。適用于科研所、教育、政府、企業(yè)等用戶，有一定私域?qū)Ｓ兄R，希望快速構(gòu)建AI能力賦能文字處理、數(shù)據(jù)分析、科學(xué)研究等繁重業(yè)務(wù)。
DeepSeek信創(chuàng)一體機服務(wù)器產(chǎn)品優(yōu)勢：
1.私有數(shù)據(jù)不出域，在保障數(shù)據(jù)安全的同時構(gòu)建業(yè)務(wù)智能體，解決敏感數(shù)據(jù)無法上云的痛點；支持DeepSeek全系列模型的推理部署。
2.內(nèi)置強大的AI管理平臺、*的DeepSeek推理模型、全流程的AI工具鏈。
3.承托于底層軟件棧，配備完善的推理軟件工具包，實現(xiàn)快速上手、開箱即用。
4.通過匯編級的底層算子融合和針對GPU架構(gòu)的定制優(yōu)化實現(xiàn)*推理表現(xiàn)。
5.原生支持DeepSeek滿血版模型的FP8精度推理，顯著提升推理性能并降低部署成本。
DeepSeek信創(chuàng)一體機服務(wù)器配置：
應(yīng)用場景 | AI大模型 | 硬件配置 |
旗艦版 100+人 16-32并發(fā) | DeepSeek - 671B 滿血版 | 計算節(jié)點：AI服務(wù)器*4 CPU：海光、鯤鵬、龍芯等 GPU：顯存48G*8 內(nèi)存：32G*24 硬盤：960G SSD *2+（1臺配置15.36T NVMe*2，其他3臺配置3.84T NVMe*2） 網(wǎng)絡(luò)：千兆*2+400NDR*1 |
標準版 300+人 32并發(fā) | DeepSeek - 32B/70B | 計算節(jié)點：AI服務(wù)器*1 CPU：海光、鯤鵬、龍芯等 GPU：顯存48G*8 內(nèi)存：32G*24 硬盤：960G SSD *2+3.84T NVMe*2 網(wǎng)絡(luò)：千兆/萬兆 |
輕量版 50+人 10并發(fā) | DeepSeek - 1.5B/7B/8B/14B | 計算節(jié)點：AI服務(wù)器*1 CPU：海光、鯤鵬、龍芯等 GPU：顯存32G*8 內(nèi)存：32G*16 硬盤：960G SSD *22+3.84T NVMe*2 網(wǎng)絡(luò)：千兆/萬兆 |
