160 TOPS 强劲算力
支持大模型私有化部署
安全高速的网络通讯
支持多种深度学习框架
CSB1-N10S1688 最高可配置 10 个计算节点,每个计算节点搭载 SOPHON 高算力芯片 BM1688,最高主频 1.6 GHz,
总算力可高达 160 TOPS,为人工智能、深度学习提供强劲的算力保障
支持 Transformer 架构下大规模参数模型的私有化部署,如 Gemma-2B、ChatGLM3-6B、Qwen1.5-1.8B 等大型语言模型
配置 aBMC 智能管理系统,轻松完成实时监控、
软件配置、硬件配置、故障排除、异常告警、
系统升级、远程运维,并可提供二次开发
服务器高度整合计算单元、存储、通用串行总线、网络控制器、
电源控制器和传感器于一体,减少用户的采购、开发和运营成本
提供 SDK 一站式深度学习开发工具包,提供底层驱动环境、编
译器、推理部署工具等一系列软件工具。支持主流网络模型与自
定义算子开发,支持 Docker 容器化,算法应用快速部署
CSB1-N10S1688 | ||
基本参数 | 服务器形态 |
1U机架式算力服务器 |
构架 |
ARM架构 |
|
节点数 |
10个分布式计算节点(高达80个ARM核心)+ 1个控制节点 |
|
服务器节点 |
计算节点:BM1688核心板:八核64位(Cortex-A53)处理器,最高主频1.6GHz,最高算力16TOPS 控制节点:RK3588核心板:八核64位(4×Cortex-A76+4×Cortex-A55)最高主频2.4GHz,最高算力6TOPS |
|
AI算力 |
总算力可达 160TOPS(INT8) |
|
内存 |
8GB LPDDR4 × 10(计算节点数)(每片核心板可选配: 4GB/8GB/16GB) |
|
存储 |
32GB eMMC 内置存储器 × 10 (计算节点数) (可选配: 16GB/32GB/64GB/128GB/256GB) 3.5 英寸/2.5英寸 SATA3.0/SSD 硬盘位 × 1 |
|
BMC |
集成BMC管理系统,提供基于Web的管理界面,BMC管理系统可进行二次开发 |
|
软件支持 |
・ 支持Transformer架构下超大规模参数模型的私有化部署,如Gemma-2B、LlaMa2-7B、ChatGLM3-6B、Qwen1.5-1.8B等 大型语言模型 ・ 支持CNN、RNN、LSTM等传统网络架构,支持多种深度学习框架,包括TensorFlow、PyTorch、PaddlePaddle、 TensorRT、 TFLite、ONNX和Caffe,可实现行人侦测,人脸侦测,人脸识别,活体侦测及其他视频结构化应用,并支持自定义算子开发 ・ 支持Docker容器化管理技术 |
|
电源 |
550W AC 电源(输入: 90V AC~264V AC, 47 Hz ~ 63 Hz, 8A)(不支持热插拔) |
|
尺寸 |
420.0mm(长) × 421.3mm(宽) × 44.4mm(高) |
|
重量 |
服务器主机:8.1kg,包装总重:10.3kg |
|
环境 |
工作温度:0ºC ~ 45ºC,存储温度:-40ºC ~ 60ºC,工作湿度:5% ~ 90%RH(无凝露) |
|
接口参数 | 网络 |
2 × 万兆网(SFP+)、2 × 千兆以太网(RJ45)、1 × BMC网络接口(RJ45)、1 × Console(RJ45,BMC调试串口) |
显示 |
1 × VGA(最高分辨率1080P,BMC管理显示) |
|
USB |
2 × USB3.0 |
|
指示灯 |
1-10指示灯:计算节点工作状态指示灯,每个子板(节点)对应 1 个状态指示灯 ES指示灯:交换机系统状态指示灯 BS指示灯:BMC健康状态指示灯 S1指示灯:SFP+1 万兆光口状态指示灯 S2指示灯:SFP+2 万兆光口状态指示灯 UID指示灯:前后各 1 个,共 2 个 |
|
按键 |
1 × 复位键、1 × UID 按键、1 × 电源键 |
|
风扇模组 |
6 个高速散热风扇 |
|
其他接口 |
1 × RS232、1 × RS485 |