CSB1-N10S1688 算力服务器

160 TOPS 强劲算力

支持大模型私有化部署

安全高速的网络通讯

支持多种深度学习框架

八核 AI 处理器 BM1688

CSB1-N10S1688 最高可配置 10 个计算节点,每个计算节点搭载 SOPHON 高算力芯片 BM1688,最高主频 1.6 GHz,
总算力可高达 160 TOPS,为人工智能、深度学习提供强劲的算力保障

AI 大模型私有化部署

支持 Transformer 架构下大规模参数模型的私有化部署,如 Gemma-2B、ChatGLM3-6B、Qwen1.5-1.8B 等大型语言模型

配备管理系统

配置 aBMC 智能管理系统,轻松完成实时监控、
软件配置、硬件配置、故障排除、异常告警、
系统升级、远程运维,并可提供二次开发

有效降低成本

服务器高度整合计算单元、存储、通用串行总线、网络控制器、
电源控制器和传感器于一体,减少用户的采购、开发和运营成本

便捷易开发

提供 SDK 一站式深度学习开发工具包,提供底层驱动环境、编
译器、推理部署工具等一系列软件工具。支持主流网络模型与自
定义算子开发,支持 Docker 容器化,算法应用快速部署

丰富的拓展接口

产品参数

CSB1-N10S1688
基本参数 服务器形态

1U机架式算力服务器

构架

ARM架构

节点数

10个分布式计算节点(高达80个ARM核心)+ 1个控制节点

服务器节点

计算节点:BM1688核心板:八核64位(Cortex-A53)处理器,最高主频1.6GHz,最高算力16TOPS 控制节点:RK3588核心板:八核64位(4×Cortex-A76+4×Cortex-A55)最高主频2.4GHz,最高算力6TOPS

AI算力

总算力可达 160TOPS(INT8)

内存

8GB LPDDR4 × 10(计算节点数)(每片核心板可选配: 4GB/8GB/16GB)

存储

32GB eMMC 内置存储器 × 10 (计算节点数) (可选配: 16GB/32GB/64GB/128GB/256GB) 3.5 英寸/2.5英寸 SATA3.0/SSD 硬盘位 × 1

BMC

集成BMC管理系统,提供基于Web的管理界面,BMC管理系统可进行二次开发

软件支持

・ 支持Transformer架构下超大规模参数模型的私有化部署,如Gemma-2B、LlaMa2-7B、ChatGLM3-6B、Qwen1.5-1.8B等   大型语言模型 ・ 支持CNN、RNN、LSTM等传统网络架构,支持多种深度学习框架,包括TensorFlow、PyTorch、PaddlePaddle、 TensorRT、   TFLite、ONNX和Caffe,可实现行人侦测,人脸侦测,人脸识别,活体侦测及其他视频结构化应用,并支持自定义算子开发 ・ 支持Docker容器化管理技术

电源

550W AC 电源(输入: 90V AC~264V AC, 47 Hz ~ 63 Hz, 8A)(不支持热插拔)

尺寸

420.0mm(长) × 421.3mm(宽) × 44.4mm(高)

重量

服务器主机:8.1kg,包装总重:10.3kg

环境

工作温度:0ºC ~ 45ºC,存储温度:-40ºC ~ 60ºC,工作湿度:5% ~ 90%RH(无凝露)

接口参数 网络

2 × 万兆网(SFP+)、2 × 千兆以太网(RJ45)、1 × BMC网络接口(RJ45)、1 × Console(RJ45,BMC调试串口)

显示

1 × VGA(最高分辨率1080P,BMC管理显示)

USB

2 × USB3.0

指示灯

1-10指示灯:计算节点工作状态指示灯,每个子板(节点)对应 1 个状态指示灯 ES指示灯:交换机系统状态指示灯 BS指示灯:BMC健康状态指示灯 S1指示灯:SFP+1 万兆光口状态指示灯 S2指示灯:SFP+2 万兆光口状态指示灯 UID指示灯:前后各 1 个,共 2 个

按键

1 × 复位键、1 × UID 按键、1 × 电源键

风扇模组

6 个高速散热风扇

其他接口

1 × RS232、1 × RS485