CSB1-N10R3576 算力服务器

60 TOPS 强劲算力

支持大模型私有化部署

安全高速的网络通讯

支持多种深度学习框架

八核 AI 处理器 RK3576

CSB1-N10R3576 最高可配置 10 个计算节点,每个计算节点搭载 Rockchip 高算力芯片 RK3576,最高主频 2.2 GHz,
总算力可高达 60 TOPS,为人工智能、深度学习提供强劲的算力保障

AI 大模型私有化部署

支持 Transformer 架构下大规模参数模型的私有化部署,如 Gemma-2B、ChatGLM3-6B、Qwen-1.8B、Phi-3-3.8B 等大型语言模型

配备管理系统

配置 aBMC 智能管理系统,轻松完成实时监控、
软件配置、硬件配置、故障排除、异常告警、
系统升级、远程运维,并可提供二次开发

有效降低成本

服务器高度整合计算单元、存储、通用串行总线、网络控制器、
电源控制器和传感器于一体,减少用户的采购、开发和运营成本

便捷易开发

提供 SDK 一站式深度学习开发工具包,提供底层驱动环境、编
译器、推理部署工具等一系列软件工具。支持主流网络模型与自
定义算子开发,支持 Docker 容器化,算法应用快速部署

丰富的拓展接口

产品参数

CSB1-N10R3576
技术规格 服务器形态

1U机架式算力服务器

构架

ARM架构

节点数

10个分布式计算节点(高达80个ARM核心)+ 1个控制节点

计算节点

八核64位处理器RK3576,最高主频2.2GHz

控制节点

八核64位 处理器 RK3588,最高主频2.4GHz,最高算力6TOPS

AI算力

60TOPS(INT8)

内存

8GB LPDDR4 × 10(计算节点数)(可选配: 4GB/8GB/16GB)

存储

64GB eMMC 内置存储器 × 10 (计算节点数)(可选配: 16GB/32GB/64GB/128GB/256GB)

扩展存储

3.5 英寸/2.5英寸 SATA3.0/SSD 硬盘位 × 1(BMC可直接操作硬盘,计算子节点可通过BMC提供的网络共享方式,间接访问硬盘)

电源

550W AC 电源(输入: 90V AC~264V AC, 47 Hz ~ 63 Hz, 8A)(不支持热插拔)

风扇模组

6 个高速散热风扇

物理规格 尺寸

420.0mm(长) × 421.3mm(宽) × 44.4mm(高)

安装要求

IEC 297标准的通用机柜安装:宽19英寸、深800mm及以上 可伸缩滑道安装:机柜前后方孔条的距离范围为543.5mm~848.5mm

满配重量

服务器净重:8.1kg,带包装总重:10.3kg

环境

工作温度:0ºC ~ 45ºC,存储温度:-40ºC ~ 60ºC,工作湿度:5% ~ 90%RH(无凝露)

软件参数 BMC

集成基于Web管理界面的 BMC 管理系统,支持Redfish、VNC、NTP、监控高级及虚拟媒体,BMC管理系统可进行二次开发

大模型

支持Transformer架构下超大规模参数模型的私有化部署,如Gemma-2B、ChatGLM3-6B、Qwen-1.8B、Phi-3-3.8B等大型语言模型

深度学习

支持CNN、RNN、LSTM等传统网络架构,支持RKNN模型导入导出,支持多种深度学习框架, 包括TensorFlow、TensorFlow Lite、PyTorch、Caffe、ONNX和Darknet,并支持自定义算子开发 支持Docker容器化管理技术

接口参数 网络

2 × 10Gbps万兆网(SFP+)、2 × 千兆以太网(RJ45)、1 × 千兆以太网(RJ45,MGNT用作BMC管理网络)

Console

1 × Console(RJ45,BMC调试串口,波特率 115200)

显示

1 × VGA(最高分辨率1080P,BMC管理显示)

USB

2 × USB3.0(下层USB为USB3.0 OTG,可使用U盘对BMC进行OTG升级)

按键

1 × 复位键、1 × UID 按键、1 × 电源键

其他接口

1 × RS232(DB9,波特率为115200)、1 × RS485(DB9,波特率为115200)