60 TOPS 强劲算力
支持大模型私有化部署
安全高速的网络通讯
支持多种深度学习框架
CSB1-N10R3588 最高可配置 10 个计算节点,每个计算节点搭载 Rockchip 高算力芯片 RK3588,最高主频 2.4GHz,
总算力可高达 60 TOPS,为人工智能、深度学习提供强劲的算力保障
支持 Transformer 架构下大规模参数模型的私有化部署,如 Gemma-2B、ChatGLM3-6B、Qwen-1.8B、Phi-3-3.8B 等大型语言模型
配置 aBMC 智能管理系统,轻松完成实时监控、
软件配置、硬件配置、故障排除、异常告警、
系统升级、远程运维,并可提供二次开发
服务器高度整合计算单元、存储、通用串行总线、网络控制器、
电源控制器和传感器于一体,减少用户的采购、开发和运营成本
提供 SDK 一站式深度学习开发工具包,提供底层驱动环境、编
译器、推理部署工具等一系列软件工具。支持主流网络模型与自
定义算子开发,支持 Docker 容器化,算法应用快速部署
CSB1-N10R3588 | ||
技术规格 | 服务器形态 |
1U机架式算力服务器 |
构架 |
ARM架构 |
|
节点数 |
10个分布式计算节点(高达80个ARM核心)+ 1个控制节点 |
|
计算节点 |
八核64位处理器RK3588,最高主频2.4GHz |
|
控制节点 |
八核64位 处理器 RK3588,最高主频2.4GHz,最高算力6TOPS |
|
AI算力 |
60TOPS(INT8) |
|
内存 |
16GB LPDDR4 × 10(计算节点数)(可选配: 4GB/8GB/16GB/32GB) |
|
存储 |
256GB eMMC 内置存储器 × 10 (计算节点数)(可选配: 16GB/32GB/64GB/128GB/256GB) |
|
扩展存储 |
3.5 英寸/2.5英寸 SATA3.0/SSD 硬盘位 × 1(BMC可直接操作硬盘,计算子节点可通过BMC提供的网络共享方式,间接访问硬盘) |
|
电源 |
550W AC 电源(输入: 90V AC~264V AC, 47 Hz ~ 63 Hz, 8A)(不支持热插拔) |
|
风扇模组 |
6 个高速散热风扇 |
|
物理规格 | 尺寸 |
420.0mm(长) × 421.3mm(宽) × 44.4mm(高) |
安装要求 |
IEC 297标准的通用机柜安装:宽19英寸、深800mm及以上 可伸缩滑道安装:机柜前后方孔条的距离范围为543.5mm~848.5mm |
|
满配重量 |
服务器净重:8.1kg,带包装总重:10.3kg |
|
环境 |
工作温度:0ºC ~ 45ºC,存储温度:-40ºC ~ 60ºC,工作湿度:5% ~ 90%RH(无凝露) |
|
软件参数 | BMC |
集成基于Web管理界面的 BMC 管理系统,支持Redfish、VNC、NTP、监控高级及虚拟媒体,BMC管理系统可进行二次开发 |
大模型 |
支持Transformer架构下超大规模参数模型的私有化部署,如Gemma-2B、ChatGLM3-6B、Qwen-1.8B、Phi-3-3.8B等大型语言模型 |
|
深度学习 |
支持CNN、RNN、LSTM等传统网络架构,支持RKNN模型导入导出,支持多种深度学习框架, 包括TensorFlow、TensorFlow Lite、PyTorch、Caffe、ONNX和Darknet,并支持自定义算子开发 支持Docker容器化管理技术 |
|
接口参数 | 网络 |
2 × 10Gbps万兆网(SFP+)、2 × 千兆以太网(RJ45)、1 × 千兆以太网(RJ45,MGNT用作BMC管理网络) |
Console |
1 × Console(RJ45,BMC调试串口,波特率 115200) |
|
显示 |
1 × VGA(最高分辨率1080P,BMC管理显示) |
|
USB |
2 × USB3.0(下层USB为USB3.0 OTG,可使用U盘对BMC进行OTG升级) |
|
按键 |
1 × 复位键、1 × UID 按键、1 × 电源键 |
|
其他接口 |
1 × RS232(DB9,波特率为115200)、1 × RS485(DB9,波特率为115200) |