CSB1-N10NOrinNano 最高可配置 10 个计算节点,每个计算节点搭载六核 64 位处理器 NVIDIA Jetson OrinNano,最高主频 1.5GHz,
总算力可高达 400 TOPS,为人工智能、深度学习提供强劲的算力保障
支持 Ollama 本地大模型部署框架和现代主流 AI 模型私有化部署,如 Llama3、Phi-3 Mini 等大型语言模型、ROS 机器人模型、
EfficientVIT、NanoOWL、NanoSAM 等视觉大模型、支持 AIGC 领域的 Stable Diffusion 图像生成模型等
配置 aBMC 智能管理系统,轻松完成实时监控、
软件配置、硬件配置、故障排除、异常告警、
系统升级、远程运维,并可提供二次开发
服务器高度整合计算单元、存储、通用串行总线、网络控制器、
电源控制器和传感器于一体,减少用户的采购、开发和运营成本
提供 SDK 一站式深度学习开发工具包,提供底层驱动环境、编
译器、推理部署工具等一系列软件工具。支持主流网络模型与自
定义算子开发,支持 Docker 容器化,算法应用快速部署
CSB1-N10NOrinNano | ||
技术规格 | 服务器形态 |
1U机架式算力服务器 |
构架 |
ARM架构 |
|
节点数 |
10个分布式计算节点(高达60个ARM核心)+ 1个控制节点 |
|
计算节点 |
六核64位 处理器 NVIDIA Jetson OrinNano,最高主频1.5GHz |
|
控制节点 |
八核64位 处理器 RK3588,最高主频2.4GHz,最高算力6TOPS |
|
AI算力 |
400TOPS(INT8) |
|
内存 |
8GB LPDDR5 × 10(计算节点数) |
|
存储 |
256GB (2242 PCIe NVMe SSD,服务器内部已装配) |
|
扩展存储 |
3.5 英寸/2.5英寸 SATA3.0/SSD 硬盘位 × 1(BMC可直接操作硬盘,计算子节点可通过BMC提供的网络共享方式,间接访问硬盘) |
|
电源 |
550W AC 电源(输入: 90V AC~264V AC, 47 Hz ~ 63 Hz, 8A)(不支持热插拔) |
|
风扇模组 |
6 个高速散热风扇 |
|
物理规格 | 尺寸 |
420.0mm(长) × 421.3mm(宽) × 44.4mm(高) |
安装要求 |
IEC 297标准的通用机柜安装:宽19英寸、深800mm及以上 可伸缩滑道安装:机柜前后方孔条的距离范围为543.5mm~848.5mm |
|
满配重量 |
服务器净重:8.1kg,带包装总重:10.3kg |
|
环境 |
工作温度:0ºC ~ 45ºC,存储温度:-40ºC ~ 60ºC,工作湿度:5% ~ 90%RH(无凝露) |
|
软件参数 | BMC |
集成基于Web管理界面的 BMC 管理系统,支持Redfish、VNC、NTP、监控高级及虚拟媒体,BMC管理系统可进行二次开发 |
大模型 |
机器人模型:支持ROS机器人模型 语言大模型:支持Ollama本地大模型部署框架,可用于自然语言处理、代码生成与辅助等场景。 支持 Transformer 架构下超大规模参数模型,如LLaMa3、Phi-3 Mini大型语言模型的私有化部署 视觉大模型:支持 EfficientVIT、NanoOWL、NanoSAM、SAM、TAM 视觉大模型的私有化部署 AI 绘画:支持 ComfyUI 图形化部署框架,可用于图像修复、图像风格转换、图像合成等场景。 支持 AIGC 领域的 Flux、Stable Diffusion、Stable Diffusion XL 图像生成模型的私有化部署 |
|
深度学习 |
支持多种由 cuDNN 加速支持的深度学习框架,包括PaddlePaddle、PyTorch、TensorFlow、MATLAB、MxNet、Caffe2、Chainer和Keras 支持自定义算子开发 支持 Docker 容器化管理技术 |
|
AI软件堆栈 |
NVIDIA Jetson Orin 系列可提供强大的 AI 计算能力、大容量统一内存和全面的软件堆栈,能够以超高能效驱动最新的生成式 AI 应用。 它能够使任何由 Transformer 架构提供支持的生成式 AI 模型进行快速推理,在 MLPerf 上实现卓越的边缘性能 |
|
接口参数 | 网络 |
2 × 10Gbps万兆网(SFP+)、2 × 千兆以太网(RJ45)、1 × 千兆以太网(RJ45,MGNT用作BMC管理网络) |
Console |
1 × Console(RJ45,BMC调试串口,波特率 115200) |
|
显示 |
1 × VGA(最高分辨率1080P,BMC管理显示) |
|
USB |
2 × USB3.0(下层USB为USB3.0 OTG,可使用U盘对BMC进行OTG升级) |
|
按键 |
1 × 复位键、1 × UID 按键、1 × 电源键 |
|
其他接口 |
1 × RS232(DB9,波特率为115200)、1 × RS485(DB9,波特率为115200) |