探索智造面向 AI 训练与推理负载,提供 AI 加速裸金属、加速卡虚拟化、分布式训练集群组网与边缘推理服务;在 AI 算力调度与边缘计算领域拥有 40 余项自主专利与软件著作权,算力服务覆盖训练、推理到边缘部署的完整链条。
传统数据中心并非为AI工作负载的功率密度、网络带宽与运营复杂度而设计。大模型训练需要海量AI算力与高速互联网络,AI推理则要求低延迟、低成本的分布式部署——算力服务覆盖从中心训练到边缘推理的完整链条,裸金属与集群按需租用,无需一次性硬件采购。
中心侧提供主流AI加速服务器按需租用,支持RoCEv2无损以太网及高速专用互联构建分布式训练集群;边缘侧依托自主研发的分布式低功耗服务器技术,部署低功耗推理节点,实现数据就近处理与毫秒级响应。
从加速硬件到生产推理,四类服务对应训练与推理的不同环节。
提供主流AI加速服务器按需租用,裸金属架构无虚拟化损耗,性能独享。支持单机8卡起、按集群规模扩展,预装主流AI训练与推理软件栈,完整root权限与AI算力直通。
通过硬件分区与时间片切分技术将物理加速卡切分为多个虚拟算力实例,精细的算力配额与显存隔离,多租户安全共享。适合中小规模推理、模型微调与开发测试场景,弹性伸缩、按需分配。
采用RoCEv2无损以太网及高速专用互联(200/400Gbps级)组网,非阻塞胖树拓扑与RDMA支持,微秒级延迟、近零丢包,满足大模型All-Reduce通信与3D并行、流水线并行训练需求,配套训练任务调度与管理。
依托自主研发的分布式低功耗服务器技术,在中国及东南亚、欧洲、拉美节点部署低功耗边缘推理节点。数据就近处理,典型推理延迟低于 20 毫秒,降低中心带宽压力,适合车联网、工业 IoT 等实时 AI 应用。
成立五年来,在 AI 算力调度、边缘计算与集群运营领域积累 40 余项自主专利与软件著作权。
自主研发的分布式低功耗边缘节点架构与算力调度技术,支持大规模边缘部署与云边协同,实现数据就近处理与低延迟推理,降低联网设备、自动驾驶与工业IoT的数据传输成本。
自主研发软件著作权,面向AI算力集群的运营平台,实时遥测采集、异常检测、性能瓶颈识别与自动诊断建议,提升集群运维效率与训练任务成功率。
标准化配置可直接开通,也可由架构师按模型规模与训练吞吐设计集群,灵活计费。
| 配置项 | 训练节点(标准型) | 训练节点(旗舰型) | 边缘推理节点 |
|---|---|---|---|
| AI加速卡 | 8× AI加速卡(型号与显存规格以商务方案书面确认) | 8× AI加速卡(型号与显存规格以商务方案书面确认) | 低功耗推理加速器 |
| 加速卡互联 | 高速专用互联(600GB/s级) | 高速专用互联(900GB/s级) | — |
| 主机CPU | 双路主流服务器CPU | 双路主流服务器CPU | 嵌入式低功耗CPU |
| 系统内存 | 1–2 TB DDR4/DDR5 | 1–2 TB DDR5 | 64–256 GB |
| 网络组网 | RoCEv2 / 高速专用互联 | RoCEv2 / 高速专用互联 | 25/100 GbE |
| 存储 | 本地NVMe + 并行文件系统 | 本地NVMe + 并行文件系统 | NVMe SSD |
| 单柜功率 | 最高 20 kW | 最高 30 kW | 低功耗设计 |
| 交付模式 | 裸金属 / 托管 | 裸金属 / 托管 | 边缘部署 |
从大模型预训练到边缘实时推理,对应不同算力配置。
多节点加速集群配合高速专用互联组网,支撑大语言模型、扩散模型与多模态模型的训练与微调;集群规模与训练吞吐按模型需求在方案设计阶段评估确认。
高吞吐AI算力集群支撑图像识别、目标检测、医学影像分析与视频理解,广泛服务于医疗、汽车与制造行业。
面向自回归推理、检索增强生成(RAG)与Embedding场景优化的AI算力实例,自动扩缩容与硬件分区支撑ChatBot、内容生成、智能客服等在线推理低成本运行。
为广汽等汽车客户提供自动驾驶训练数据存储、仿真计算与感知模型训练算力;分布式边缘节点支撑路测与车联网数据的低延迟实时处理。
部署于生产现场的边缘推理服务器支撑实时质量检测、预测性维护与数字孪生应用,延迟低、无需回传中心。
为碧迪医疗(BD Medical)等医疗客户提供医学影像分析AI模型的训练与推理算力,安全合规的基础设施满足医疗数据保护与低延迟诊断要求。
两种模式都支持。AI加速裸金属服务器按需租用,也可按单机8卡起、按项目规模交付训练集群;小规模推理与开发场景可选虚拟算力切分实例。所涉加速卡型号与软件生态以商务方案书面确认为准,确保供给与交付能力描述一致。所有配置灵活计费,客户无需承担前期硬件采购与机房建设投入。
训练集群采用RoCEv2无损以太网及高速专用互联(200/400Gbps级)组网,非阻塞胖树拓扑、RDMA支持,实现微秒级延迟与近零丢包,充分满足大模型All-Reduce集合通信需求,并配套训练任务调度与集群监控。
依托自主研发的分布式低功耗服务器技术,低功耗节点部署在全球50+数据中心节点、靠近数据源,典型推理响应低于20毫秒,数据就近处理同时减轻中心带宽压力,适用于车联网、工业质检与实时视频分析。
全栈运营服务覆盖集群部署、监控、调度与故障诊断,配合自研「智慧数据调试分析系统 」实现实时遥测、异常检测与自动诊断建议;客户也可仅租用裸金属自运维,或选择驻场+远程的一体化运维服务。