京东云推出新款vGPU智算一体机:京东云自研的算力池化能力、智能推理加速引擎,支持千人规模并发
时间:2025-02-22 21:15 来源:快科技 作者:小丽 点击:次
2月22日,京东官方宣布,京东云推出新款vGPU智算一体机,相比开源方案推理速度提升高达50%,单台即可运行满血版DeepSeek V3/R1大模型。 这款智算一体机基于京东云自研的算力池化能力、智能推理加速引擎,支持千人规模并发,每天成本只有百元。
该机具有以下四大优势: - 硬件成本降低: 无需额外采购高端GPU,单台设备即可满足企业需求。 - 部署运维成本优化: 开箱即用,从硬件上架到AI服务上线,只需电源网络接入、软件启动两步操作。 - 能效比提升: 通过京东内部联合厂商多年打磨硬件,合理配置硬件资源,功耗显著降低。 - 算力池化和推理加速: 预置京东云vGPU AI算力平台能力,实现整机算力更细粒度的管理与优化,资源利用率提升到70%以上,推理性能提升50%。 京东云vGPU智算一体机还支持NVIDIA GPU,以及多元化得国产GPU,实现乐互认证,同时支持单机内RAID,减少数据丢失风险。
|