您的位置: 首页 > 实时讯息 >

京东云曹鹏:推动算力普惠,让中小企业用得起大模型

0次浏览     发布时间:2025-03-04 20:20:00    

随着年初国产大模型DeepSeek的爆火,大模型技术正加速渗透千行百业。然而,算力资源的结构性矛盾也日益凸显。企业落地AI应用过程中, GPU等高性能算力成本高昂,且系统互不兼容,造成显卡资源浪费,成为中小企业应用大模型的重要困境。

在近期京东云深圳城市大会,京东云推出八大智算产品,其中vGPU AI算力平台,能够实现异构算力的智能调度:一边自动分配多元算力,实时响应业务需求,把GPU利率用提上来;另一边创建全生命周期AI开发环境,开箱即用,大幅压缩大模型训练周期。目前,这个平台支持企业智能驾驶、人形机器人等20多个场景,精细化管理千卡AI算力集群,预计1年内,省下的算力相当一两座数据中心的算力。

京东云DeepSeek大模型一体机的推出,也是对这一提案的有力实践。该一体机通过自研的算力池化能力、智能推理加速引擎,充分融合软硬件,实现了性能的全面提升,推理速度提升50%,通过集群算力池化调度提升集群利用率70%,全面适配十余家国产化算力资源。企业可以根据自己的需求灵活选择不同版本,开箱即用。

目前,京东云已经在河南鹤壁、江苏宿迁、山东滨州、广西北海、山西大同等多地政府,基于现有基础设施本地化部署DeepSeek,既满足本地政务业务需求,又让当地企业不用投入资源,即可通过政务云调用DeepSeek。

为持续推动算力从“稀缺资源”变为“普惠服务”,曹鹏进一步提出“链主企业+云平台”的共享模式:链主企业和云平台开放智算配额,向中小企业提供低成本、高质量的智算服务,将紧跟时代的先进技术通过产品化、平台化,普惠化地对外开放,降低应用和部署门槛,打造开箱即用的产品服务,让更多企业和个人无差别地享受技术创新的红利,引导技术创新走出实验室和大公司的围墙,在产业场景发挥价值。

京东云的探索与实践,不仅为中小企业让中小企业用得起大模型,更为算力普惠的未来开辟了新的道路!

更多内容请下载21财经APP

相关文章

  • 通报:网信部门公开曝光第六批涉公共政策、突发案事件、社会民生领域网络谣言典型案例

    2025-05-12 19:52:00
  • 山西孝义:倾听客户零距离 优化营商加速度

    2025-05-09 15:31:00
  • 精耕政务服务“试验田” 打造营商环境新高地——凤县大红袍花椒油萃取项目实现“零跑腿”审批获企业赞誉

    2025-05-09 14:59:00
  • 重庆启动2025年“民法典宣传月”暨“渝尚法·赋能强企”活动

    2025-05-08 20:40:00
  • 东莞茶山超200家企业违规被通报,拟被吊销营业执照

    2025-05-08 19:12:00