央广网北京5月21日音讯 克日,京东云乡村大会正在上海顺遂举行,会上发布JoyAgent智能体2.0、JoyBuild大模子开发较量争论平台、JoyScale AI算力平台等九大产物,三大垂直行业一体机,助力企业全面重构AI底子设施,天生企业专属数字员工,加快迈向深度应用。
随着AI应用深切,对底子设施带来了一系列全新的技术挑衅,都指向需要一套AI Native的底子设施:
一方面,以CPU为中央的架构正在支撑AI原生应用方面存正在辣手的成绩,需要以GPU为中央重塑底子设施,正在国内还需要解决GPU本身型号多样带来的异构成绩。
另一方面,应用的深化激发了更多推理的需求,较量争论资源持续添加,企业需要思索资源投入产出的成绩,进展智算资源像已往一样得到极致的服从。
面向大模子训练、推理的算力需求,京东云发布全新的JoyScale AI算力平台——以GPU为核心,高效异构较量争论,壮大推理性能。它具备两大核心劣势:
极致的算力性能。面向大模子训推需求,JoyScale支撑单集群万卡调度、全局超10万卡调度能力,支撑跨智算中央横向扩展,通过软硬件协同优化,将大模子算力利用率MFU从45%提拔至75%。
天真的异构算力管理。JoyScale全面适配十余家国产算力,支撑异构算力统一纳管、精细化运维,通过集群算力池化调度,提拔集群利用率70%。
以后,基于京东团体复杂场景理论,京东云构建了一站式大模子产物矩阵,从底层的智算底子设施,到中间层的模子办事和工具,再到上层的Agent应用开发,支撑企业疾速安排大模子及应用。
大模子海潮汹涌汹涌,京东云将持续深耕技术,以更开放、更协同的生态理念为引领,不断拓展和深化大模子技术的边界与应用。同时,依附正在京东内部场景精益求精的深度应用经验,打造出的极致性能、极致性价比的技术与产物,助力更多企业重塑AI生产力。
发布于:北京市