京东言犀大模型亮相,应用将分“三步走”

7月13日,京东在北京推出京东言犀大模型。与通用大模型相比,这一源于产业、服务产业的大模型,融合70%通用数据与30%数智供应链原生数据,致力于深入零售、物流、金融、健康、政务等知识密集型、任务型产业场景,解决真实产业问题。对于大模型的应用实践,京东提出明确的“三步走”规划。

为夯实产业应用,京东推出了一套大模型的完整工具,包括支撑大模型研发的基础设施——言犀AI开发计算平台、向量数据库、混合多云操作系统云舰、高性能存储平台云海、软硬一体虚拟化引擎京刚等核心产品。

依托京东言犀大模型,以及京东在产业和供应链侧的优势,京东还发布了两大服务平台,包括全新升级的优加DaaS和言犀智能服务平台,以及面向零售、金融、城市、健康、物流五大领域的行业解决方案。

京东集团CEO许冉表示,大模型真正实现自己的价值,一定是在产业应用中。在她看来,大模型的价值=算法×算力×数据×产业厚度的平方,前三个指标固然重要,但技术在产业场景落地应用,创造实际价值才是关键。

产业场景是京东非常擅长的领域。京东作为一家新型实体企业,拥有包括零售、物流、科技、健康、工业、产发等丰富的产业布局。这为京东积累下每年数百亿条优质交互数据,训练言犀大模型的数据库,就由70%通用数据和30%供应链原生数据组成。“数智供应链训练了产业大模型,而大模型则依托供应链深入产业”,京东集团技术委员会主席、京东云事业部总裁曹鹏如是说。

对于大模型的应用实践,京东也有明确的“三步走”规划。目前,京东云已经基于内部实践构建了通用大模型;到今年年底这段时间,京东将经由高复杂场景大规模锤炼,迭代出扎实的产业服务;预计在2024年初,会将大模型能力向外部严肃商业场景开放。目前,京东已经走到第二步,并在内部取得了丰富的实践成果。

“京东探索研究院院长、京东科技智能服务与产品部总裁何晓冬博士表示。大模型的难点不在技术追赶,而是产业突破。京东言犀大模型的产业实践,是京东非常关注的部分。

据悉,京东从很早就开始布局大模型。2021年,京东就推出十亿级模型K-PLUG,2022年推出百亿级模型Vega,本次大会则展示了千亿级模型。

在大会现场,京东演示了将通用大模型转化为健康产业大模型的操作。通常,客户完成这套流程,从数据准备、模型训练到模型部署,需要10余名科学家花费一周时间。但利用言犀AI开发计算平台,只需要1-2名算法人员,在数分钟就能完成。通过平台模型加速工具的优化,还能节省90%的推理成本。

例如京东健康发布的京医千询大模型,就是建立在京东言犀通用大模型基础之上,能快速完成在医疗健康领域各个场景的迁移和学习,从而实现产品和解决方案的全面AI化部署,能为远程医疗服务提供坚实的技术底座。

对大模型所需的计算资源,京东也做出了充分的准备。在重庆太阳岛,京东全国首个超算中心——天琴α集群正日夜不停地运转,推理速度较过去提升6.2倍,推理成本节约90%,成为技术创新背后强大的算力支撑。

京东云的三个核心产品,此次也迎来升级:全新升级的混合多云操作系统云舰,将GPU/NPU的资成本降低50%,并提供行业最高的业务连续性承诺。高性能存储平台云海,将单集群每秒读写性能提升5倍,达到千万级;时延降低50%,达到百微秒级;使用成本则降低30%。软硬一体的虚拟化引擎京刚,将虚拟化卸载到智能网卡中,虚拟化损耗降至0,网络性能提升高达4倍,并支持100Gb VPC网络,云硬盘单实例性能突破百万IOPS。

在本次大会上,京东物流发布了一站式数智化供应链数据管理平台京慧3.0,在大模型的加持下,其销量预测、库存、供应及补货计划方面更具表现力。在大会现场,京东宣布携手零售和金融行业伙伴,在零售场景探索供应链优化、顾客体验、营销降本增效等方面,在金融场景探索金融客服、智能投顾、产品营销等方面,共建零售和金融行业的大模型创新应用。

文章内容来自网络,如有侵权,联系删除、联系电话:023-85238885

参与评论

请回复有价值的信息,无意义的评论将很快被删除,账号将被禁止发言。

评论区