5月22日,京东工业发布工业大模型Joy industrial,成为行业首个以工业为核心的工业大模型。其锁定工业场景,依托京东工业深耕工业数智供应链的产业积累和数据沉淀,构建起从底层算力、算法、数据到应用的全产品矩阵,助力产业降本、增效、合规、保供。
Joy industrial此次推出面向京东工业及供应链上游供应商的需求代理、运营代理、关务代理等AI智能体,以及服务供应链下游企业用户的商品专家及集成专家等AI产品。未来,还会打造汽车后市场、新能源汽车、机器人制造、石油天然气、电力电网等垂直行业的工业大模型。
京东产业成大模型沃土,已具备全尺寸大模型矩阵
“京东的大模型正是诞生于产业,成长于产业。大模型产业化才能产生价值,只有在落地过程中不断结合具体场景的数据、业务需求不断打磨,才能使得大模型能力不断地强化、得到真正的应用。” 京东集团探索研究院副院长、京东科技人工智能业务部总裁何晓冬表示。
京东作为“以供应链为基础的技术与服务企业”,具有广泛的产业积累,内部产业场景成为大模型和AI应用最好的孵化土壤。
2023年,京东推出自研产业大模型,就融合了30%数智供应链原生数据。这些数据来自京东超千万自营商品SKU、数千万工业品SKU、超800万家活跃企业客户的落地实践,使得大模型天然具备服务产业应用的能力。此后,京东大模型又迅速纳入工业、健康、物流等专业领域知识。
至今,在基础大模型层面,京东已经形成涵盖3B、10B、81B、750B的全尺寸大模型矩阵,能满足不同业务的差异需求。其中,3B和10B可快速响应;81B主力模型可兼顾性能与时效。京东最新推出的750B超大规模模型,则利用动态分层蒸馏、跨领域数据治理等京东创新技术训练,具备“深度思考”和“非深度思考”能力,能同时满足行业对“即时响应”和“深度推理”的双重需求。
举例来说,在客服等需要需要快速响应的场景,模型能启用轻量化推理路径,实现毫秒级反馈;在供应链优化、医疗诊断等需要复杂决策的场景,则启动深度思考模式,依托1280K的超长上下文窗口,能完成多维度信息的关联与逻辑推演,在长文本1280K“大海捞针”评测中,实现接近100%的准确率。
在大模型应用层面,京东内部则已经生长出超1.4万个智能体,解决了超过18%的工作内容。各类大模型应用深入到零售、工业、物流、健康等业务场景。
在所有场景中,工业又是最适合孵化和使用产业大模型的场景之一。中国拥有全球最完整的工业产业体系,也是全球数据资源最丰富的国家,新增数据资源占全球的1/4。
京东工业作为中国领先的工业供应链技术与解决方案服务商,服务超万家重点企业、260万中小企业以及亿级消费者。长期以来,京东工业立足供应链领域,深耕商品数智化、采购数智化、履约数智化、运营数智化等工业场景,积累了丰富的跨行业供应链数据,使京东工业能够发布行业首个工业大模型。
成本、效率、体验极致平衡,打造最适合工业的行业大模型
京东工业大模型Joy industrial在训练时,从成本、效率、体验的三方面考虑出发,为模型更好适配工业供应链场景做出优化。
在成本方面,工业大模型Joy industrial基于Scaling Law,选取了工业应用可取得预期效果的最小规模大模型,并通过T-S(Teacher-Student)模型训练策略,将大量级模型“瘦身”为小量级模型,既能够压降训练、部署和推理成本,也保证Student模型效果与大量级模型接近。
最终工业大模型的后训练所需资源,仅为通用大模型的1/16,如同把“青龙偃月刀”锻造成轻便的“手术刀”,保证了工业大模型的低成本训练、部署和推理使用。
在效率方面,工业大模型引入MoE混合专家网络架构,在推理时仅激活少数适配输入任务的专家子网络,从而降低推理使用成本。同时通过思维链CoT自适应训练,使得领域大模型可根据任务复杂程度,自动适配思维链长度,做到简单问题不过度思考,提升推理效率。最终训练出的工业大模型,推理吞吐量相较通用大模型有8倍提升。
在体验方面,工业大模型通过领域数据合成,汇总并梳理了各种工业场景,形成与场景匹配的领域任务层级,随后通过外部大模型合成高质量多任务学习数据,从而解决了工业碎片化场景数据稀疏的问题。此外,其针对领域任务层级中的各任务场景,设计了可验证的奖励函数,通过强化学习微调,对开源、通用大模型进行领域后训练,从而降低了对工业细分场景的数据依赖。
最终,工业大模型适配工业场景的多个评价指标,相较主流通用大模型都明显领先,成为更擅长工业场景应用的“业务专家”。
凭借这些技术和路线选择,工业大模型Joy industrial能够工业领域成本、效率、体验的最优平衡。同时,其拥有京东工业积累的多模态数据,能够在工业场景的超长供应链搭建智能体,完成复杂协同调度,解决工业供应链的数据孤岛、标准割裂、管理复杂、协同冲突等难题。
未来,依托于工业大模型和AI智能体应用,其将搭建业务协同“三步走“规划:从企业内单一场景、完成单一任务、提升单点效率的“AI员工”;到企业内大范围使用AI员工完成“操作执行”工作,带来“AI组织”重构;最后实现工业供应链上下游企业之间的AI协同、产业共同升级,形成“AI产业生态”。
0 条评论
请「登录」后评论