京东言犀大模型成绩单：落地数百场景 服务数十万商家

6月6日, 在东东云城大会上, 庆东云全面展示了大规模模型应用的影响, 大模型技术能力的升级, 新一代数字基础设施对大模型的支持, 以及工业知识变革的持续加速。

　　

京都东玉总参谋长报告说,围绕大型模型的平台建设和景观应用进行了深入探索,从虚拟数字锚定到AIGC制作的营销材料、商业业务的全部情报、智能运载工具的稳步运行,大型模型应用已经达到实地数百项应用,为数十万家企业提供服务,并向企业和用户全面展示了大型模型的技术红利。

1. 适用于京都场景的大型模型深度

自去年7月正式发布《普通话模型》以来,京都一直在试验在自己的地貌上进行大型模型着陆,并依靠自己的供应链场景,在现场胶带货物、商店经营和广告等领域大型模型技术商业化方面取得单一的突破。

在内容生产方面,90 000多家企业通过大型模型、零成本商店营销材料、商品细节等营销材料的二级生产以及AIGC50%以上的内容采纳率,实现了大幅削减。

在数字广播方面,大型的庆东云国话模型现已以5 000多个品牌播出,总计近100亿个GMV。 今年4月,“清洁东港AI 数字人 ” ( Cleaning East Chong Kong AI Digital Maman)在一小时之内推出了一部现场广播磁带,有2 000多万观众观看,这也是在现场应用中数字数字数字价值创造的一个里程碑。

2. 大规模自研究技术加速应用模型

应用大型模型的关键是实现资源、业绩和影响之间更好的平衡。

Jingdong Cloud自我研究推理引擎,综合规模模型,为大型模型行业的生存提供了最佳做法,例如,利用投机性解码来补充大型模型与小型模型的推理,加快大型模型推理进程,并降低成本。

在开发大规模模型应用方面,庆东云自我研究模型产品支持更有效的研发工作。

在代码书写中,自我研究辅助代码助理JoyCoder帮助研发人员更有效地制作、阅读和优化代码。 目前,京都数千名研究人员正在使用JoyCoder(JoyCoder ), 生成了超过30%的代码采纳率,而贡献的开发周期则减少了20%。

在运输服务方面,自我研究的云型智能平台,提供指标异常检测、日志分析、缺陷定位等,在QPS达到数千万次交通时,仍然可用99.9%,使监测访问更加简单,故障反应更及时,效率更高。

3. 支持大型模型的新一代基础设施

为了加强工业应用,庆东云启动了一套全面的模型工具,包括支持大型模型应用的基础设施,如Rhino AI等核心产品,开发计算平台、病媒数据库、混合云型操作系统的云船、高性能储存平台以及软硬虚拟引擎(京都)。

其中,Rhino AI开发了一个计算平台,该平台经过近一年的连续研磨后,可以提供一站式示范服务,从基本资源、模型服务到智能体力建设,这样大型模型的能力就能够很容易地到达每一个开发者手中。

　　

在基本资源方面,平台支持按照主流的内部和外部人工智能芯片、实现跨芯片部署和发送的技术模块化以及充分利用群集识数资源,对通用节能码资源进行综合管理。

在示范服务方面,平台提供生命周期服务,从示范数据编制、示范培训和微调到部署和评价,支持Vanca一级的分散培训,实现动态资源的综合管理。

在智能体力构造方面,该平台提供一系列多模块组件和应用框架,如文字图画、语音识别和检索增强型发电、智能体等AI应用框架,可在分钟一级启动,以帮助企业以敏感和效率开发AI应用。

展望未来,京都希望与伙伴合作,推动建立具有更丰富应用景观和领先技术能力的工业情报模型。

注册有任何问题请添加 微信：MVIP619 拉你进入群

文章转载注明 网址：https://netpsp.com/?id=67663