原粒半导体创始人方绍峡:大模型将催生边缘算力需求_虚拟币交易所平台,数字货币,NFT
据界面 6 月 27 日报道,原粒半导体创始人兼 CEO 方绍峡在接受采访时表示,大模型的爆发首先带动的是训练,算力需求目前最紧俏也是这部分,英伟达目前在训练一侧是绝对的霸主。但当大模型训出来后,开放 API 响应广大网友们每天的各种请求,推理的算力价值就会被浮出水面。
According to the report of the interface on March, Fang Shaoxia, the founder and founder of the original grain semiconductor, said in an interview that the outbreak of the big model first drives the demand for training computing power, which is also the most urgent part at present. NVIDIA is the absolute overlord on the training side at present, but when the big model is trained, it will open up and respond to the various requests of netizens every day, and the computing power value of reasoning will be surfaced. 比特币今日价格行情网_okx交易所app_永续合约_比特币怎么买卖交易_虚拟币交易所平台
方绍峡还表示,与云计算的数据中心架构相比,大模型在边缘端的智能计算是在一个已经训练好、有基本智能水平的模型基础上。当边缘端具备多模态大模型的离线学习进化能力时,本地模型将变成私人定制化的东西,数据也无需再往云端上传。这部分推理与训练微调过程主要依赖边缘多模态大模型 AI 算力。
据悉,原粒半导体是一家 AI Chiplet 供应商,公司正式成立于今年 4 月,创始团队来自国际半导体巨头,在 AI 芯片领域深耕多年。该公司目标是通过结合创新的多模态 AI 处理器技术与 Chiplet 设计方法,提供高能效、低成本的通用 AI Chiplet 组件。
原文链接
注册有任何问题请添加 微信:MVIP619 拉你进入群
打开微信扫一扫
添加客服
进入交流群
1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。