数码

联发科携手OPPO,共建轻量化大模型端侧部署方案

感谢IT之家网友和软媒新朋友提交线索!

据IT之家10月11日消息,联发科今日宣布,将携手OPPO、华为,共同打造轻量级大机型端侧部署解决方案,共同推动大机型能力在端侧的逐步落地。

_量化模型及软件网_量化模型搭建

▲ 图片来源:联发科官博

据介绍,联发科技AI处理器APU和AI开发平台构建了完整的终端侧AI和生成式AI计算生态系统,可加速边缘AI计算的应用开发和落地,提升大语言模型和生成式AI应用的性能。

联发科表示,通过使用4位量化技术,OPPO的大型模型可以在不损失精度的情况下逐步在设备端实现,并获得更好的性能。

据IT之家此前报道,OPPO小布助手公布了OPPO大机型的最新进展,该机型在评测基准9月排行榜上名列前茅。

量化模型搭建_量化模型及软件网_

▲ 图片来源小布助手公众号

据介绍,为OPPO自主训练的生成式大语言模型于8月初开始与OPPO智能助手小布进行外部测试,旨在对传统语音助手进行内核层面的升级。 在基础能力前十名排行榜中,“知识百科”能力测试得分达到98.33,位列GPT4之后的全国第一。

联发科携手OPPO,共建轻量化大模型端侧部署方案

OPPO此前曾表示,未来该机型将继续支持OPPO智能助手小布的AI能力,并逐步应用到更多OPPO核心产品中。

广告声明:文章中包含的外部跳转链接(包括但不限于超链接、二维码、密码等)用于传达更多信息,节省选择时间。 结果仅供参考。 所有 IT 文章均包含此声明。

相关新闻

返回顶部