设为首页   {dede:toptype}中财网 欢迎您~!

新闻发布
新媒体矩阵

芯原超低能耗NPU可为移动端大语言模型推理提供超40 TOPS算力

具备高能效比的架构,广泛适用于智慧手机和AI PC等终端设备

中国上海--(美国商业资讯)--芯原股份(芯原,股票代码:688521.SH)今日宣布其超低能耗且高性能的神经网络处理器(NPU)IP现已支持在移动端进行大语言模型(LLM)推理,AI算力可扩展至40 TOPS以上。该高能效NPU架构专为满足移动平台日益增长的生成式AI需求而设计,不仅能够为AI PC等终端设备提供强劲算力支持,而且能够应对智慧手机等移动终端对低能耗更为严苛的挑战。

芯原的超低能耗NPU IP具备高度可配置、可扩展的架构,支持混合精度计算、稀疏化优化和并行处理。其设计融合了高效的内存管理与稀疏感知加速技术,显著降低计算负载与延迟,确保AI处理流畅、响应迅速。该NPU支持数百种AI算法,如AI降噪(AI-NR)和AI超分(AI-SR)等,并兼容Stable Diffusion和LLaMA-7B等主流AI模型。同时,该NPU IP还可与芯原其他处理器IP无缝集成,实现异构计算,助力SoC设计者打造满足多元化应用需求的AI解决方案。

此外,芯原的超低能耗NPU IP还支持TensorFlow Lite、ONNX和PyTorch等主流AI框架,可加速客户在不同AI应用场景中的部署进程并简化集成工作。

“智能手机等移动设备正逐步演变为个人AI服务器。随着生成式AI(AIGC)和多模态大语言模型技术的快速发展,市场对AI算力的需求呈指数级增长,并已成为移动产品的关键差异化要素。”芯原首席战略官、执行副总裁、IP事业部总经理戴伟进表示,“在支持高强度AI计算负载的过程中,能耗控制是最关键的挑战之一。芯原持续深耕面向智慧手机和AI PC的超低能耗的NPU研发,并通过与主流SoC合作伙伴的紧密协作,见证了该技术在新一代智慧手机和AI PC中实现量产。”

关于芯原

芯原微电子(上海)股份有限公司(芯原股份,688521.SH)是一家依托自主半导体IP,为客户提供平台化、全方位、一站式芯片定制服务和半导体IP授权服务的企业。了解更多信息,请访问:http://www.verisilicon.com

在 businesswire.com 上查看源版本新闻稿: https://www.businesswire.com/news/home/20250606865725/zh-CN/

CONTACT:

媒体联络:press@verisilicon.com

腾讯网友:哥只是寂寞
评论:> 我说:要有上班以外的生活!于是,老婆告诉我这个可以有、于是:我有了加班!

网易网友:Leians-旧人心
评论:老师说过早恋是不好的,我们很听话,只会暗恋

搜狐网友:惆怅 ▍ Burlk
评论:我的优点是:我很淑女;但是我的缺点是:我淑女的不明显。

天涯网友:柔眸1  Demon
评论:我来到我们来过的小路,捡起我们可耻的幸福。

百度网友:Bus 站台的女孩■
评论:你复杂的五官,掩饰不了你朴素的智商。

其它网友::Destiny. 宿命。
评论:世界上最最废话的就是那句写在烟盒上面的“吸烟有害健康”。

猫扑网友:強顏歡笑ソ
评论:请别说谎,因为你能骗到的,都是相信你的人。

天猫网友:昔年°  /21c
评论:连贝克汉姆都不知道,你丫还有什么资格敢跟我谈篮球

凤凰网友:心高气昂,,
评论:人生没有彩排,每天都是直播;不仅收视率低,而且工资不高。

本网网友:逆光Presumptuous≈
评论:每个人出生时都是原创的,但可悲的是,很多人渐渐活成了盗版的。

相关阅读