当前位置:首页 > 厂商动态 > 厂商文章
[导读]在边缘运算设备上,推动低功耗和低延迟深度的学习模型、计算器硬件以及人工智能推理系统这些项目的发展,持续创造令人兴奋的新机遇。

【2021年3月19日,台湾新竹】--在边缘运算设备上,推动低功耗和低延迟深度的学习模型、计算器硬件以及人工智能推理系统这些项目的发展,持续创造令人兴奋的新机遇。业界相关产业对于应用在深度学习的硬件和软件解决方案(也称为Edge AI,边缘运算)的开发产生了前所未有的兴趣。边缘运算已经开始在某些指标性的应用中取得进展,例如音频信号分类(audio classification)中的关键词搜寻(keyword spotting)、异常检测(anomaly detection)以及计算机视觉应用中的人物辨识(person detection)。具体来说,tinyML是专为超低功耗系统量身订作的机器学习分支,具有远大的前景。这个提案中之解决方案的效率极高(功耗为毫瓦(mW),甚至只有微瓦(μW)),加上其可广泛地部署到此类边缘运算在现实环境中设备的适用性,预计在未来5年内,将应用在超过1000亿个IoT传感器和设备。蓄势待发之深度学习科技的未来,将通过比以往更加可负担、具有友善生态系、以及更容易使用的智能科技,提供客户及终端使用者更显着的便利。

晶心科技和Deeplite很高兴地宣布两家公司最新合作成果—通过使用Deeplite独特的优化软件和晶心科技低功耗RISC-V CPU核心研发出具有人工智能运算能力的应用程序(AI-powered applications)。这项合作关系着重于压缩(compressing)并加速(accelerating)著名的视觉唤醒词(Visual Wake Words (VWW))应用程序。微型相机可以利用此类程序,进行人物图像侦测。Deeplite及晶心科技共同获得了领先业界的结果,从利用浮点运算的Mobilenet-v1-0.25x模型中,产出各式优化的INT8模型。本次发表的第一组研发结果侧重于提高精确性,以精度为主的INT8模型优化提高了2.7%的精度,缩小了1.7倍(172 KB)的档案大小以及提高了9%的执行速度。第二组结果主要着重于最大化压缩(maximizing compression)。与TensorFlow Lite Micro提供的INT8 模型相比,本组专注于模型档案尺寸最小化的模块,成功做到缩小2.3倍(127KB)的档案大小,更高的精度(0.7%)和提高了15%的执行速度。(表1)

表1 参考模型和优化模型的模型之档案尺寸,精确性和运行时间之间的参数

利用Deeplite之软件结合晶心科技RISC-V CPU处理器,达到更快、更小、更准的边缘运算

「我们决心为低功耗设备提供最高效,最精确的解决方案,尤其是随着边缘计算类型之AI越来越多地在应用在智能助理、安全监控和智能制造应用中。」 晶心科技技术长兼总经理苏泓萌博士表示。「Deeplite的尖端软件为AI模型优化提供了一种有效的方法,可以增强目前架构的性能。Deeplite支持我们的AndeStar™ V5架构,并已于第一个具有RISC-V P 扩充指令 (DSP SIMD) 的CPU核心D25F上高效率的执行;客户能将之应用在选定的AI模型上。」

「Andes™ RISC-V CPU核心是非常理想的硬件的范例,替Deeplite的模型展示了优化的优点,为低成本、使用电池作为供电的设备,提供了以往无法达成的复杂智能功能。」Deeplite首席执行官Nick Romano说:「随着我们持续在业界最大的挑战上(如视觉唤醒词Visual Wake Words和语音关键词查询keyword spotting)取得领先成果,我们预计由Deeplite软件提供支持的边缘运算AI应用将出现大幅度的成长。」

领先业界的优化Deeplite软件结合晶心科技最新之RISC-V CPU核心,共同应用于tinyML上,可以解锁边缘AI运算之应用,例如语音识别或人物辨识,以满足微控制器等级之内存及计算要求。设备代工厂和应用程序开发人员现在可以为用户提供将其数据保存在终端设备上的优点,并同时提供日常生活中AI所需的实时且无缝式回应。

本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除。
换一批
延伸阅读

联发科与高通骁龙的对决可以说是一场性能与价值的较量,那么,你对两者的芯片有了解吗?在移动设备领域,芯片制造商的竞争愈发激烈。其中,来自台湾的联发科(MediaTek)与美国的高通(Qualcomm)无疑是该领域的两大巨头...

关键字: 联发科 高通骁龙 CPU 处理器

云和超大规模服务运营商正不断增大计算密度。随着 Microsoft Cobalt、阿里巴巴的倚天 710、AmpereOne等配置 128 核或以上的 CPU 设计进入市场,单个封装可实现的性能更强,且下一代的目标还将远...

关键字: CPU 处理器

虽然嵌入式芯片架构市场上有明确的引领者,但该行业正在快速扩张,预计未来几年将出现许多新的机会。当然,在这样的热门行业中,永远有创新技术和新产品的一席之地。

关键字: 嵌入式 处理器 RISC-V

通过与北美J-Squared Technologies、南美Macnica DHW以及日本NEXTY Electronics三家企业深化合作,Hailo实现了迅速成长,并逐步拓宽了其全球商业版图。

关键字: 人工智能 处理器 芯片

双核处理器将是下述内容的主要介绍对象,通过这篇文章,小编希望大家可以对它的相关情况以及信息有所认识和了解,详细内容如下。

关键字: 处理器 双核处理器

康佳特扩展边缘服务器生态系统, 推出 µATX 服务器载板和基于最新英特尔至强处理器的 COMHPC Server模块

关键字: 处理器 服务器 AI

在这篇文章中,小编将为大家带来CPU的相关报道。如果你对本文即将要讲解的内容存在一定兴趣,不妨继续往下阅读哦。

关键字: CPU 集成电路 处理器

芯原可扩展且灵活的DC8200 IP可提供显示设备自适应能力和高质量显示效果,赋能沉浸式视觉体验

关键字: 处理器 人机界面 RISC-V

第五代至强可扩展处理器发布至今,它到底有哪些新特性值得关注?具体应用实践情况又是如何?为了让大家有个全面的了解,在近日举办的2024英特尔数据中心产品技术媒体分享会上,多位英特尔技术专家从技术特性、产品价值、实践应用等角...

关键字: AI 处理器

在迄今为止最大规模的 GTC 大会上,NVIDIA 创始人兼首席执行官黄仁勋带来 NVIDIA Blackwell、NIM 微服务、Omniverse Cloud API 等发布。

关键字: 机器人 生成式 AI 处理器
关闭
关闭