<meta name="keywords" content="庄家克星时时彩,Tengine,人工智能,神经群集" />

Tengine,能够是最好用的Arm嵌入式系统AI框架了!

宣布时间:2018年09月14日 16:09    宣布者:eechina
要害词: Tengine , 人工智能 , 神经群集
边缘AI应用正处于年夜规模落地的前夕,巨年夜的IoT市场和革命性的AI手艺发生的强烈交互将带来史无前例的应用革命和商业时机。那么在边缘装备部署AI应用的瓶颈都有哪些?

        有人有现成的芯片和应用处景,却为缺乏算法战斗台忧?。
        有人有自己的算法,却为缺乏一个好用的嵌入式跨平台框架而忧?。
        有人有自己的算法和硬件平台,却为嵌入式平台无限算力忧?。

OPEN AI LAB看到了业界痛点,顺应市场需求推出了专为嵌入式平台设计的AI推理框架——Tengine。

专门针对Arm嵌入式装备优化的神经群集推理引擎

OPEN AI LAB于2016年12月培植,由Arm中国联全家当错误提议,起劲于推动芯片、硬件、算法、软件所有家当链的深度协作,加速人工智能家当化应用部署和应用处景界线拓展。Tengine就是一款轻量级模块化高性能的神经群集推理引擎,专门针对Arm嵌入式装备优化。完善支持Arm平台,支持Arm Cortex CPU,Arm Mali GPU,Arm DLA,第三方DSP,可谓兼容“万能王”。

而开发者可以应用Tengine一网打尽主流框架模子和嵌入式操作系统,还能异构调剂平台里的种种硬件,充实应用硬件算力。此外,Tengine还供应了有数AI应用算法,网罗图象检测,人脸识别,语音识别等。不懂AI没紧要,上手便可以跑AI应用。Tengine同时还支持种种有数卷积神经群集,网罗SqueezeNet,MobileNet,AlexNet,ResNet等,支持层融合、8位量化等优化战略。而且经由历程挪用针对不合CPU微构架优化的HCL库,将Arm CPU的性能充实掘客出来。

image002.jpg

Tengine的“发念头”——HCL盘算库

有人说NCNN是一个为手机端极致优化的高性能神经群集前向盘算框架,从设计之初深刻推敲手机真个部署和应用。在之前,NCNN确切是这样的,只是那时间还没有Tengine。

现在,HCL盘算库作为Tengine的插件,是性能最快的Arm CPU NN盘算库,而且支持静态8位量化盘算,精度简直稳固,相比于NCNN最快能带来2-3倍的性能提升,内存应用增添为三分之一。

image004.png


*Tengine性能数据A72,A53性能基于RK3399平台测试,A17性能基于RK3288平台测试

NCNN数据为2018年9月7日

HCL INT8量化盘算精度变换
 FP32INT8Diff
 TOP1TOP5TOP1TOP5TOP1TOP5
MobileNetv167.86%87.60%66.40%86.44%-1.46%-1.16%
SqueezeNet57.86%79.86%57.80%79.92%-0.06%0.06%
GoogLeNet68.48%88.82%68.70%88.82%0.22%0.00%
ResNet5071.60%89.90%71.60%89.86%0.00%-0.04%
*接纳ILSVRC2012_VAL数据集测试5000张图片取得量化精度测试效果以下

Tengine + HCL,不合人群的量身定制

Tengine作为AI 应用框架,不只对下层应用供应推理API接口,支持主流模子与名堂,还在下层界说硬件接口,适配嵌入式平台种种盘算模块,此外支持同时运转多个AI应用算法和挪用多个盘算模块盘算。是以,Tengine的面世对AI开源生态具有里程碑的意义。有了Tengine,应用和算法厂商可以挣脱严重年夜的嵌入式平台适配使命,合营HCL直接掘客硬件的所有潜能;有了Tengine,芯片厂能够站在Arm 嵌入式AI生态的肩膀上,以最快的速率顺遂将芯片推向市场,在边缘AI应用中部署。作为OPEN AI  LAB为边缘AI应用部署开发的两年夜利器,Tengine + HCL将助力嵌入式人工智能家当加速向前推动,为事实完成万物智能供献实力。
迎接分享本文,转载请生涯出处:http://badahub.com/thread-547267-1-1.html     【打印本页】
您须要登录后才可以揭晓议论 登录 | 急速注册

厂商推荐

相关文章

关于我们  -  服务条目  -  应用指南  -  站点舆图  -  友谊链接  -  联系我们
庄家克星时时彩-时时彩qq群-时时彩平台推荐 © 版权所有   | 京公网安备110108881021702
回顶部
幸运五张-幸运五张规则-掌联幸运五张安卓版 捕鱼达人3-捕鱼达人3无限金币免费版 北京pk10-北京pk10新凤凰-凤凰pk10预测 安徽福彩网-安徽福彩快3网上购买 888棋牌游戏-盛大娱乐棋牌平台-棋牌电玩城送彩金 助赢时时彩-韩国时时彩助赢-韩国时时彩助赢计划 亿酷棋牌-象棋棋牌-棋牌游戏娱乐下载 北京pk10开奖-pk10赛车群-pk10开奖首选网上手游 qq捕鱼大亨-千炮捕鱼-qq游戏捕鱼大亨 时时彩后二-时时彩后二技巧-时时彩后二计划 开心棋牌-娱乐棋牌送救济金-四方棋牌送救济金 11选5软件-快赢11选5软件-11选5玩法 波克棋牌-现金牛牛棋牌-亲朋棋牌游戏手游 亲朋棋牌-舟山99棋牌-唐朝电玩城棋牌 天逸时时彩-时时彩开奖结果-时时彩全天计划稳赢版