Neural Network Runtime Kit | 华为开发者联盟
account24
arrow_back16
arrow_down
arrow_right16
back18
close18
collapse16
expand16
headpic
info28
jumphover16
jumpnormal16
language24
menu18
menu24
more
search24
user
简体中文
简体中文
Русский
English
Español (América Latina)
Português (Brasil)
Français (Europe)
Deutsch
日本語
한국어
App
更多
请输入关键词
文档
管理中心
搜索历史
清除
热门搜索
换一换
1
HarmonyOS NEXT
2
HarmonyOS应用开发
3
HarmonyOS课程专区
4
端云一体化开发
5
快速入门
6
AppGallery Connect
7
HarmonyOS设备开发
8
HMS Core
9
华为主题
10
serverless
11
开发者联盟App
12
推送
消息中心
公告
登录
未认证
管理中心
个人中心
我的学堂
我的消息
我的收藏
我的客服
我的活动
帐号设置
退出
App
文档
登录
返回
我的收藏
个人中心
我的学堂
我的客服
我的活动
帐号设置
退出
返回
返回
搜索历史
热门搜索
1
HarmonyOS NEXT
2
HarmonyOS应用开发
3
HarmonyOS课程专区
4
端云一体化开发
5
快速入门
6
AppGallery Connect
7
HarmonyOS设备开发
8
HMS Core
9
华为主题
10
serverless
11
开发者联盟App
12
推送
Neural Network Runtime Kit
在AI领域的跨芯片推理计算运行时,Neural Network Runtime Kit运行时作为中间桥梁连通上层AI推理框架和底层加速芯片,可以实现AI模型的跨芯片推理计算,为推理框架的开发者降低使用底层不同硬件加速芯片的差异化影响。
支持设备:
手机
平板
2in1
Neural Network Runtime Kit
在AI领域的跨芯片推理计算运行时,Neural Network Runtime Kit运行时作为中间桥梁连通上层AI推理框架和底层加速芯片,可以实现AI模型的跨芯片推理计算,为推理框架的开发者降低使用底层不同硬件加速芯片的差异化影响。
支持设备:
手机
平板
2in1
功能介绍
在线构图
支持通过构图接口,将Caffe、TensorFlow、ONNX等模型在线构图为HarmonyOS内部统一格式的IR图。
模型编译
支持将在线构图生成的IR图下发至芯片驱动层,转换成可以直接推理计算的格式,即图编译结果。
编译结果缓存
支持图编译结果缓存,将结果存储在应用提供的存储路径下。
推理计算
通过调用执行接口,将编译后的AI模型在硬件加速器上运行。
硬件加速器HDI接入
提供标准HDI接口,支持芯片厂商的AI硬件加速器接入HarmonyOS系统。
Native API
Native接口供AI推理框架接入,使用底层芯片加速推理计算。
HDI API
开放南向HDI接口,供端侧AI加速芯片接入系统硬件生态。
优势
跨平台
推理框架支持在HarmonyOS系统不同底层加速芯片的设备上实现推理计算。
高性能
使用专用硬件加速芯片,提升模型推理速度。
低功耗
使用专用硬件加速芯片执行模型推理,降低推理功耗。
联系我们
技术支持
您可以通过在线提单获取更多技术相关的帮助,也可以反馈您对产品的功能建议、用户体验、产品缺陷等。1-2个工作日内可获得客服答复。
开始提单
开发者论坛
与其他开发者及华为工程师进行专业的开发技术交流,学习最新的开发技术,下载优质的开发源码。
访问论坛
智能客服
24小时在线服务、自助式智慧应答,海量知识库,更高效地解答您在注册认证、应用上下架、开放能力接入等工作过程中遇到的问题。
开始咨询
HarmonyOS Developer
>
HarmonyOS NEXT开发者预览版
>
Neural Network Runtime Kit
友情链接
华为官网
华为商城
HarmonyOS
华为终端云空间
花粉俱乐部
华为云
简体中文
简体中文
Русский
English
Español (América Latina)
Português (Brasil)
Français (Europe)
Deutsch
日本語
한국어
华为开发者联盟 版权所有 ©2023-2024
使用条款
|
关于华为开发者联盟与隐私的声明
|
隐私政策
|
cookies
|
开源软件声明
我已经阅读并同意
同意
上一个
2个协议待签署
下一个
提示/Tips
系统错误
关闭/Close