目录

MindSpore Lite Kit简介

使用场景

MindSpore Lite是HarmonyOS内置的轻量化AI引擎,面向全场景构建支持多处理器架构的开放AI架构,使能全场景智能应用,为开发者提供端到端的解决方案,为算法工程师和数据科学家提供开发友好、运行高效、部署灵活的体验,帮助人工智能软硬件应用生态繁荣发展。

目前已经在图像分类、目标识别、人脸识别、文字识别等应用中广泛使用。常用场景如:

约束与限制

亮点/优势

MindSpore Lite提供面向不同硬件设备的AI模型推理能力,使用MindSpore Lite的优势如下:

开发流程

图 1 使用MindSpore Lite进行模型推理的开发流程

MindSpore Lite开发流程分为两个阶段:

开发方式

MindSpore Lite已作为系统部件在HarmonyOS标准系统内置,基于MindSpore Lite开发AI应用的开发方式有:

模拟器支持情况

本Kit支持模拟器,但与真机存在部分能力差异,具体差异如下。

与其他Kit的关系

HarmonyOS AI开放层次由上层到底层分别为:

Neural Network Runtime Kit可支持系统内置的MindSpore Lite推理框架(MindSpore Lite Kit),MindSpore Lite Kit作为已开放了配置NNRt的Native接口。

MindSpore Lite Kit与NNRt接口对接时无需构图,两者共享同一份模型图格式(MindIR),因此使用MindSpore Lite Kit在NNRt上加载模型比其他AI推理框架更高效。此外,MindSpore Lite还支持通用硬件CPU/GPU与NNRt AI加速硬件之间的模型异构推理功能。

CANN Kit作为麒麟平台的后端接入Neural Network Runtime Kit,支撑Neural Network Runtime Kit于麒麟平台的AI计算能力。CANN Kit构建在底层的硬件驱动和优化的计算库之上,与云侧昇腾芯片统一支持AscendC自定义算子编程语言和相关工具链,是HarmonyOS智能生态的重要基石,为众多领域的智能应用提供核心支撑。