MindSpore Lite是HarmonyOS内置的轻量化AI引擎,面向全场景构建支持多处理器架构的开放AI架构,使能全场景智能应用,为开发者提供端到端的解决方案,为算法工程师和数据科学家提供开发友好、运行高效、部署灵活的体验,帮助人工智能软硬件应用生态繁荣发展。
目前已经在图像分类、目标识别、人脸识别、文字识别等应用中广泛使用。常用场景如:
MindSpore Lite提供面向不同硬件设备的AI模型推理能力,使用MindSpore Lite的优势如下:
MindSpore Lite已作为系统部件在HarmonyOS标准系统内置,基于MindSpore Lite开发AI应用的开发方式有:
HarmonyOS AI开放层次由上层到底层分别为:
MindSpore Lite Kit:HarmonyOS内置的轻量化AI引擎,提供统一推理接口和多后端硬件加速能力,使能手机、PC/2in1、TV等全场景智能应用。
Neural Network Runtime Kit:面向AI领域的跨芯片推理计算运行时,作为中间桥梁连通上层AI推理框架和底层加速芯片,实现AI模型的跨芯片推理计算。
CANN Kit:海思AI硬件统一开放计算架构,支持 Ascend C NPU自定义编程、端云协同复用。擅长偏重载AI计算、需深度优化性能功耗场景。
Neural Network Runtime Kit可支持系统内置的MindSpore Lite推理框架(MindSpore Lite Kit),MindSpore Lite Kit作为已开放了配置NNRt的Native接口。
MindSpore Lite Kit与NNRt接口对接时无需构图,两者共享同一份模型图格式(MindIR),因此使用MindSpore Lite Kit在NNRt上加载模型比其他AI推理框架更高效。此外,MindSpore Lite还支持通用硬件CPU/GPU与NNRt AI加速硬件之间的模型异构推理功能。
CANN Kit作为麒麟平台的后端接入Neural Network Runtime Kit,支撑Neural Network Runtime Kit于麒麟平台的AI计算能力。CANN Kit构建在底层的硬件驱动和优化的计算库之上,与云侧昇腾芯片统一支持AscendC自定义算子编程语言和相关工具链,是HarmonyOS智能生态的重要基石,为众多领域的智能应用提供核心支撑。