智能客服
你问我答,随时在线为你解决问题
Kernel Enhance Kit 为开发者提供内核增强能力,包括服务质量(QoS)调度、Purgeable 内存管理和格物端侧推理服务,帮助开发者优化应用性能、资源管理和用户体验。
QoS:提供任务优先级调度能力,开发者可以根据任务的重要程度和与用户交互的关联程度,为任务设置不同的 QoS 等级,系统会根据 QoS 等级分配 CPU 时间和调度次序,优化应用响应速度和资源利用率。
Purgeable Memory:提供可随时丢弃的内存管理机制,用于存放容易通过重新计算构建的数据。该机制在系统低内存时可以直接释放这些内存,用户访问时再重新构建,适用于存放大块且恢复代价较小的数据。
格物服务:提供 QoS 感知的端侧推理加速和资源管理优化能力,针对端侧推理场景的内存资源受限、算力受限、对功耗敏感等挑战,提供动态按需加载资源、推理加速等功能,保障用户体验的同时实现高效推理。
QoS(Quality of Service)即服务质量,在 HarmonyOS 中主要指任务的优先调度属性。开发者可以利用 QoS 对要执行的工作进行分类,以指示其与用户交互的关联程度;系统则根据任务设置的 QoS 安排各任务的运行时间和运行次序。
HarmonyOS 系统定义了 6 个 QoS 等级,从高到低与用户交互的关联程度依次递减:
| QoS 等级 | 使用场景 | 负载特征 |
|---|---|---|
| QOS_BACKGROUND | 后台且用户不可见任务,例如数据同步、备份 | 任务完成需要几分钟甚至几小时 |
| QOS_UTILITY | 不需要立即看到响应效果的任务,例如下载或导入数据 | 任务完成需要几秒到几分钟 |
| QOS_DEFAULT | 默认 | 任务完成需要几秒钟 |
| QOS_USER_INITIATED | 用户触发并且可见进展的任务,例如打开文档 | 任务在几秒钟之内完成 |
| QOS_DEADLINE_REQUEST | 越快越好的关键任务,如页面加载 | 任务几乎是瞬间完成的 |
| QOS_USER_INTERACTIVE | 用户交互任务(UI 线程、刷新界面、动效) | 任务是即时的 |
Purgeable Memory 指可以随时丢弃的内存区域,用于存放那些很容易通过重新计算构建出来的数据。该数据在系统低内存时可以被直接释放,用户访问的时候再重新构建。Purgeable Memory 适用于存放大块(至少 4K)且恢复代价较小的数据,它在系统压力较大时优先回收(对匿名页采用类似文件页的 drop 形式,而不是压缩),再次使用时需要用户自己恢复数据再使用。
格物服务是针对端侧推理场景的 QoS 感知推理加速和资源管理优化服务。端侧推理场景具有保障用户数据隐私、部署成本低、时延低、不受网络影响的高可用性等优点,但也面临着内存资源受限、算力受限、对功耗敏感等挑战。格物服务通过动态按需加载资源、QoS 感知调度等优化手段,在保障用户体验的同时实现高效推理。
合理使用 QoS 可以显著提升应用性能:
线程执行优化:通过为关键线程设置合适的 QoS 等级,可以减少线程等待时间,提高运行时间占比,减少被抢占的比例。
RN 框架优化:在 RN 框架中合理标记关键线程的 QoS 等级后,开源 benchmark 测试的性能提升了约 13%。
Purgeable Memory 在系统压力较大时优先回收,可以有效缓解内存压力:
格物服务针对端侧推理场景提供以下优化:
智能客服
你问我答,随时在线为你解决问题
合作咨询
我们的专家服务团队将竭诚为您提供专业的合作咨询服务
解决方案
精准高效的一站式服务支持,助力开发者商业成功