图片解码内存优化(ArkTS)

内存类型介绍

当前PixelMap的内存类型包括以下两种。

• SHARE_MEMORY：共享内存。需要进行纹理上传。
• DMA_ALLOC：DMA内存。无需纹理上传。

系统提供了createPixelMapUsingAllocator接口，以便用户能够自定义内存分配类型进行解码。接口定义及使用示例详见图片解码接口说明Interface (ImageSource)。

[h2]SHARE_MEMORY和DMA_ALLOC的区别

[h2]使用DMA_ALLOC的优势

• 减少纹理上传时间

  当使用SHARE_MEMORY时，图片数据需通过CPU复制到GPU显存，增加了纹理上传的时间。而采用DMA_ALLOC后，数据直接保存在GPU可访问的内存中，避免了耗时的复制过程。

  • SHARE_MEMORY耗时：4K图片单帧渲染耗时约为20ms。
  • DMA_ALLOC耗时：4K图片单帧渲染时间可降至约4ms。此项优化在大尺寸图片显示和高频动态图片加载场景中效果尤为显著。

• 减轻CPU负载

  DMA_ALLOC允许GPU直接访问解码后数据，减少了内存复制带来的负载。

开发者在使用DMA_ALLOC时，必须关注stride（步幅）与图片宽度的差异，并在数据读取、解析、送显前进行对齐处理。

[h2]使用限制

当前图片解码功能针对内存分配模式有如下限制。

• HDR图片解码仅支持DMA_ALLOC的内存模式。
• 硬件解码仅支持DMA_ALLOC的内存模式。
• SVG格式图片解码仅支持SHARE_MEMORY的内存模式。

使用接口createPixelMapUsingAllocator进行解码时，若设置的内存分配模式，与图片格式或解码方式不匹配，则会抛出内存分配失败的异常。

如果用户选择的分配类型为AUTO，系统将根据解码和渲染的时间综合评估，以决定使用DMA_ALLOC还是SHARE_MEMORY分配机制。

不同的内存分配策略会导致图片的stride（步幅）有所差异。对于通过DMA_ALLOC申请的内存，在对PixelMap执行编辑等操作时，必须使用stride。接下来将介绍如何获取stride。

[h2]获取stride

stride（步幅）描述了图片在内存中每一行像素数据的存储宽度。它是图片绘制过程中的重要参数，用于正确定位图片数据在内存中的布局。

使用DMA分配机制分配内存时，stride必须满足硬件对齐要求。

• stride值需为硬件平台要求字节数的整数倍。
• 当stride值大于等于图片宽度时，系统会自动补齐填充数据（padding）。

stride的值可以通过getImageInfo() 接口获取。

1. 调用getImageInfo()方法，获取ImageInfo对象。

2. 从ImageInfo对象中访问stride值：info.stride。

   // 导入相关模块。
   import { image } from '@kit.ImageKit';
   import { common } from '@kit.AbilityKit';

   async CreatePixelMapUsingAllocator(context: Context, type: image.AllocatorType): Promise<image.PixelMap | undefined> {
     const resourceMgr = context.resourceManager;
     try {
       const rawFile = await resourceMgr.getRawFileContent('99_132.jpg'); // 测试图片为99*132的jpg图。
       let imageSource: image.ImageSource = image.createImageSource(rawFile.buffer as ArrayBuffer);
       let options: image.DecodingOptions = {};
       let pixelmap = await imageSource.createPixelMapUsingAllocator(options, type);
       if (pixelmap != undefined) {
         let info = await pixelmap.getImageInfo();
         // 用DMA_ALLOC内存申请出的pixelmap的stride与SHARE_MEMORY内存申请出的pixelmap的stride不同。
         console.info('stride = ' + info.stride);
       }
       return pixelmap;
     } catch (err) {
       console.error(`Create PixelMap by setting allocator type failed: ${err}.`);
       return undefined;
     }
       
   }

像素格式介绍

图片解码后的像素格式直接影响内存占用大小。当前支持的主要像素格式如下。

[h2]RGBA_8888和YUV格式的区别

[h2]使用YUV格式的优势

• 显著降低内存占用

  以4K图片（3840×2160）为例：

  • RGBA_8888内存占用：3840 × 2160 × 4 ≈ 33.2MB
  • NV21内存占用：3840 × 2160 × 1.5 ≈ 12.4MB
  • 内存节省约62.5%，可有效降低应用内存压力。

• 减少格式转换开销

  JPEG等格式的图片在硬件解码时，解码器可直接输出YUV格式数据，减少格式转换开销。

• SVG格式和TIFF格式的图片不支持解码为YUV像素格式。
• YUV格式不含Alpha通道，有透明度需求的图片应使用RGBA_8888格式。

[h2]设置YUV像素格式

使用YUV格式解码时，需在DecodingOptions中设置desiredPixelFormat参数，并推荐配合DMA内存分配使用。

async CreatePixelMapWithYUV(context: Context): Promise<image.PixelMap | undefined> {
  const resourceMgr = context.resourceManager;
  try {
    const rawFileDescriptor = await resourceMgr.getRawFd('test.jpeg');
    let imageSource: image.ImageSource = image.createImageSource(rawFileDescriptor);

    // 设置YUV像素格式和DMA内存分配，实现最优解码性能。
    let options: image.DecodingOptions = {
      desiredPixelFormat: image.PixelMapFormat.NV21  // 设置为YUV格式，也可选择NV12。
    };
    let pixelmap = await imageSource.createPixelMapUsingAllocator(options, image.AllocatorType.DMA);

    if (pixelmap != undefined) {
      let info = await pixelmap.getImageInfo();
      console.info('YUV PixelMap created, stride = ' + info.stride + ', pixelFormat = ' + info.pixelFormat);
    }
    return pixelmap;
  } catch (err) {
    console.error(`Create PixelMap with YUV format failed: ${err}.`);
    return undefined;
  }
}

系统默认的内存分配方式

使用createPixelMap或createPixelMapSync解码时，系统自动选择共享内存或DMA内存。

需要指定内存类型时，应调用createPixelMapUsingAllocator或createPixelMapUsingAllocatorSync，将allocatorType设置为image.AllocatorType.DMA或image.AllocatorType.SHARE_MEMORY。

解码单张图片的内存限制

为了防止内存溢出导致系统崩溃，系统对进程内存做了限制，详细说明请参考应用被查杀问题检测方法。

图片框架对单张图片的解码设置了2GB的内存限制。进程需要主动管理自身内存，建议在不使用PixelMap时及时释放，以避免进程被系统终止。

应用可使用onMemoryLevel监听系统内存变化情况。

PixelMap申请像素内存的计算规则如下所示。

pixels_size(像素内存大小) = stride(图片像素存储宽度) * height(图片像素高度)

对于原始像素内存超过2GB且支持下采样的图片，建议开发者使用createPixelMap或createPixelMapUsingAllocator接口，并在DecodingOptions中设置desiredSize（期望输出大小）进行下采样解码。

从API version 21开始，对于支持下采样解码的图片，设置desiredSize（期望输出大小）后，解码器将以基准梯度为1/8的最优下采样率计算PixelMap的像素内存，即按照7/8、6/8、...、1/8的采样率，逐次递减取一个清晰度最高的采样数。

图片框架内，不同图片格式的下采样解码支持情况如下所示。