Tensor存储位置的枚举值定义如下。
- enum TensorPlacement {
- kOnDeviceHbm, // < Tensor位于Device上的HBM内存
- kOnHost, // < Tensor位于Host
- kFollowing, // < Tensor位于Host,且数据紧跟在结构体后面
- kOnDeviceP2p, // < Tensor位于Device上的P2p内存,指的是HBM透到PCIE BAR空间上,可以让NPU跨PCIE能访问的地址空间
- kTensorPlacementEnd
- };
合作咨询
我们的专家服务团队将竭诚为您提供专业的合作咨询服务
解决方案
精准高效的一站式服务支持,助力开发者商业成功