OpenExplorer
地平线官网
地平线智能汽车开发者社区
地平线官网
地平线智能汽车开发者社区
中文

hbDNNDataType

typedef enum { HB_DNN_IMG_TYPE_Y, HB_DNN_IMG_TYPE_NV12, HB_DNN_IMG_TYPE_NV12_SEPARATE, HB_DNN_IMG_TYPE_YUV444, HB_DNN_IMG_TYPE_RGB, HB_DNN_IMG_TYPE_BGR, HB_DNN_TENSOR_TYPE_S4, HB_DNN_TENSOR_TYPE_U4, HB_DNN_TENSOR_TYPE_S8, HB_DNN_TENSOR_TYPE_U8, HB_DNN_TENSOR_TYPE_F16, HB_DNN_TENSOR_TYPE_S16, HB_DNN_TENSOR_TYPE_U16, HB_DNN_TENSOR_TYPE_F32, HB_DNN_TENSOR_TYPE_S32, HB_DNN_TENSOR_TYPE_U32, HB_DNN_TENSOR_TYPE_F64, HB_DNN_TENSOR_TYPE_S64, HB_DNN_TENSOR_TYPE_U64, HB_DNN_TENSOR_TYPE_BOOL8, HB_DNN_TENSOR_TYPE_MAX } hbDNNDataType;

张量的类型。

S 代表有符号，U 代表无符号，F 代表浮点型，后面的数字代表bit数。

HB_DNN_IMG_TYPE_NV12 与 HB_DNN_IMG_TYPE_NV12_SEPARATE 都代表NV12的数据，只是在存储上有差异。

  • HB_DNN_IMG_TYPE_NV12 的 Y 数据和 UV 数据存在一块内存中，准备输入时将数据放在 hbDNNTensor.sysMem[0] 中即可。

  • HB_DNN_IMG_TYPE_NV12_SEPARATE 的 Y 数据和 UV 数据是分开存储的，Y 数据存放在 hbDNNTensor.sysMem[0] 中， UV 数据存放在 hbDNNTensor.sysMem[1] 中。

  • 成员

成员名称描述
HB_DNN_IMG_TYPE_Y张量类型为仅有Y通道的图片。
HB_DNN_IMG_TYPE_NV12张量类型为一张NV12的图片。
HB_DNN_IMG_TYPE_NV12_SEPARATE张量类型为Y通道及UV通道为输入的图片。
HB_DNN_IMG_TYPE_YUV444张量类型为YUV444为输入的图片，J6已弃用。
HB_DNN_IMG_TYPE_RGB张量类型为RGB为输入的图片，J6已弃用。
HB_DNN_IMG_TYPE_BGR张量类型为BGR为输入的图片，J6已弃用。
HB_DNN_TENSOR_TYPE_S4张量类型为有符号4bit。
HB_DNN_TENSOR_TYPE_U4张量类型为无符号4bit。
HB_DNN_TENSOR_TYPE_S8张量类型为有符号8bit。
HB_DNN_TENSOR_TYPE_U8张量类型为无符号8bit。
HB_DNN_TENSOR_TYPE_F16张量类型为浮点型16bit。
HB_DNN_TENSOR_TYPE_S16张量类型为有符号16bit。
HB_DNN_TENSOR_TYPE_U16张量类型为无符号16bit。
HB_DNN_TENSOR_TYPE_F32张量类型为浮点型32bit。
HB_DNN_TENSOR_TYPE_S32张量类型为有符号32bit。
HB_DNN_TENSOR_TYPE_U32张量类型为无符号32bit。
HB_DNN_TENSOR_TYPE_F64张量类型为浮点型64bit。
HB_DNN_TENSOR_TYPE_S64张量类型为有符号64bit。
HB_DNN_TENSOR_TYPE_U64张量类型为无符号64bit。
HB_DNN_TENSOR_TYPE_BOOL8张量类型为布尔8bit。
HB_DNN_TENSOR_TYPE_MAX代表最大的张量类型编号。