# 基本配置参数:输入输出 input_type: INPUT_TYPE_ONNX output_type: OUTPUT_TYPE_JOINT # 硬件平台选择 target_hardware: TARGET_HARDWARE_AX620 # CPU 后端选择,默认采用 AXE cpu_backend_settings { onnx_setting { mode: DISABLED } axe_setting { mode: ENABLED axe_param { optimize_slim_model: true } } } # 模型输入数据类型设置 src_input_tensors { color_space: TENSOR_COLOR_SPACE_RGB } dst_input_tensors { color_space: TENSOR_COLOR_SPACE_RGB } # neuwizard 工具的配置参数 neuwizard_conf { operator_conf { input_conf_items { attributes { input_modifications { affine_preprocess { slope: 1 slope_divisor: 256 bias: -0.5 } } # input_modifications { # input_normalization { # mean: [0.485,0.456,0.406] ## 均值 # std: [0.229,0.224,0.255] ## 方差 # } # } } } } dataset_conf_calibration { path: "/root/axera/axera-quan-hjj/dataset/handpose.tar" # 设置 PTQ 校准数据集路径 type: DATASET_TYPE_TAR # 数据集类型:tar 包 size: 100 # 量化校准过程中实际使用的图片张数 batch_size: 16 # calibration_strategy:CALIB_STRATEGY_PER_TENSOR # observer_method: OBSVR_METHOD_MSE_CLIPPING } } # 输出 layout 设置, 建议使用 NHWC, 速度更快 dst_output_tensors { tensor_layout:NHWC } # pulsar compiler 的配置参数 pulsar_conf { ax620_virtual_npu: AX620_VIRTUAL_NPU_MODE_111 # 业务场景需要使用 ISP, 则必须使用 vNPU 111 配置, 1.8Tops 算力给用户的算法模型 batch_size: 1 debug : false }