1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253545556575859606162636465666768697071727374 |
- # 基本配置参数:输入输出
- input_type: INPUT_TYPE_ONNX
- output_type: OUTPUT_TYPE_JOINT
- # 硬件平台选择
- target_hardware: TARGET_HARDWARE_AX620
- # CPU 后端选择,默认采用 AXE
- cpu_backend_settings {
- onnx_setting {
- mode: DISABLED
- }
- axe_setting {
- mode: ENABLED
- axe_param {
- optimize_slim_model: true
- }
- }
- }
- # 模型输入数据类型设置
- src_input_tensors {
- color_space: TENSOR_COLOR_SPACE_RGB
- }
- dst_input_tensors {
- color_space: TENSOR_COLOR_SPACE_RGB
- }
- # neuwizard 工具的配置参数
- neuwizard_conf {
- operator_conf {
- input_conf_items {
- attributes {
- input_modifications {
- affine_preprocess {
- slope: 1
- slope_divisor: 256
- bias: -0.5
- }
- }
- # input_modifications {
- # input_normalization {
- # mean: [0.485,0.456,0.406] ## 均值
- # std: [0.229,0.224,0.255] ## 方差
- # }
- # }
- }
- }
- }
- dataset_conf_calibration {
- path: "/root/axera/axera-quan-hjj/dataset/handpose.tar" # 设置 PTQ 校准数据集路径
- type: DATASET_TYPE_TAR # 数据集类型:tar 包
- size: 100 # 量化校准过程中实际使用的图片张数
- batch_size: 16
- # calibration_strategy:CALIB_STRATEGY_PER_TENSOR
- # observer_method: OBSVR_METHOD_MSE_CLIPPING
- }
- }
- # 输出 layout 设置, 建议使用 NHWC, 速度更快
- dst_output_tensors {
- tensor_layout:NHWC
- }
- # pulsar compiler 的配置参数
- pulsar_conf {
- ax620_virtual_npu: AX620_VIRTUAL_NPU_MODE_111 # 业务场景需要使用 ISP, 则必须使用 vNPU 111 配置, 1.8Tops 算力给用户的算法模型
- batch_size: 1
- debug : false
- }
|