123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778 |
- # 基本配置参数:输入输出
- input_type: INPUT_TYPE_ONNX
- output_type: OUTPUT_TYPE_JOINT
- # 硬件平台选择
- target_hardware: TARGET_HARDWARE_AX620
- # CPU 后端选择,默认采用 AXE
- cpu_backend_settings {
- onnx_setting {
- mode: DISABLED
- }
- axe_setting {
- mode: ENABLED
- axe_param {
- optimize_slim_model: true
- }
- }
- }
- # 模型输入数据类型设置
- src_input_tensors {
- color_space: TENSOR_COLOR_SPACE_RGB
- }
- dst_input_tensors {
- color_space: TENSOR_COLOR_SPACE_NV12
- }
- # neuwizard 工具的配置参数
- neuwizard_conf {
- operator_conf {
- input_conf_items {
- attributes {
- input_modifications {
- affine_preprocess {
- slope: 1
- slope_divisor: 255
- bias: 0
- }
- }
- }
- }
- }
- dataset_conf_calibration {
- path: "/root/axera/axera-quan-hjj/dataset/cocopose.tar" # 设置 PTQ 校准数据集路径
- type: DATASET_TYPE_TAR # 数据集类型:tar 包
- size: 50 # 量化校准过程中实际使用的图片张数
- batch_size: 1
- }
- dataset_conf_error_measurement {
- path: "/root/axera/axera-quan-hjj/dataset/cocopose.tar" # 用于编译过程中对分
- type: DATASET_TYPE_TAR
- size: 50 # 对分过程所需实际数据个数为 4
- batch_size: 16
- }
- evaluation_conf {
- path: "neuwizard.evaluator.error_measure_evaluator"
- type: EVALUATION_TYPE_ERROR_MEASURE
- source_ir_types: IR_TYPE_ONNX
- ir_types: IR_TYPE_LAVA
- score_compare_per_layer: true
- }
- }
- # 输出 layout 设置, 建议使用 NHWC, 速度更快
- dst_output_tensors {
- tensor_layout:NHWC
- }
- # pulsar compiler 的配置参数
- pulsar_conf {
- ax620_virtual_npu: AX620_VIRTUAL_NPU_MODE_111 # 业务场景需要使用 ISP, 则必须使用 vNPU 111 配置, 1.8Tops 算力给用户的算法模型
- batch_size: 1
- debug : false
- }
|