为什么无法使用Dla_compiler在OpenVINO™中编译用于FPGA的IR模型？

答案对人有帮助，有参考价值 0

在使用 OpenVINO™ 编译用于 FPGA 的 IR 模型时，你遇到的错误信息表明，FPGA 插件仅支持 FP16 和 FP32 的输出精度。这意味着你在使用 dla_compiler 编译模型时，模型的输出精度必须设置为 FP16 或 FP32。

可能的原因和解决方案

1. 
   

   检查模型的输出精度：

   
   
   
   
   • 你在使用 Model Optimizer 转换模型时，指定了 --data_type FP16，这确保了模型的输入和中间层的精度为 FP16。然而，模型的输出精度可能仍然保持为其他精度（如 FP64 或 INT8）。
   
   
   • 你需要确保模型的输出精度也是 FP16 或 FP32。可以通过在 Model Optimizer 中明确指定输出精度来实现。
   
   
   
   


2. 
   

   修改 Model Optimizer 命令：

   
   
   
   
   • 你可以在 Model Optimizer 命令中添加 --output 参数，明确指定输出节点的数据类型。例如：
     

     mo --saved_model_dir "{path_savedModelPath}" --input_shape "{lst_inputShape}" --model_name "{str_modelName}" --data_type FP16 --output_dir "{path_irTargetPath}" --output "output_node_name:FP16"

   
   
   • 其中 output_node_name 是你的模型输出节点的名称，FP16 是你希望设置的输出精度。
   
   
   
   


3. 
   

   检查模型的输出节点：

   
   
   
   
   • 如果你不确定模型的输出节点名称，可以使用 OpenVINO 的 netron 工具或其他可视化工具来查看模型的结构，确认输出节点的名称和数据类型。
   
   
   
   


4. 
   

   验证 IR 模型：

   
   
   
   
   • 在编译之前，你可以使用 OpenVINO 的 benchmark_app 或其他工具来验证生成的 IR 模型，确保其输出精度符合 FPGA 插件的要求。
   
   
   
   


5. 
   

   更新 OpenVINO 版本：

   
   
   
   
   • 如果你使用的是较旧版本的 OpenVINO，建议更新到最新版本，以确保你使用的是最新的 FPGA 插件和功能。
   
   
   
   

总结

错误的核心原因是 FPGA 插件仅支持 FP16 和 FP32 的输出精度。你需要确保模型的输出精度符合这一要求。通过修改 Model Optimizer 命令，明确指定输出节点的精度为 FP16 或 FP32，应该可以解决这个问题。如果问题仍然存在，建议进一步检查模型的结构和 OpenVINO 的版本。