与OpenVINO™推断时遇到“Runtimeeror： Can Can Constant Fold Eltwise节点”错误怎么解决？

• 将 模型的精确度更改为 32 位：
  # 将精度设置为 64 位
  - tf.keras.backend.set_floatx（'float64'）
  + tf.keras.backend.set_floatx（'float32'）
  
• 生成 IR 文件，其中 64 位被 32 位替换。
  

举报

在使用 OpenVINO™ 进行推断时，遇到 RuntimeError: Can not constant fold eltwise node 错误通常是由于模型优化器在转换过程中无法对某些节点进行常量折叠（constant folding）操作。常量折叠是模型优化器在转换模型时的一种优化技术，用于简化计算图，减少不必要的计算。

可能的原因和解决方案：

1. 
   

   检查模型结构：

   
   
   
   
   • 确保你的 Keras 模型中没有包含不支持的操作或层。某些自定义层或操作可能不被 OpenVINO™ 的模型优化器支持。
   
   
   • 检查模型中是否有不必要的复杂操作，特别是那些可能涉及动态输入或复杂计算的操作。
   
   
   
   


2. 
   

   更新 OpenVINO™ 版本：

   
   
   
   
   • 确保你使用的是最新版本的 OpenVINO™。新版本可能修复了旧版本中的一些错误或增加了对新操作的支持。
   
   
   
   


3. 
   

   使用 --disable_nhwc_to_nchw 选项：

   
   
   
   
   • 尝试在模型优化器命令中添加 --disable_nhwc_to_nchw 选项，以禁用 NHWC 到 NCHW 的转换。这有时可以解决与 Eltwise 节点相关的问题。
     

     mo --use_new_frontend --framework tf --input_shape --saved_model_dir --output_dir --disable_nhwc_to_nchw

   
   
   
   


4. 
   

   简化模型：

   
   
   
   
   • 如果模型过于复杂，尝试简化模型结构，移除不必要的层或操作，特别是那些可能涉及动态输入或复杂计算的操作。
   
   
   
   


5. 
   

   检查输入形状：

   
   
   
   
   • 确保 --input_shape 参数正确指定了模型的输入形状。错误的输入形状可能导致模型优化器无法正确解析模型。
   
   
   
   


6. 
   

   使用 --log_level DEBUG：

   
   
   
   
   • 在模型优化器命令中添加 --log_level DEBUG 选项，以获取更详细的日志信息。这可以帮助你更好地理解模型优化器在转换过程中遇到的问题。
     

     mo --use_new_frontend --framework tf --input_shape --saved_model_dir --output_dir --log_level DEBUG

   
   
   
   


7. 
   

   手动修改模型：

   
   
   
   
   • 如果问题集中在某个特定的层或操作上，尝试手动修改模型代码，替换或移除该层或操作，然后重新转换模型。
   
   
   
   


8. 
   

   检查 TensorFlow 版本：

   
   
   
   
   • 确保你使用的 TensorFlow 版本与 OpenVINO™ 兼容。某些 TensorFlow 版本可能包含不兼容的更改，导致模型优化器无法正确转换模型。
   
   
   
   

示例命令：

假设你的模型输入形状为 [1, 224, 224, 3]，保存的模型目录为 ./saved_model，输出目录为 ./ir_output，你可以使用以下命令进行转换：

mo --use_new_frontend --framework tf --input_shape [1,224,224,3] --saved_model_dir ./saved_model --output_dir ./ir_output --disable_nhwc_to_nchw --log_level DEBUG

通过以上步骤，你应该能够解决或进一步诊断 RuntimeError: Can not constant fold eltwise node 错误。如果问题仍然存在，建议查阅 OpenVINO™ 的官方文档或社区论坛，获取更多帮助。

mo --use_new_frontend --framework tf --input_shape [1,224,224,3] --saved_model_dir ./saved_model --output_dir ./ir_output --disable_nhwc_to_nchw --log_level DEBUG

举报