转自： PaddlePaddle/Paddle-Lite#4680

设备:jetson nano
cuda:10.2.89
opencv 4.1.1
trt:7.1.3.0
cudnn:8.0.0.180
设置predictor代码:

def create_(model, params): 

                  config = AnalysisConfig(model, params)  # 解析模型

                  config.enable_use_gpu(memory_pool_init_size_mb=100, device_id=0)

                  config.switch_ir_optim(True)   # IR优化(默认开启)

                    # 开启TensorRT预测，精度为fp32，开启int8离线量化
                     #config.enable_tensorrt_engine(
                     #                            workspace_size = 1<<30,
                     #                            max_batch_size=1, 
                     #                            min_subgraph_size=5,
                     #                            precision_mode=AnalysisConfig.Precision.Float32,
                     #                            use_static=True, 
                     #                            use_calib_mode=False)

                 config.switch_use_feed_fetch_ops(False) # i

                 config.enable_memory_optim()

                 config.switch_specify_input_names(True)

                 predictor = create_paddle_predictor(config)

                  return predictor

将其中config.enable_use_gpu(memory_pool_init_size_mb=100, device_id=0)注解掉,可以获得正确结果.

目前在C++推理下同样出现该问题，develop分支及2.0.0*分支都已尝试。推理程序已在window(cuda10.0 cudnn7.6)下验证可得到正确结果。