问题类型
Bug
你是否在TF nightly版本中复现了该bug?
是的
问题来源
source
Tensorflow版本
2.11.0
自定义代码
是的
OS平台和发行版
Ubuntu 22.04
移动设备
- 无响应*
Python版本
3.9
Bazel版本
- 无响应*
GCC/编译器版本
- 无响应*
CUDA/cuDNN版本
- 无响应*
GPU型号和内存大小
- 无响应*
当前行为?
Check failure when running .python.ops.gen_array_ops.quantize_and_dequantize_v4
独立代码以重现问题
import tensorflow as tf
import os
import numpy as np
from tensorflow.python.ops import gen_array_ops
try:
arg_0_tensor = tf.saturate_cast(tf.random.uniform([2, 3, 4], minval=0, maxval=2, dtype=tf.int64), dtype=tf.uint64)
arg_0 = tf.identity(arg_0_tensor)
input_min = -1
input_max = -1
signed_input = False
num_bits = 7
range_given = True
round_mode = "nan"
narrow_range = True
axis = -2
out = gen_array_ops.quantize_and_dequantize_v4(arg_0,input_min=input_min,input_max=input_max,signed_input=signed_input,num_bits=num_bits,range_given=range_given,round_mode=round_mode,narrow_range=narrow_range,axis=axis,)
except Exception as e:
print("Error:"+str(e))
相关日志输出
023-01-06 09:14:31.245795: F ./tensorflow/python/eager/pywrap_tensor_conversion.h:58] Check failed: !PyErr_Occurred()
Aborted
</details>
3条答案
按热度按时间eaf3rand1#
你好@nimashiri!
感谢你分享了关于gen_array_ops.quantize_and_dequantize_v4在2.11版本和Ubuntu上的使用方法。我在使用TF 2.11、Ubuntu 18和Cuda 11.2 + CudNN 8.1时遇到了以下错误:
你能在Cuda 11.2、CudNN 8.1和TF 2.11的情况下检查一下吗?或者在Cuda 11.7、CudNN 8.2和TF-nightly的情况下也检查一下,然后告诉我们结果。如果可以的话,请也分享一下操作系统和CUDA的详细信息(Ubuntu Arm 64或X86_64,Cuda 11.2或11.7)。
非常感谢!
dfuffjeb2#
从Colab:
从终端:
简单地通过VSCODE运行位于上述代码所在位置的脚本:
通过
subprocess.run()
运行:m0rkklqb3#
@learning-to-play