tensorflow 能够解析非Example protos而不使用Eager Execution的能力,

eyh26e7m  于 4个月前  发布在  其他
关注(0)|答案(2)|浏览(96)

系统信息

  • TensorFlow版本2.4.0:
  • 你是否愿意为其做出贡献(否):
    描述功能和当前行为/状态。

我正在尝试在不使用eager执行的情况下使用Waymo开放数据集。数据不是以tf.data.examples格式组织的,而是以自定义的序列化proto格式组织的。与eager兼容的方法类似于这样:example.ParseFromString(raw_record.numpy()),这依赖于eagerTensor的numpy兼容性。我认为通过引入tf.experimental.numpy可以解决这个问题,但它似乎不支持像普通numpy数组那样进行迭代。是否有计划为tensorflow numpy添加迭代支持,或者支持反序列化除tf.Examples之外的其他proto?

这会改变当前的API吗?如何改变?

如果采用迭代方法,它不会改变API,因为迭代方法目前已经存在,但在调用时会抛出错误。其他方法可能需要对proto反序列化进行API扩展。

谁将从这个功能中受益?

Waymo Open数据集的用户将受益,以及任何希望将其数据格式化为自定义proto的人。Tf.example格式对于结构化或分层数据可能很困难。

yyhrrdl8

yyhrrdl81#

我也遇到了这个问题,真的很烦人。在图模式下,TensorFlow自己的数据集格式无法被解析。我们需要一个类似于example.ParseFromString的函数,可以接受非急切Tensor。

h4cxqtbf

h4cxqtbf2#

你好,
感谢你打开这个问题。由于这个问题已经开放了很长时间,这个问题的代码/调试信息可能与当前代码库的状态不相关。
Tensorflow团队正在不断通过修复错误和添加新功能来改进框架。我们建议你尝试使用最新的TensorFlow version 和最新的兼容硬件配置,这可能会解决该问题。如果你仍然遇到问题,请创建一个新的GitHub问题,附上你的最新发现以及所有有助于我们调查的调试信息。
请按照 release notes 了解Tensorflow空间中最新发展的动态。

相关问题