回顾TFF(tensorflow-federated)的教程,似乎使用TFF执行联邦平均和梯度下降迭代是很好理解的,可以很容易地完成。然而,对于其他训练场景,如决策树训练,我不清楚这样的实现是否容易获得。特别是,TF-DF(Tensorflow决策森林)是否与TFF很好地集成。如果是这样,有没有人有一个例子来实现回归树训练?谢谢。
iqjalb3h1#
虽然TensorFlow Federated的Federated Learning API提供了使用基于梯度的方法(例如,基于梯度的方法)的预封装算法。例如FedAvg算法),TFF也有一个Federated Core API,它对任何特定的机器学习范式都是不可知的。这个较低级别的API用于实现tff.learning中的算法,并可用于实现联邦决策树风格的算法。在教程Building Your Own Federated Learning Algorithm中,可以更改“模型”的定义方式,并使用Keras以外的东西。
tff.learning
jdg4fx2g2#
遇到了同样的问题。这不是一个答案,更多的是一个评论,但我没有声誉,所以我回答。我一直在尝试 Package 一个tfdf模型,它似乎工作,只是我一直得到相同的精度。https://github.com/tensorflow/federated/issues/3847我认为问题可能是tff最适合于序列模型,因为模型需要使用梯度来优化模型参数,如损失函数。这是典型的神经网络和梯度下降模型。好吧,在做了一些挖掘我的队友和我发现,“不像反向传播,RF的训练不会“传输”损耗梯度从其输出到其输入。“https://www.tensorflow.org/decision_forests/api_docs/python/tfdf/keras/RandomForestModel然后通过进一步的挖掘,我们发现了这个有趣的tfdf模型,它使用梯度下降来优化模型,将输出“传输”回输入!https://www.tensorflow.org/decision_forests/api_docs/python/tfdf/keras/GradientBoostedTreesModel目前正在尝试它,并会让yall知道,如果这是解决。希望这对未来的隐私工程师有帮助,因为这花了一周的时间来研究,没有人谈论它。可能还是不行,但有意义;)[编辑]最好在这里回答:https://github.com/tensorflow/federated/issues/3847
2条答案
按热度按时间iqjalb3h1#
虽然TensorFlow Federated的Federated Learning API提供了使用基于梯度的方法(例如,基于梯度的方法)的预封装算法。例如FedAvg算法),TFF也有一个Federated Core API,它对任何特定的机器学习范式都是不可知的。
这个较低级别的API用于实现
tff.learning
中的算法,并可用于实现联邦决策树风格的算法。在教程Building Your Own Federated Learning Algorithm中,可以更改“模型”的定义方式,并使用Keras以外的东西。jdg4fx2g2#
遇到了同样的问题。这不是一个答案,更多的是一个评论,但我没有声誉,所以我回答。
我一直在尝试 Package 一个tfdf模型,它似乎工作,只是我一直得到相同的精度。https://github.com/tensorflow/federated/issues/3847
我认为问题可能是tff最适合于序列模型,因为模型需要使用梯度来优化模型参数,如损失函数。这是典型的神经网络和梯度下降模型。
好吧,在做了一些挖掘我的队友和我发现,“不像反向传播,RF的训练不会“传输”损耗梯度从其输出到其输入。“https://www.tensorflow.org/decision_forests/api_docs/python/tfdf/keras/RandomForestModel
然后通过进一步的挖掘,我们发现了这个有趣的tfdf模型,它使用梯度下降来优化模型,将输出“传输”回输入!https://www.tensorflow.org/decision_forests/api_docs/python/tfdf/keras/GradientBoostedTreesModel
目前正在尝试它,并会让yall知道,如果这是解决。希望这对未来的隐私工程师有帮助,因为这花了一周的时间来研究,没有人谈论它。可能还是不行,但有意义;)
[编辑]最好在这里回答:
https://github.com/tensorflow/federated/issues/3847