将mysql复制到hadoop

xjreopfe  于 2021-06-02  发布在  Hadoop
关注(0)|答案(1)|浏览(373)

我正在寻找一个开源的mysql复制到hadoop,我发现了两个选择,但是
sqoop,flume:不支持实时更新,删除
钨:封闭来源和定价
那么,还有什么工具可以满足这一要求呢?

3gtaxfhh

3gtaxfhh1#

据我所知,Kafka对你的案子很有用。
kafka mysql connector是一个插件,允许您轻松地将mysql更改复制到apachekafka,并从kafka加载到hdfs或hive
对于基于kafkaconnect的mysql->kafka解决方案,请查看优秀的debezium项目。
http://debezium.io/
对于mysql->kafka解决方案,它是一个独立的应用程序,请查看这个连接器所基于的优秀的maxwell项目。
http://maxwells-daemon.io/
希望这有帮助
(注:我没用过这个方法,但你可以试试)

相关问题