我正在寻找一个开源的mysql复制到hadoop,我发现了两个选择,但是sqoop,flume:不支持实时更新,删除钨:封闭来源和定价那么,还有什么工具可以满足这一要求呢?
3gtaxfhh1#
据我所知,Kafka对你的案子很有用。kafka mysql connector是一个插件,允许您轻松地将mysql更改复制到apachekafka,并从kafka加载到hdfs或hive对于基于kafkaconnect的mysql->kafka解决方案,请查看优秀的debezium项目。http://debezium.io/对于mysql->kafka解决方案,它是一个独立的应用程序,请查看这个连接器所基于的优秀的maxwell项目。http://maxwells-daemon.io/希望这有帮助(注:我没用过这个方法,但你可以试试)
1条答案
按热度按时间3gtaxfhh1#
据我所知,Kafka对你的案子很有用。
kafka mysql connector是一个插件,允许您轻松地将mysql更改复制到apachekafka,并从kafka加载到hdfs或hive
对于基于kafkaconnect的mysql->kafka解决方案,请查看优秀的debezium项目。
http://debezium.io/
对于mysql->kafka解决方案,它是一个独立的应用程序,请查看这个连接器所基于的优秀的maxwell项目。
http://maxwells-daemon.io/
希望这有帮助
(注:我没用过这个方法,但你可以试试)