已关闭。此问题需要更多focused。目前不接受回答。
**要改进此问题吗?**更新此问题,使其仅针对editing this post的一个问题。
昨天就关门了。
Improve this question的
我是一名初级数据科学家,正在从事一个项目
在我抓取了几个网站后,他们让我自动化抓取过程
我使用scrapy作为这个问题的框架,并使用mongoDB来存储数据。
我做了我的研究,我发现scrapyd和气流可以让你这样做。
我从气流开始,但我发现它相当复杂的气流dags检测我的scrapy项目。根据您的专业知识,什么是最好的方式来自动化scrapy尽可能简单。
谢谢你的帮助
2条答案
按热度按时间jw5wzhpr1#
也许你可以使用Crawlab,点击here!我在工作中使用过5. 0版本,我认为它很好。
hkmswyz62#
你可以试试Scrapyd
使用mongo的示例代码结构
字符串