proxy_pool 89代理提供了api接口,可以一次请求全部提取

r1zk6ea1  于 5个月前  发布在  其他
关注(0)|答案(3)|浏览(62)

今天准备重写一下代理池,发现89代理的api可以批量全部获取,第一次先去首页获取全部的数量,第二次直接访问api获取,参考作者代码发现是一个个页面爬取的,如果看得到的话是否考虑改一改,当然,我看这个网址挺快的,也没啥问题

fivyi3re

fivyi3re1#

一次最多获取2800个,一些虽然在首页搜不到,但作为免费代理,差的这些也不重要

zz2j4svz

zz2j4svz2#

感谢。

@staticmethod
def freeProxy14():
"""
89ip.cn api
:return:
"""
request = WebRequest()
url=" https://api.89ip.cn/tqdl.html?api=1&num=3000&port=&address=&isp= "
r = request.get(url, timeout=10)
#yield r.text
proxies = re.findall(r'(\d{1,3}.\d{1,3}.\d{1,3}.\d{1,3}):(\d*)
', r.text)
for proxy in proxies:
yield ':'.join(proxy)

euoag5mw

euoag5mw3#

@staticmethod def freeProxy14(): """ 89ip.cn api :return: """ request = WebRequest() url="https://api.89ip.cn/tqdl.html?api=1&num=3000&port=&address=&isp=" r = request.get(url, timeout=10) #yield r.text proxies = re.findall(r'(\d{1,3}\.\d{1,3}\.\d{1,3}\.\d{1,3}):(\d*)<br>', r.text) for proxy in proxies: yield ':'.join(proxy)

一下子增加了150+免费代理

相关问题