proxy_pool 爬出来的ip地址,好多都不能用

pexxcrt2  于 5个月前  发布在  其他
关注(0)|答案(8)|浏览(75)

使用Postman的Proxy功能, 发送的请求很多都是500
请问有小伙伴有解决的方法吗

mznpcxlj

mznpcxlj1#

我在云服务器上跑的,一个都不能用,但是本地跑却有几个能用,很奇怪。

ogq8wdun

ogq8wdun2#

免费的代理,失效了很正常

ikfrs5lh

ikfrs5lh3#

我觉得问题在于代理的可用性是用百度去检测的,能访问百度不一定能访问你的目标网页。感觉可以在配置文件里弄个自定义检测url

5cg8jx4n

5cg8jx4n4#

好些ip有问题,猜测原因1.被拉入网站黑名单了 2.有验证密码

ktca8awb

ktca8awb5#

使用后是这样的:Could not open CONNECT tunnel with proxy 180.149.145.139:80 [{'status': 400, 'reason': b'Bad Request'}]

zu0ti5jz

zu0ti5jz6#

发现,不好使的都是 Cookie rejected [BAIDUID="F12BE6D25A6DFF0F00CC8BFB613BA6EB:FG=1", version:0, domain:baidu.com, path:/, expiry:Mon May 17 16:13:56 CST 2021] Illegal 'domain' attribute "baidu.com". Domain of origin: "yunhq.sse.com.cn"。 有方法避免这种的ip吗

vom3gejh

vom3gejh7#

网站来源大多是freeproxy09,大多失效的也在这里面。

wztqucjr

wztqucjr8#

发现,不好使的都是 Cookie rejected [BAIDUID="F12BE6D25A6DFF0F00CC8BFB613BA6EB:FG=1", version:0, domain:baidu.com, path:/, expiry:Mon May 17 16:13:56 CST 2021] Illegal 'domain' attribute "baidu.com". Domain of origin: "yunhq.sse.com.cn"。 有方法避免这种的ip吗

修改校验的部分

proxy_pool/Util/utilFunction.py

Lines 79 to 94 in 1522e1e

| | defvalidUsefulProxy(proxy): |
| | """ |
| | 检验代理是否可用 |
| | :param proxy: |
| | :return: |
| | """ |
| | ifisinstance(proxy, bytes): |
| | proxy=proxy.decode("utf8") |
| | proxies= {"http": "http://{proxy}".format(proxy=proxy)} |
| | try: |
| | r=requests.get('http://www.baidu.com', proxies=proxies, timeout=10, verify=False) |
| | ifr.status_code==200: |
| | returnTrue |
| | exceptExceptionase: |
| | pass |
| | returnFalse |

相关问题