Pypark正在尝试连接到spark主机,但连接被拒绝

vwkv1x7d  于 2021-05-29  发布在  Spark
关注(0)|答案(1)|浏览(471)

我在云中有一个3节点docker swarm集群,有spark master和spark worker服务,spark worker连接到master成功,在spark master ui中,显示spark worker连接:
spark主界面
但是有一个服务运行python脚本,使用pyspark,pyspark尝试连接到spark master,但是在下面的日志中显示连接被拒绝错误:
Pypark日志
我使用nestat显示集群中的侦听端口,spark master(7077)的端口到连接正在侦听:
监听端口
我在网上搜索了好几天没有回复,能帮我吗?谢谢。

cnwbcb6i

cnwbcb6i1#

我查过你的 Docker 。请尝试像这样更改代码
我删除了另一个配置,只是给你举个例子。
基本上我改变了什么
添加了新端口号 - 27017:27017 提供容器名称 container_name: mongoDB 然后主要的问题是db url - DATABASE_URL=mongodb://root:owl45#21@mongoDB:27017/?replicaSet=replica_set #mongodb://<USERNAME>:<PASSWORD>@<ContainerName:PortNumber>/?replicaSet=replica_set ```
version: '3'
services:
database_api:
build: ./database_api_service
image: 127.0.0.1:5050/database_api:database_api
container_name: mongoDB
ports:
- 5000:5000
- 27017:27017
depends_on:
- database_primary
- images
deploy:
replicas: 1
restart_policy:
condition: on-failure
placement:
constraints:
- "node.role==worker"
volumes:
- 'database_api:/database_api'
networks:
- database
- frontend
environment:
- DATABASE_URL=mongodb://root:owl45#21@mongoDB:27017/?replicaSet=replica_set #mongodb://:@ContainerName:PortNumber/?replicaSet=replica_set
- DATABASE_PORT=27017

相关问题