查找pyspark的vscode

ncgqoxb0  于 2021-05-17  发布在  Spark
关注(0)|答案(1)|浏览(539)

最近我已经安装了vscode并希望开发pyspark应用程序。有人能帮我把现有的pysprak jar添加到可视化代码中吗???我已经在windows上安装了spark并且想使用那些jar(不想再次使用pip安装pyspark)。提前谢谢

rjjhvcjd

rjjhvcjd1#

您不需要向vscode中添加jar,而是在python代码中定义spark submit参数,如下所示

import os 
os.environ['PYSPARK_SUBMIT_ARGS'] = '--packages ...' 

# your spark code

您还可以安装 findspark 将定位spark安装目录的程序包

相关问题