sqoop通过bash工作,但不通过oozie工作

ohtdti5x  于 2021-06-03  发布在  Sqoop
关注(0)|答案(2)|浏览(405)

我有一个shell脚本

sqoop import \
  -Dmapreduce.job.queuename=adhoc \
  --connect jdbc:oracle:thin:secret@//secret \
  --query "a select"  \
  --target-dir /apps/hive/warehouse/data.db/fair_usage \
  --delete-target-dir \
  -m 1 \
  --fields-terminated-by '\t'

当我把它放入sh文件并运行它时,它就工作了。但当我试着像一个傻瓜一样跑的时候,它失败了。我尝试同时使用bash操作和sqoop操作。这是sqoop动作。我也试过用 <command>import....</command> 标签。

<action name="export_table" cred="hv_cred">
    <sqoop xmlns="uri:oozie:sqoop-action:0.2">
      <job-tracker>${JOB_TRACKER}</job-tracker>
      <name-node>${NAME_NODE}</name-node>
      <configuration>
        <property>
          <name>mapred.task.timeout</name>
          <value>600000</value>
        </property>
      </configuration>
        <arg>import</arg>
        <arg>-Dmapreduce.job.queuename=adhoc</arg>
        <arg>--connect</arg>
        <arg>jdbc:oracle:thin:secret@//secret</arg>
        <arg>--query</arg>
        <arg>"a select"</arg>
        <arg>--target-dir</arg>
        <arg>/apps/hive/warehouse/data.db/fair_usage</arg>
        <arg>--delete-target-dir</arg>
        <arg>-m</arg>
        <arg>1</arg>
        <arg>--fields-terminated-by</arg>
        <arg>'\t'</arg>
    </sqoop>
    <ok to="END"/>
    <error to="KILL"/>
  </action>

我得到的错误是 Main class [org.apache.oozie.action.hadoop.ShellMain], exit code [1] 为bash和 [org.apache.oozie.action.hadoop.SqoopMain], exit code [1] 为了sqoop。
威奇什么都没告诉我。当我查看日志时,我找不到任何有用的东西。stderr只有30行,没有错误。系统日志较长,但也没有错误。
过了一段时间,新的东西出现了

Container killed on request. Exit code is 143
Container exited with a non-zero exit code 143

编辑
我又试着通过一个shell操作来运行脚本。它成功了。sh没有改变,所以我可能在wirkflow文件中犯了一个错误。我没有保存它的旧版本,所以不能说那是什么错误。
壳作用

<action name='export_table'>
    <shell xmlns="uri:oozie:shell-action:0.1">
      <job-tracker>${JOB_TRACKER}</job-tracker>
      <name-node>${NAME_NODE}</name-node>
      <configuration>
        <property>
          <name>mapred.job.queue.name</name>
          <value>${QUEUE_NAME}</value>
        </property>
      </configuration>
      <exec>bash/export_table.sh</exec>
      <file>bash/export_table.sh#export_table.sh</file>
    </shell>
    <ok to="END"/>
    <error to="KILL"/>
  </action>

仍然不知道为什么sqoop操作不起作用=/
编辑2
几个月过去了,我收回了我的话。该死的斯库普。同样的错误。

y53ybaqx

y53ybaqx1#

这个问题与工作流或sqoop脚本本身无关,而是一些我不知道的内在机制。可能错过了libs?
当我在terminal中运行脚本时,会生成一个java类。这个类似乎描述了如何将配置单元表解析为oracle表或smth。当我启动oozie时,我需要将这个自动生成的文件添加到根目录(带有协调器和工作流的目录)。如果我不这么做,奥齐就失败了。这该死的东西连个错误都不会说(
总之,在将java类添加到root之后,我可以从shell操作运行sqoop。sqoop操作仍然不起作用。我注意到的另一件事是,如果在sqoop中使用

--export-dir /apps/hive/warehouse/db.db/table/

但如果我尝试

--hcatalog-database db \
--hcatalog-table table \

在shell中,它无论如何都会失败。它可能试图将一些库添加到类路径中,但却不能添加或smth。

vwhgwdsa

vwhgwdsa2#

引号在bash中是语法性的,不能作为参数文本传递

<arg>a select</arg>
...
<arg>\t</arg>

编辑:打开文档后https://oozie.apache.org/docs/4.0.0/dg_sqoopactionextension.html
第一个参数可以是命令,而不是第一个参数 <arg> ```
import

相关问题