sqoop增量导入参数顺序？

sr4lhrrt 于 2021-05-31 发布在 Hadoop

关注(0)|答案(2)|浏览(412)

我正在尝试从mysql导入一个使用sqoop的增量加载。下面是我在unix控制台上运行的命令：

sqoop job \
    --create sample_job --import -Dmapred.job.queue.name=realtime \
    --connect jdbc:mysql://hostname/db?zeroDateTimeBehavior=convertToNull \
    --driver com.mysql.jdbc.Driver \
    --table SAMPLE_TABLE -m 1 \
    --username tony \
    --password stark \
    --incremental lastmodified \
    --check-column ts \
    --last-value 2018-04-24 \
    --target-dir /some/tmp/location/ \
    --map-column-hive XYZ=tinyint \
    --null-string '\\N' \
    --null-non-string '\\N'

但是，得到一个典型的参数错误：

/usr/hdp/2.6.4.0-91//sqoop/conf/sqoop-env.sh: line 21: HADOOP_CLASSPATH=${hcat -classpath}: bad substitution
     Warning: /usr/hdp/2.6.4.0-91/accumulo does not exist! Accumulo imports will fail.
     Please set $ACCUMULO_HOME to the root of your Accumulo installation.
     18/04/25 11:24:52 INFO sqoop.Sqoop: Running Sqoop version: 1.4.6.2.6.4.0-91
     18/04/25 11:24:52 ERROR tool.BaseSqoopTool: Error parsing arguments for job:

我发现了很多可用的资源，这些资源显示了如何使用命令运行导入，但大多数源代码都没有显示确切的命令行，并且传递了不正确的参数。我在某个地方看到了争论的顺序很重要，所以我试着改变顺序，但没有起作用。这是一个简单的问题，所以有人能告诉我正确的语法吗？
提前谢谢。

hadoop Hive sqoop cloudera hortonworks-data-platform

来源：https://stackoverflow.com/questions/50026149/sqoop-incremental-import-argument-order

2条答案

按热度按时间

iecba09b1#

它正在工作。参数需要在exec期间传递，顺序如下：

sqoop job -Dmapred.job.queue.name=realtime --meta-connect "jdbc:hsqldb:file:/tmp/sqoop-meta.db;shutdown=true" -exec

赞(0）回复(0）举报 2021-06-01

5hcedyr02#

我觉得你的语法有问题。https://sqoop.apache.org/docs/1.4.0-incubating/sqoopuserguide.html#id1769640

$ sqoop job --create myjob -- import --connect jdbc:mysql://example.com/db \
--table mytable
enter code here

第一个参数之间有空格，请在导入参数之前用空格替换命令。

sqoop job \
--create sample_job -- import -Dmapred.job.queue.name=realtime \
--connect jdbc:mysql://hostname/db?zeroDateTimeBehavior=convertToNull \
--driver com.mysql.jdbc.Driver \
--table SAMPLE_TABLE -m 1 \
--username tony \
--password stark \
--incremental lastmodified \
--check-column ts \
--last-value 2018-04-24 \
--target-dir /some/tmp/location/ \
--map-column-hive XYZ=tinyint \
--null-string '\\N' \
--null-non-string '\\N'

赞(0）回复(0）举报 2021-06-01

我来回答

sqoop增量导入参数顺序？

2条答案

相关问题

热门标签

最新问答