无法使用pig从hbase加载数据

fgw7neuy  于 2021-06-10  发布在  Hbase
关注(0)|答案(1)|浏览(353)

我尝试从hbase表加载所有数据。里面有10093条记录。这是我的Pig剧本

  1. register 'zookeeper.jar'
  2. register 'hbase-server-0.98.6-cdh5.3.2.jar'
  3. result = LOAD 'hbase://clf_transaction_train'
  4. USING org.apache.pig.backend.hadoop.hbase.HBaseStorage(
  5. 'cf:features cf:content', '-loadKey true')
  6. AS ( content:bytearray, features:bytearray);
  7. rmf $output;
  8. STORE result INTO '$output';

脚本工作正常--没有任何错误消息。但只载入100条记录。
我该怎么修?谢谢。

fdbelqdn

fdbelqdn1#

您可以尝试修改hbase扫描仪超时:

  1. <property>
  2. <name>hbase.rpc.timeout</name>
  3. <value>60000</value>
  4. </property>
  5. <property>
  6. <name>hbase.client.scanner.timeout.period</name>
  7. <value>60000</value>
  8. </property>
  9. <property>
  10. <name>hbase.cells.scanned.per.heartbeat.check</name>
  11. <value>10000</value>
  12. </property>

更多详情请点击此处http://www.cloudera.com/documentation/enterprise/5-6-x/topics/admin_hbase_scanner_heartbeat.html

相关问题