我是新来的flume,我用flume从twitter流数据使用搜索api。但是twitterjson将“geo”键设置为null。那么,有没有一种方法可以在flume中使用流式api来获取twitter数据呢。?
jyztefdp1#
请参考此链接。前段时间我也试着这么做的时候帮了我很多。基本上,您必须执行以下操作:在中创建应用程序https://dev.twitter.com/apps/ 以生成oauth密钥。这一步可能已经完成了,因为你说你已经在过去查询过twitter了。从这里下载专门为twitter设计的cloudera源代码,并通过编辑将这样的jar放入flume类路径中 conf/flume-env.sh 加上这一行:
conf/flume-env.sh
FLUME_CLASSPATH="/home/training/Installations/apache-flume-1.3.1-bin/flume-sources-1.0-SNAPSHOT.jar"
编辑名为“twitteragent”的新twitter代理的flume配置文件,类似于:
TwitterAgent.sources = Twitter TwitterAgent.channels = MemChannel TwitterAgent.sinks = HDFS TwitterAgent.sources.Twitter.type = com.cloudera.flume.source.TwitterSource TwitterAgent.sources.Twitter.channels = MemChannel TwitterAgent.sources.Twitter.consumerKey = <consumerKey> TwitterAgent.sources.Twitter.consumerSecret = <consumerSecret> TwitterAgent.sources.Twitter.accessToken = <accessToken> TwitterAgent.sources.Twitter.accessTokenSecret = <accessTokenSecret> TwitterAgent.sources.Twitter.keywords = <comma-separated list of keywords you are interested in> TwitterAgent.sinks.HDFS.channel = MemChannel TwitterAgent.sinks.HDFS.type = hdfs TwitterAgent.sinks.HDFS.hdfs.path = hdfs://localhost:9000/user/flume/tweets/ TwitterAgent.sinks.HDFS.hdfs.fileType = DataStream TwitterAgent.sinks.HDFS.hdfs.writeFormat = Text TwitterAgent.sinks.HDFS.hdfs.batchSize = 1000 TwitterAgent.sinks.HDFS.hdfs.rollSize = 0 TwitterAgent.sinks.HDFS.hdfs.rollCount = 10000 TwitterAgent.channels.MemChannel.type = memory TwitterAgent.channels.MemChannel.capacity = 10000 TwitterAgent.channels.MemChannel.transactionCapacity = 100
然后,您可以通过发出以下命令来启动twitter flume代理:
$ bin/flume-ng agent --conf ./conf/ -f conf/flume.conf -Dflume.root.logger=DEBUG,console -n TwitterAgent
1条答案
按热度按时间jyztefdp1#
请参考此链接。前段时间我也试着这么做的时候帮了我很多。基本上,您必须执行以下操作:
在中创建应用程序https://dev.twitter.com/apps/ 以生成oauth密钥。这一步可能已经完成了,因为你说你已经在过去查询过twitter了。
从这里下载专门为twitter设计的cloudera源代码,并通过编辑将这样的jar放入flume类路径中
conf/flume-env.sh
加上这一行:编辑名为“twitteragent”的新twitter代理的flume配置文件,类似于:
然后,您可以通过发出以下命令来启动twitter flume代理: