我想知道spark worker的内核数和流性能的影响。上下文是spark独立配置,有2个主进程和6个spark工作进程。应用程序是KafkaSpark流。Kafka0.8.2.1和spark 1.5.1
一些研究员将核心数从9修改为12,奇怪的是,一个kafka流应用程序从200 msg/s传递到120 msg/s。物理上,每个spark worker节点是16gb和6个处理器。
我验证了spark workers节点上没有内存交换或cpu开销。
你知道吗?
我想知道spark worker的内核数和流性能的影响。上下文是spark独立配置,有2个主进程和6个spark工作进程。应用程序是KafkaSpark流。Kafka0.8.2.1和spark 1.5.1
一些研究员将核心数从9修改为12,奇怪的是,一个kafka流应用程序从200 msg/s传递到120 msg/s。物理上,每个spark worker节点是16gb和6个处理器。
我验证了spark workers节点上没有内存交换或cpu开销。
你知道吗?
暂无答案!
目前还没有任何答案,快来回答吧!