我想知道是否有可能在Storm中操纵jpg文件?如果jpg或pdf文件从一个螺栓传输到另一个螺栓,我们应该预料到任何问题吗?我们处理这些文件的量非常大,需要一个分布式平台来跟上。据我所知,消息(希望是文件)会在两个螺栓之间进入内存队列。在Storm中,有人试图在螺栓之间传递jpg或pdf文件吗?是否有任何限制会阻止它工作?如果不是风暴,有人能重新推荐一个合适的平台吗?谢谢你的帮助!
yr9zkbsy1#
我从来没有尝试过这个,但是我用大元组做了一些实验,效果很好。我不希望有任何问题。只要您能够提供适当的(反)序列化(最好通过kryo),storm就不关心它是什么数据。对storm来说,所有东西都像一堆字节一样锁定(除了用于 fieldsGrouping ).您也可以查看apache flink(免责声明:我是一个贡献者)
fieldsGrouping
1条答案
按热度按时间yr9zkbsy1#
我从来没有尝试过这个,但是我用大元组做了一些实验,效果很好。我不希望有任何问题。只要您能够提供适当的(反)序列化(最好通过kryo),storm就不关心它是什么数据。对storm来说,所有东西都像一堆字节一样锁定(除了用于
fieldsGrouping
).您也可以查看apache flink(免责声明:我是一个贡献者)