我们的多租户数据摄取平台的最初用例是拉入rss数据、文件元数据和sql查询结果。为此,选择elasticsearch作为数据存储,选择kafka作为微服务消息代理。
新的流、低延迟和时间序列数据是另一个要求。因此,elasticsearch并不是支持aerospike或XDB的竞争者。
最初的计划是将用户帐户和配置数据放到elasticsearch索引/主题中,因为我希望所有内容都在es中。
根据我们不断增长的需求,我可以看到我们可能有各种不同的数据库类型,这取决于用例。继续在es中存储这些信息仍然是个好主意吗?
使用Kafka作为微服务总线。
1条答案
按热度按时间9rygscc11#
既然您是在kafka标签中询问,那么我假设不管用例和它的数据存储是什么,kafka肯定会被使用。
那么为什么不把用户配置存储在kafka中呢?
这听起来像是一个相当小的主题,所以你可以设置保留100年或类似的东西。如果您希望用户配置经常更改,可以将其作为压缩主题。现在,当您启动微服务时,它们只需要阅读本主题并将配置存储在内存中。这将使您能够灵活地为应用程序数据选择正确的数据存储,而无需过多担心配置。