我有一个运行PostgreSQL的Amazon RDS数据库。
我想使用aws_s3
extension将数据导出到Amazon S3存储桶。
它正在成功地工作。然而,我希望它以gzip格式导出数据,因为对于较大的表来说,将其导出为正常的CSV格式需要较长的持续时间。
我的table大小>50 GB。
有没有人能给我推荐一下解决这个问题的最佳方法?
我有一个运行PostgreSQL的Amazon RDS数据库。
我想使用aws_s3
extension将数据导出到Amazon S3存储桶。
它正在成功地工作。然而,我希望它以gzip格式导出数据,因为对于较大的表来说,将其导出为正常的CSV格式需要较长的持续时间。
我的table大小>50 GB。
有没有人能给我推荐一下解决这个问题的最佳方法?
1条答案
按热度按时间kq0g1dla1#
这不是完整的回复,但我目前没有足够的声誉来评论你的问题。
正如我在AWS用于将数据从RDS for PgSQL传输到S3(源)的文档中看到的那样,可以将一些
options
参数传递给aws_s3. query_export_to_s3
,这些参数对应于PostgreSQLCOPY
参数。在转到这个
COPY
documentation时,似乎可以利用PROGRAM
参数将其导出为.gz
文件。下面给出一个例子。不幸的是,我不能亲自测试它,因为我没有在我的示例上安装
aws_s3
扩展的正确权限,并且必须找到解决办法,但这可能会起作用,或者将您引向类似的解决方案。希望这能有所帮助!:)