Discuz! Board

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 106|回复: 0

手动将数据从 Amazon Redshift

[复制链接]

2

主题

2

帖子

8

积分

新手上路

Rank: 1

积分
8
发表于 2023-11-11 14:58:29 | 显示全部楼层 |阅读模式
加载到 Snowflake 您可以自己将数据从 Redshift 移动到 Snowflake,但这很复杂并且需要高级数据工程知识。您将需要使用 AWS Glue DataBrew  (一种可视化数据准备工具,可规范和清理数据以进行分析)以及 Amazon 的完全托管集成服务 AppFlow(也是 AWS 服务的一部分)。 有一些在线指南可以帮助您通过 Glue DataBrew 将数据集传输到 Snowflake。所有这些都会告诉您设置 Amazon S3 存储桶、身份和访问管理 (IAM) 角色、Glue DataBrew 项目和 AppFlow 流。 如果您没有任何经验,以这种方式将数据移动到 Snowflake 可能会导致各种问题。如果出错,您可能会影响查询性能或遇到并发、并行处理、复制、分区和可扩展性方面的问题。

了解更多:  AWS Redshift 与其他数据仓库 Integrate.ioIntegrate.io 现代数据团队的统一堆栈 与解决方案工程师一起获得个性化平台演示和 30 分钟问答环节 公司电子邮件地址 使用 ETL 工具进行 Snowflake 数 巴林电话号码列表 据集成 提取、转换、加载 (ETL) 是将数据传输到目标系统的数据集成过程。在本例中,该系统是 Snowflake。您可以从 Amazon Redshift 中提取数据,将其传输为正确的格式,然后通过构建手动数据管道自行将其加载到 Snowflake,以 确保数据在这些仓库 之间的顺畅流动 。然而,这种方法与使用 AWS Glue DataBrew 一样,需要高级数据工程技能。



它还使用过多的计算资源和带宽。如果您在 Redshift 和 Snowflake 之间创建管道时犯了错误,您将面临数据丢失、架构更改和查询性能受损的风险。 这就是成功企业使用 ETL 工具来自动化 ETL 流程的原因。这些平台在有限的人工干预下提取、转换 Redshift 数据并将其加载到 Snowflake,这使得它们成为没有编程知识或数据工程 团队的公司的不错选择 。当您使用自动化工具时,您仍然可以控制您的数据。此外,最好的 ETL 平台通过加密、访问控制和其他安全功能来保护敏感信息,从而改善数据治理。

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|DiscuzX

GMT+8, 2026-1-13 19:18 , Processed in 0.039790 second(s), 18 queries .

Powered by Discuz! DISCUZ_VERSION

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表