data-pipeline
2 篇文章
DATA
◆Big Data Deep Dive · 6
AWS 大数据深度剖析(第 6 部分):端到端数据管道 —— 从数据源到特征存储
把所有环节串联起来:追踪一个点击事件如何从客户端 SDK 经过 API Gateway、MSK、Firehose、S3、数仓分层(ODS→DWD→DWS→ADS),最终写入 DynamoDB 用于实时服务。
10 分钟
DATA
◆Big Data Deep Dive · 5
AWS 大数据深度解析(第五部分):EMR、Glue ETL、Flink 与管道编排
对比 EMR Serverless、Glue ETL、Managed Flink,选出合适的计算引擎;再用 MWAA(Airflow)与 Step Functions 编排数据管道。
14 分钟