企业数据中台建设思路与技术选型
什么是数据中台
数据中台是企业数据资产的统一管理平台,通过数据采集、清洗、存储、计算、服务化,为前端业务提供统一的数据支撑。
技术架构分层
数据采集层
工具选型:Canal(MySQL Binlog)、Flume(日志采集)、Kafka(消息队列)
数据存储层
ODS(操作数据存储)→ MySQL
DWD(明细数据层)→ ClickHouse
DWS(汇总数据层)→ ClickHouse
ADS(应用数据层)→ Redis + MySQL
数据计算层
离线计算:Spark SQL
实时计算:Flink
即席查询:Presto
实施路径
- 统一数据标准,建立数据字典
- 搭建数据采集管道
- 建设数据仓库分层
- 开发数据服务API
- 构建数据可视化大屏