场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群,为了降低企业大数据计算平台的成本,提高 大数据应用开发效率,更有效保障数据安全,把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute,Dataworks、云数据库Hbase版、Datahub、VPC,ECS。
Kafka迁移到 Datahub 步骤5 预览数据 文档版本:20210723 48 自建Hadoop迁移MaxCompute Azkaban定时任务迁移和改造 6.Azkaban定时任务迁移和改造 本实践方案中,自建 Hadoop集群的数据的流向如下所示:日志发生器→Kafka队列→HDFS文件系统→Azkaba任务 01执行→Hive表 apache_logs→Azkaba任务 99执行→Hbase表 job99_ip_...