自建Hadoop迁移到阿里云EMR
自建Hadoop迁移到阿里云EMR
场景描述 场景1:自建Hadoop集群数据(HDFS)迁移到 阿里云EMR集群的HDFS文件系统; 场景2:自建Hadoop集群数据(HDFS)迁移到 计算存储分离架构的阿里云EMR集群,以OSS 和JindoFS作为EMR集群的后端存储。 解决的问题 客户自建Hadoop迁移到阿里云EMR集群的 技术方案; 基于IPSecVPN隧道构建安全和低成本数据 传输链路 产品列表 E-MapReduce,VPC,ECS,OSS,VPN网关。
3台 ECS实例,并执行下面的命令:ECS实例名 执行的命令 hadoop-master hostnamectl set-hostname master hadoop-slave1 hostnamectl set-hostname slave1 hadoop-slave2 hostnamectl set-hostname slave2 hadoop-slave3 hostnamectl set-hostname slave3 说明:建议您在实践过程中,Hadoop集群主机名保持上表规划的一致,...
来自: 最佳实践 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,VPN网关,E-MapReduce,云速搭
CDH迁移升级CDP最佳实践
CDH迁移升级CDP最佳实践
当前 CDH 免费版停止下载,终止服务,针对需要企业版服务能力并且CDH 升级过程对业务影响较小的客户,通过安装新的 CDP 集群,将现有数据拷贝至新集群,然后将新集群切换为生产集群,升级过程没有数据丢失风险,停机时间较短,适合大部分互联网客户升级使用。
实体名称描述,Navigator Managed元数据 Navigator技术元数据,包括:Hive,Impala,Spark,引用到的 HDFS/S3 不能被迁移的 Navigator数据 Navigator审计数据,原来的 Navigator实例会变成“只读”模式,以便查到历史审 计信息 实体元数据,包括:ᅳ hive/spark/impala未引用到的 HDFS/S3 ᅳ Sqoop,Pig,Map-Reduce v1&...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云速搭
EHPC分子动力学最佳实践
EHPC分子动力学最佳实践
本文档以一个简单的分子动力学算例,介绍阿里云EHPC分子动力学最佳实践。
1,"start_pref_f":1000,"limit_pref_f":1,"start_pref_v":0,"limit_pref_v":0 },"learning_rate":{"start_lr":0.001,"decay_steps":1,"decay_rate":0.95 },"training":{"systems":[],"set_prefix":"set","stop_batch":500,"batch_size":1,"seed":1,"_comment":"frequencies counted in batch","disp_file":"lcurve.out",...
来自: 最佳实践 | 相关产品:云服务器ECS,对象存储 OSS,文件存储NAS,弹性高性能计算E-HPC,云速搭CADT
混合云使用Ali-Perseus
混合云使用Ali-Perseus
场景描述 本文介绍了混合云场景中,自建 Kubernetes服务,线下集群+云上弹性扩 展阿里云GPU服务实例+飞天AI加速工 具,并采用阿里云CPFS存储,运行AI训 练+AI推理作业的操作步骤。 解决问题 1.利用云企业网打通两个地域的VPC, 自建Kubernetes集群 2.使用飞天AI加速工具运行训练和推理 作业 3.使用CPFS存储共享数据 产品列表 云企业网CEN GPU云服务器 并行文件存储CPFS 文件存储NAS
混合云使用飞天 AI加速工具 最佳实践 场景描述 部署架构 本文介绍了混合云场景中,自建 Kubernetes服务,线下集群+云上弹性扩 展阿里云 GPU服务实例+飞天 AI加速工 具,并采用阿里云 CPFS存储,运行 AI训 练+...image=registry..../val-test-mpijob created configmap/val-test-mpijob labeled mpijob.kubeflow.org/val-test created INFO[0000...
来自: 最佳实践 | 相关产品:云服务器ECS,文件存储NAS,云企业网
RAPIDS加速图像搜索
RAPIDS加速图像搜索
场景描述 本方案适用于使用RAPIDS加速平台 +GPU云服务器来对图像搜索任务进行加 速的场景。相比CPU,利用GPU+ RAPIDS在图像搜索场景下可以取得非常 明显的加速效果。 解决问题 1.搭建RAPIDS加速图像搜索环境 2.使用容器服务Kubernetes版部署图 像搜索环境 3.使用NAS存储计算数据 产品列表 容器服务Kubernetes版 GPU云服务器 文件存储NAS
使用容器服务 ACK部署 RAPIDS环境 Source:Type:FlexVolume(a generic volume resource that is provisioned/attached using an exec based plugin)Driver:alicloud/nas FSType:SecretRef:ReadOnly:false Options:map[options:nolock,tcp,noresvport path:/server:3d5ba48d8c-ovi54.cn-shanghai.nas.aliyuncs.com vers:3]...
来自: 最佳实践 | 相关产品:云服务器ECS,文件存储NAS,容器服务 ACK
RAPIDS加速机器学习
RAPIDS加速机器学习
场景描述 本方案适用于使用RAPIDS加速库+GPU 云服务器来对机器学习任务或者数据科学 任务进行加速的场景。相比CPU,利用 GPU+RAPIDS在某些场景下可以取得非常 明显的加速效果。 解决问题 1.搭建RAPIDS加速机器学习环境 2.使用容器服务Kubernetes版部署 RAPIDS环境 3.使用NAS存储计算数据 产品列表 容器服务Kubernetes版 GPU云服务器 文件存储NAS
20191209 RAPIDS加速机器学习 使 用容器服 务 A CK部署 RAPIDS环境-Normal ScalingReplicaSet 3m44s deployment-controller Scaled up replica set server-8fdf9b797 to 1 步骤4 获取 pods状态,首次需要拉取镜像,需要十分钟左右变成 running状态。[root@iZuf6568j0n0k9kclo3czqZ~]#kubectl get pods NAME READY STATUS ...
来自: 最佳实践 | 相关产品:云服务器ECS,文件存储NAS,容器服务 ACK
< 1 >
共有1页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用