功能集 功能 功能描述 参考文档 DBFS特性 原子写 支持DIRECT IO的原子写,需按4K,8K,16K对齐-共享读写 一份数据可共享式多点挂载并进行读写,读写可线性扩展-存储加密 通过对数据库文件存储实施加密,可以确保数据库文件存储上的所有数据...
本文介绍如何将E-MapReduce提供的分布式文件存储系统上的数据迁移到 文件存储 HDFS 版 文件系统。背景信息 开源大数据开发平台E-MapReduce(简称EMR)是运行在阿里云平台上的一种大数据处理系统解决方案。EMR on ECS是指EMR在ECS上运行的...
本文列举了在文件存储NAS上搭建Windows应用程序的最佳实践案例。IIS服务 通过Windows IIS服务访问阿里云NAS 在NAS SMB卷上搭建IIS+WordPress+MYSQL 在NAS SMB卷上用Visual Studio调试ASP.NET+SQLServer项目并部署到IIS服务 IIS 服务在阿里...
云存储网关使用Windows权限控制管理数据访问权限 使用Windows权限控制功能实现基于访问权限的枚举 解决方案 云存储网关跨境数据传输最佳实践 云存储网关:将云上文件同步至线下存储的一种方案 利用云存储网关实现数据分层存储 如何在Linux...
如果您想在文件存储NAS上搭建Windows应用程序,请参见 Windows应用程序。如果您想将文件存储NAS用于内容管理系统和Web服务应用程序,为网站及应用程序提供高效存储服务,请参见 Web服务和内容管理。更多有关文件存储NAS应用场景的最佳方案...
本文介绍通用型NAS文件系统的文件存储类型。存储类型 通用型NAS文件系统提供了为实现低成本存储而设计的不同文件存储类型,分别为标准存储、低频存储和归档存储。其中,低频存储和归档存储均为分级存储类型。标准存储:提供高可靠、高可用...
通用型NAS定价 各计费项的具体计费价格,请参见 文件存储NAS产品定价。NAS产品定价中明确了存储容量的单价为 元/GiB/月,但按量付费的计算方法为 存储容量小时峰值×每小时单价。因此在计算存储容量费用时,需要先将存储容量费用的单价转换...
阿里云文件存储NAS推出的生命周期管理功能,可以帮助您将低频访问的冷文件数据从标准存储转换到低频存储或归档存储中,并采用低频存储或归档存储计费方式,从而减少文件系统的存储费用。本文主要介绍生命周期的策略、使用限制、应用场景、...
重要 数据清理之前仍会继续计费,如果您确认不再使用 文件存储 HDFS 版 存储服务,请务必删除 文件存储 HDFS 版 上的数据。无法找回 查看欠费金额 登录 费用与成本。在 首页 页面的 总待还款金额 区域,查看欠费金额。
本文介绍如何在 文件存储 HDFS 版 上使用TensorFlow。前提条件 已开通 文件存储 HDFS 版 服务并。具体操作,请参见 开通文件存储HDFS版服务。已完成创建文件系统、添加挂载点和挂载文件系统。具体操作,请参见 快速入门。已为Hadoop集群...
本文介绍挂载及卸载 文件存储 HDFS 版 文件系统的操作。前提条件 已为ECS实例安装JDK,且JDK版本不低于1.8。已创建 文件存储 HDFS 版 文件系统并添加挂载点。具体操作,请参见 创建文件系统 和 添加挂载点。已安装Hadoop客户端,建议您使用...
本文介绍了阿里云文件存储NAS的产品规格、操作系统、协议类型、网络及功能使用限制等。产品规格 限制项 说明 每个账号在单个地域内可创建的文件系统数量 通用型NAS:20个 极速型NAS:200个 单个文件系统可创建挂载点的数量 通用型NAS:2个 ...
} } 读文件 读文件即为获取 文件存储 HDFS 版 上某个指定文件的内容。通过调用FileSystem实例的open方法获取读文件的输入流,然后使用该输入流读取 文件存储 HDFS 版 的指定文件的内容。读文件代码样例如下。读文件*@param filePath*@...
本文主要介绍如何使用Fuse-DFS工具实现 文件存储 HDFS 版 在本地文件系统的映射。前提条件 已 创建文件系统 和 添加挂载点。已为Hadoop集群所有节点安装JDK,且JDK版本不低于1.8。建议您使用的Hadoop版本不低于2.7.2,本文使用的Hadoop版本...
背景信息 当E-MapReduce已经成功运行在阿里云 文件存储 HDFS 版 上时,ECS挂载的云盘只用来存储运算中的临时Shuffle文件,可以选择卸载原来用于构建E-MapReduce HDFS服务的云盘,降低集群的拥有成本。重要 从数据安全性考虑,数据迁移后...
本文主要介绍如何在 文件存储 HDFS 版 上搭建及使用Presto。前提条件 已开通 文件存储 HDFS 版 服务并创建文件系统实例和挂载点。具体操作,请参见 文件存储HDFS版快速入门。已搭建Hadoop集群并且所有集群节点已安装JDK,JDK版本不低于1.8...
本文主要介绍在 文件存储 HDFS 版 上使用Apache HBase的方法。前提条件 已开通 文件存储 HDFS 版 服务并创建文件系统实例和挂载点。具体操作,请参见 文件存储HDFS版快速入门。已为Hadoop集群所有节点安装JDK,且JDK版本不低于1.8。已部署...
文件存储类型 计费项 计费项Code 每GiB存储容量消耗资源包容量系数 说明 标准型存储 通用型NAS存储容量(容量型/性能型)VolumeSize 容量型:1 高级型:2.43 性能型:5.47 容量型:每1 GiB通用型资源包基准容量可抵扣1 GiB容量型存储容量...
实践一:将 文件存储 HDFS 版 上的数据迁移至对象存储OSS 执行以下命令,在 文件存储 HDFS 版 实例上生成100 GB测试数据。{HADOOP_HOME}/bin/hadoop jar \${HADOOP_HOME}/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.8.5.jar \ ...
本文介绍如何配置E-MapReduce上的Hadoop-Common服务、Hive服务、Spark服务、Tez服务来使用 文件存储 HDFS 版。前提条件 已完成数据迁移。具体操作,请参见 E-MapReduce数据迁移。配置Hadoop-Common服务 登录 阿里云E-MapReduce控制台。在...
在进行顺序读与随机读的测试之前需要确保 文件存储 HDFS 版 之上已有指定的待测数据,如果没有待测数据请使用顺序写先生成待测数据再进行顺序读与随机读的测试。测试环境 配置名称 配置说明 计算VM配置 CPU核数:4核 内存:16 GB 机器数量...
本文介绍如何在挂载 文件存储 HDFS 版 的Hadoop集群上安装及使用Apache Flink。前提条件 已开通 文件存储 HDFS 版 服务并创建文件系统实例和挂载点。具体操作,请参见 文件存储HDFS版快速入门。已为Hadoop集群所有节点安装JDK,且JDK版本不...
本文主要介绍如何在挂载 文件存储 HDFS 版 的Hadoop集群上安装及使用Apache Spark。前提条件 已开通 文件存储 HDFS 版 服务并创建文件系统实例和挂载点。具体操作,请参见 文件存储HDFS版快速入门。已为Hadoop集群所有节点安装JDK,且JDK...
推荐的做法是使用RAM身份(即RAM用户和RAM角色)来访问文件存储CPFS。RAM用户 RAM用户需要由阿里云账号(即主账号)或拥有管理员权限的RAM用户、RAM角色来创建,且必须在获得授权后才能登录控制台或使用API访问阿里云账号下的资源。对于RAM...
推荐的做法是使用RAM身份(即RAM用户和RAM角色)来访问文件存储CPFS。RAM用户 RAM用户需要由阿里云账号(即主账号)或拥有管理员权限的RAM用户、RAM角色来创建,且必须在获得授权后才能登录控制台或使用API访问阿里云账号下的资源。对于RAM...
推荐的做法是使用RAM身份(即RAM用户和RAM角色)来访问文件存储NAS。RAM用户 RAM用户需要由阿里云账号(即主账号)或拥有管理员权限的RAM用户、RAM角色来创建,且必须在获得授权后才能登录控制台或使用API访问阿里云账号下的资源。对于RAM...
OSS-HDFS服务使用OSS Bucket存储HDFS数据及其辅助数据,这些数据均存储于Bucket中的.dlsdata/路径下,并产生相应的OSS存储容量的计量和计费。OSS-HDFS文件数据块block OSS-HDFS文件的所有数据块block均占用OSS Bucket的存储空间。OSS-HDFS...
已在需要访问 文件存储 HDFS 版 的ECS上配置Hadoop环境。具体操作,请参见 配置Hadoop 和 部署依赖。背景信息 云企业网CEN(Cloud Enterprise Network)是运行在阿里云私有全球网络上的一张高可用网络。通过转发路由器TR(Transit Router)...
实践一:将 文件存储 HDFS 版 的数据迁移到MySQL 将 文件存储 HDFS 版 的数据迁移到MySQL,需要先在MySQL上创建好对应数据结构的表,然后在集群Sqoop节点上使用 sqoop export 命令进行迁移。此处以迁移文件存储HDFS版/sqoop2mysql/table/...
接口说明 该功能免费公测中,公测期间不保障 文件存储 NAS 服务等级协议(SLA)。仅极速型 NAS 高级型支持创建快照。一个文件系统最多支持创建 128 份快照。文件系统挂载的实例必须处于正常状态,否则无法创建快照。如果创建快照还未完成,...
云存储网关文件网关支持标准(Standard)类型、低频访问(IA)类型和归档存储类型的OSS Bucket。如果没有开启网关的归档管理功能(具体的归档管理设置,请参见 管理共享 里操作步骤6),那么在已归档的文件上发起读操作请求时还是会同步...
变量 说明 示例值 bucket 原始文件存储空间(Bucket)名称。test-bucket key 原始文件保存在存储空间中的资源名。重要 使用该变量时请避免将输出文件和输入文件设置为相同文件,否则会覆盖源文件或在批处理时循环触发。path1/path2/name....
3.3 配置脱敏后文件的存储位置 OSS数据源不支持添加水印,直接配置脱敏后文件到目标Bucket中存储,本示例选择 结果集 形式保存,文件名可以自定义,文件类型必须为 csv、xls 或 txt。3.4 配置脱敏任务的触发方式 目前针对OSS文件脱敏任务,...
接口说明 该功能免费公测中,公测期间不保障 文件存储 NAS 服务等级协议(SLA)。仅极速型 NAS 高级型支持该功能。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK...
路径下*.csv 文件存储在 oss 中。TransferFileListPath 仅支持 Import、Export 功能。Import 的场景,会将 csv 文件中指定的文件或者目录,从 oss 导入到 cpfs。Export 的场景,会将 csv 文件中指定的文件或者目录,从 cpfs 导出到 oss csv...
路径下*.csv 文件存储在 oss 中。TransferFileListPath 仅支持 Import、Export 功能。Import 的场景,会将 csv 文件中指定的文件或者目录,从 oss 导入到 cpfs。Export 的场景,会将 csv 文件中指定的文件或者目录,从 cpfs 导出到 oss csv...
日志前缀 日志文件存储的目录。如果指定此项,则日志文件将保存在目标Bucket的指定目录下。如果不指定此项,则日志文件将保存在目标Bucket的根目录下。例如,日志前缀指定为 log/,则日志文件将被记录在 log/目录下。授权角色 授权OSS通过...
统计文件存储容量大小。打开csv清单文件,文件中的C列数据总大小即为bill前缀所有文件的总存储容量,单位为字节。(可选)删除清单规则。设置清单报告导出周期为 每天,能够满足您快速获取清单文件的需求。在清单规则未被删除前,OSS会按照...
您可以在文件存储NAS控制台 文件系统列表 页面,单击目标文件系统后的 管理,进入 挂载使用 页面获取挂载地址。更多信息,请参见 管理挂载点。NAS文件系统目录。mnt:当前服务器上挂载NAS的本地路径。预期返回示例如下所示:ops/s ...
您可以通过调整core-site.xml配置、TestDFSIO配置或避免使用小文件来优化集群性能。调整core-site.xml配置 在测试集群吞吐性能之前建议在core-site.xml文件...将存储在 文件存储HDFS版 上的小文件聚合成大文件会对整体的分析性能有较大帮助。