本文档介绍如何将开源HDFS的数据平滑地迁移到 文件存储 HDFS 版。背景信息 当前业界有很多公司是以Hadoop技术构建数据中心，而越来越多的公司和企业希望将业务顺畅地迁移到云上。文件存储 HDFS 版 可以帮助您实现将开源HDFS的数据迁移到云...
背景信息 Sqoop 是一款开源的工具，主要用于在Hadoop和结构化数据存储（例如关系数据库）之间高效传输批量数据。既可以将一个关系型数据库（MySQL、Oracle、Postgres等）中的数据导入 文件存储 HDFS 版 中，也可以将 文件存储 HDFS 版 的...
表格存储支持通过命令行工具或者DataX工具直接下载数据到本地文件。您也可以通过DataWorks工具将数据同步到OSS后再在OSS侧下载数据到本地文件。下载方式 请根据所需文件格式选择合适的方式进行数据下载，详细说明请参见下表。导出文件格式 ...
本文介绍了由于数据文件过多导致存储空间被占满的问题描述、解决方案以及后续维护等内容。问题描述 PolarDB MySQL版 集群可能会由于数据文件长时间未整理导致占用过多存储空间，且在集群的 空间分析 页面的 空间变化趋势 区域中确认数据...
您可以将 文件存储 HDFS 版 数据迁移到对象存储OSS，也可以将对象存储OSS的数据迁移到 文件存储 HDFS 版。前提条件 已开通 文件存储 HDFS 版 服务并创建文件系统实例和挂载点。具体操作，请参见 文件存储HDFS版快速入门。已搭建Hadoop集群...
数据库文件存储已与操作审计服务集成，您可以在操作审计中查询用户操作数据库文件存储产生的管控事件。操作审计支持将管控事件投递到日志服务SLS的LogStore或对象存储OSS的存储空间中，满足实时审计、问题回溯分析等需求。操作审计记录了...
尊敬的阿里云用户，阿里云将于2023年05月04日起调整数据库文件存储计费方式。调整时间 2023年05月04日18:00:00。调整地域 华东1（杭州）、华东2（上海）、华北2（北京）、华南1（深圳）。调整内容 调整前 调整后 计费方式 按小时计费，不足...
尊敬的阿里云用户，阿里云将于2023年01月30日起调整数据库文件存储（公测）按量付费价格。调整时间 2023年01月30日00:00:00。调整地域 华东1（杭州）、华东2（上海）、华北2（北京）、华南1（深圳）。调整内容 版本类型 调整前单价（GB/...
说明 云备份（Cloud Backup）作为阿里云统一灾备平台，是一种简单易用、敏捷高效、安全可靠的公共云数据管理服务，可以为阿里云ECS整机、ECS数据库、文件系统、NAS、OSS、Tablestore 以及自建机房内的文件、数据库、虚拟机、大规模NAS等...
为了保证在更换文件存储系统的过程中文件数据不丢失，需要暂停数据处理服务（例如：YARN服务、Hive服务、Spark服务、HBase服务等），HDFS服务仍需保持运行。此处以停止Hive服务为例进行说明。在CDH Web主页，找到Hive服务，在右侧的操作...
本文介绍如何将E-MapReduce HDFS上的数据迁移到 文件存储 HDFS 版 文件系统。背景信息 阿里云E-MapReduce是构建在阿里云云服务器ECS上的开源Hadoop、Spark、Hive、Flink生态大数据PaaS产品。提供用户在云上使用开源技术建设数据仓库、离线...
创建一个CPFS文件系统与源端存储的数据流动。接口说明 基础操作 文件存储 CPFS 2.2.0 及以上版本、智算 CPFS 2.4.0 及以上版本支持数据流动。文件存储 CPFS、CPFS 智算版状态为运行中，才能创建数据流动。一个文件存储 CPFS 或者 CPFS 智算...
使用新购ECS作为数据传输中转节点 上传下载文件数据需要占用ECS公网带宽，建议您新购一台ECS实例专门负责文件数据的上传与下载，避免占用业务带宽。新购ECS挂载NAS文件系统有以下限制：镜像：仅支持ECS官方自营镜像配置自动挂载NAS。如果...
非阿里云服务存储数据迁移至云上NAS 如果您想将线下数据、IDC数据、本地数据等非阿里云服务存储数据迁移至阿里云文件存储NAS，可参照以下方式进行迁移：配置数据传输中转节点 迁移数据至阿里云NAS OSS和NAS之间的数据迁移 对于NAS与OSS之间...
重要 下载文件数据需要占用ECS公网带宽，建议您新购一台ECS实例专门负责文件数据下载，避免占用业务带宽。具体操作，请参见 使用新购ECS作为数据传输中转节点。通过SFTP客户端迁移数据 当有少量文件需要一次性下载时，建议您在本地系统上...
以ECS为例，您可以用Linux系统挂载NFS文件系统或Windows系统挂载SMB文件系统，然后就像访问本地数据一样访问NAS上的文件数据。具体操作，请参见 Linux系统挂载NFS文件系统 和 Windows系统挂载SMB文件系统。您也可以在云上搭建业务应用，在...
本文介绍如何通过ossutil工具或在线迁移服务实现阿里云对象存储OSS和文件存储NAS之间的数据双向迁移。费用说明 使用ossutil工具迁移 ossutil工具本身不收取费用，但是由于迁移数据时涉及到API请求，所以会产生一定的API请求费用。OSS数据...
问题描述 当您使用两个ECS实例挂载同一个NFS文件系统，在ECS A实例上追加写文件，在ECS B实例上使用 tail-f 命令查看文件内容的变化时，在ECS A实例上写完之后，在ECS B实例上查看文件内容变化会有10~30秒的延时。然而相同的场景下，如果...
通过NFSv3协议访问CPFS文件系统 协议服务 在服务器中卸载挂载的文件系统 卸载文件系统 删除文件系统 删除文件系统 与对象存储OSS之间实现数据流动 数据流动 监测文件的使用量 数据监控 备份文件系统中的数据 文件存储CPFS（NFS协议）备份 ...
选择数据存储：选择 阿里云文件存储（NAS）。选择NAS文件系统：在下拉框中选择类型为 NAS 的文件系统。选择上述步骤中已创建的NAS文件系统。选择镜像 本文示例，选择 官方镜像 中的 stable-diffusion-webui-develop:1.0.0-pytorch2.01-gpu-...
使用阿里云对象存储服务（Object Storage Service，简称OSS），您可以通过网络随时存储和调用文本、图片、音频和视频等各种非结构化数据文件。前提条件 已准备好待添加的对象存储OSS数据源。添加对象存储OSS数据源操作步骤 登录 DataV控制...
当您在通用型NAS中写入文件数据产生实际存储容量，则开始计费；当您创建极速型NAS成功后，则根据您创建时配置的容量和时长计费。创建文件系统实例后，就开始计费吗？通用型NAS 创建通用型NAS文件系统，不会产生费用。当您在通用型NAS文件...
本文简要说明非阿里云数据迁移至阿里云文件存储NAS的费用说明、操作流程及迁移工具选择。费用说明 非阿里云数据迁移至阿里云NAS时，会涉及如下费用：文件存储NAS存储费用，推荐购买资源包抵扣。关于NAS的计费详情，请参见 计费概述。如果您...
按量付费：归档存储数据取回费用=解冻文件大小（GB）×归档存储文件数据取回单价 资源包：不支持 归档直读数据取回容量（RetrievalDataArchiveDirect）直读归档存储类型文件产生的费用。按直读文件的大小计费。重要 对于已解冻的归档存储...
迁移步骤 关于文件存储NAS之间的数据迁移的具体操作，请参见：准备工作 迁移实施 后续操作 相关问题 如何处理“检查数据地址超时”报错 如何处理“mgw.service.agent.sAddrPrefixInvalid”报错 如何处理迁移后源端和目的端数据量相差较大 ...
文件存储数据源 HDFS NoSQL数据存储 MongoDB、ElasticSearch 配置同步任务 在Dataphin首页，单击顶部菜单栏的 研发。默认进入数据 开发 页面。按照下图操作指引，进入 同步任务 页面。在 同步任务 页面，单击已创建的同步任务，配置参数。...
删除（Evict）将释放CPFS上文件的数据，删除后文件在CPFS上只保留元数据，您仍能看到该文件，但文件的数据块已清除，不占用CPFS上的存储空间，访问该文件数据时，再从源端存储（例如OSS）按需加载。说明 删除前，请务必确认对应文件在OSS上...
功能介绍 Transactional Table 2.0支持近实时增量写入和time travel查询特性，在数据频繁写入的场景中，必然会引入大量的小文件，需要设计合理高效的合并策略来对小文件进行合并以及数据去重，解决大量小文件读写IO低效以及缓解存储系统的...
文件存储CPFS与对象存储OSS之间已实现数据流动。您可以通过创建数据流动任务实现不同源端的数据同步。背景信息 当CPFS Fileset 与OSS Bucket创建数据流动后，CPFS文件系统会自动同步OSS Bucket中的对象元数据。同步完成后您能通过高性能且...
如何快速删除文件系统中过大的存储文件数据？无相互包含关系的子目录可以并行删除，您可以同时开启多个终端，进入NAS挂载目录（例如/mnt），然后执行 rm-rf 命令，删除没有相互包含关系的子目录。NAS能否切换VPC？说明 通用型NAS可以添加两...
本文介绍如何在文件存储控制台创建、管理CPFS智算版文件系统的数据流动任务及查看任务报告。前提条件 已创建数据流动。具体操作，请参见 创建数据流动。任务说明 数据流动任务可分为导入（Import）和导出（Export）两种类型。类型 说明 ...
Evict：释放 CPFS 上文件的数据块，释放后文件在 CPFS 上只保留元数据，您仍能查询该文件，但文件数据块已清除，不占用 CPFS 上的存储容量。当访问该文件数据时，将再从源端存储按需加载。Inventory：获取 CPFS 上数据流动管理的文件清单，...
本文介绍使用curl命令将数据文件从对象存储OSS的Bucket中导入至图数据库GDB实例、查看导入任务和取消导入任务的方法。前提条件 已创建目标图数据库GDB实例，创建方法请参见 创建主实例。说明 如果Bucket是在对象存储控制台创建，请确保图...
本文以数据文件存储在OSS中为例，介绍如何将OSS中的数据文件导入 AnalyticDB for MySQL 的 adb_demo 数据库中并进行查询。前提条件 通过以下步骤在OSS中创建存储 AnalyticDB for MySQL 数据的目录。开通OSS服务。详情请参见 开通OSS服务。...
说明 如果OSS对象存储中存在与归档的数据文件名称冲突的数据文件，系统会报文件已经存在的错误。例如：Target file for archived table exists on oss.您可以在以上三个语法中通过添加 FORCE 关键字来覆盖OSS对象存储中已经存在的数据文件...
快照是某一时间点极速型NAS数据的备份文件，常用于日常数据备份、数据恢复和故障转移、数据分析等场景。如果您需要将某一时刻快照中的数据恢复至同可用区或跨可用区的现有文件系统中，建议您使用该时刻的快照创建新的文件系统，然后再将新...
您可以发送请求至<gdb-endpoint>:<port>/loader 终端，实现将数据文件从OSS的Bucket中导入至图数据库GDB实例，还可以查看任务状态和删除导入任务。本文介绍添加导入任务（POST）、查看导入任务状态（GET）和删除导入任务（DELETE）的应用...
对象存储OSS存储的文件（Object）信息包含Key、Data和Object Meta。Object Meta是对文件的属性描述，包括HTTP标准属性（HTTP Header）和用户自定义元数据（User Meta）两种。您可以通过设置HTTP标准属性来自定义HTTP请求的策略，例如文件...
Evict：释放 CPFS 上文件的数据块，释放后文件在 CPFS 上只保留元数据，您仍能查询该文件，但文件数据块已清除，不占用 CPFS 上的存储容量。当访问该文件数据时，将再从源端存储按需加载。Inventory：获取 CPFS 上数据流动管理的文件清单，...
如果多个CPFS智算版文件系统的数据流动，或者同一个CPFS智算版文件系统的多个数据流动的源端存储是同一个OSS Bucket，为了防止多个数据流动向同一个OSS Bucket导出数据时产生数据冲突，需要该OSS Bucket开启版本控制。更多信息，请参见 ...