海量数据解决方案

_相关内容

Delta Lake概述

很高 低 较高 事务性 支持 不支持 支持 性能 高 低 较高 扩展性 依赖于具体实现 高 高 面向人员 管理人员 管理人员、数据科学家 管理人员、数据科学家 成本 高 低 低 适用场景 Delta适用于云上数据数据管理解决方案。如果您存在以下场景...

Spark作业异常排查及处理

解决方案:已使用Spark导入的数据,如果需要被Hive或Impala使用,建议在EMR控制台中Spark服务配置页面的 spark-defaults.conf 页签下,增加 spark.sql.parquet.writeLegacyFormat=true 配置后重新导入数据。Shuffle报错 java.lang....

数据湖构建之MaxCompute湖仓一体最佳实践

背景信息 大数据计算服务MaxCompute(原名ODPS)是一种快速、完全托管的EB级数据仓库解决方案。与数据湖相比数据仓库具备易优化、易治理等优点,但同时面临数据种类单一,灵活性低,仅向特定引擎开放等不足,提高了数据存储和加工的成本,...

新建数据库网关

在顶部菜单栏中,选择 解决方案>数据库网关。说明 若您使用的是极简模式的控制台,请单击控制台左上角的 图标,选择 全部功能>解决方案>数据库网关。在 网关列表 页面,单击 新建网关。在弹出的对话框中,填写 网关名称 和 备注 信息,单击...

RDS MySQL空间不足问题

解决方案 优化数据结构,减少二级索引数量。大字段导致空间不足 现象 如果表结构定义中有blob、text等大字段或很长的varchar字段,也会占用更大的表空间。解决方案数据压缩以后再插入。空闲表空间太多导致空间不足 现象 空闲表空间太多...

什么是数据安全中心

数据安全中心(Data Security Center,简称DSC),在满足等保2.0“安全审计”及“个人信息保护”的合规要求的基础上,为您提供敏感数据识别、数据安全审计、数据脱敏、智能异常检测 等数据安全能力,形成一体化的数据安全解决方案。...

敏感数据溯源

解决方案:您需要确认溯源数据的来源,确保溯源的数据为本租户名下的数据。原因三:被溯源的文件中不包含水印信息。解决方案:您需要检查目标文件是否开启 数据水印,DataWorks仅支持对开启 数据水印 功能之后所执行的数据访问操作进行溯源...

IoT数据自动化同步至云端解决方案

解决方案 IoT数据自动化同步至云端解决方案主要包括存储原始数据和同步数据至分析系统两部分。IoT设备大量的数据通常以半结构化的形式存储。例如,使用OSS存储原始信息为CSV文件。但同步至大数据系统或传统数据库的数据,需要使用专业的...

创建高可用本地Agent集群

说明 若您使用的是极简模式的控制台,请单击控制台左上角的 图标,选择 全部功能>解决方案>数据库网关。在数据 网关列表 页面,选择待添加高可用节点的网关,单击其右侧的 详情。在 网关详情 页面,单击 添加网关节点。您可以根据操作系统...

管理数据库网关

说明 若您使用的是极简模式的控制台,请单击控制台左上角的 图标,选择 全部功能>解决方案>数据库网关。在 网关列表 页面,单击目标网关对应 操作 列的 详情。在 网关详情 页单击 添加网关节点。您可以根据操作系统类型,选择不同的下载...

ETL工具支持概览

数据迁移及同步方案综述:数据传输服务(DTS):阿里云提供的实时数据同步服务,可以将其他数据源(RDS MySQL,ECS自建MySQL,PolarDB等)实时同步数据到 AnalyticDB PostgreSQL版,构建实时数据仓库解决方案。阿里云的数据集成服务(Data ...

前言

为您提供容灾、备份、恢复、监控、报警等方面的全套数据解决方案。为什么选择云数据库MongoDB版 详情请参见 云数据库MongoDB与自建数据库对比优势 和 应用场景。文档概述 有关阿里云数据库MongoDB更多功能说明和定价信息,请参见 云数据...

常见问题

本文为您介绍数据湖构建的常见问题。如何申请数据湖构建产品的公测资格?数据湖构建如何收费?...目前DLF支持与阿里云E-MapReduce产品组合实现Spark数据的读取,详细请参考:EMR+DLF数据解决方案,暂不支持与自建Hadoop/Spark集群的集成。

应用场景

解决方案数据融合:通过数据引入功能,将业务系统数据集成、融合一体,统一基础数据数据建模:通过规范建模功能,结合业务发展需求,自顶向下设计标准的数据模型,统一公共数据数据生产:基于建模后系统代码自动化托管生产功能,快速...

Slowly Changing Dimension

本文为您介绍G-SCD的具体解决方案及如何通过G-SCD处理维度的数据。背景信息 SCD简介 Slowly Changing Dimension(SCD)即缓慢变化维,是随着时间变化的维度。在数据仓库中存储和管理当前和历史的数据,就需要考虑如何处理缓慢变化维,因此...

资产质量概述

资产质量基于Dataphin平台,为数据的开发及使用提供全套的数据质量解决方案数据质量的功能包括质量规则配置、质量监控、调度配置、智能报警、校验治理等。前提条件 已购买资产质量增值服务,详情请参见 开通Dataphin。背景信息 面对各行...

资产质量概述

资产质量基于Dataphin平台,为数据的开发及使用提供全套的数据质量解决方案数据质量的功能包括质量规则配置、质量监控、调度配置、智能报警、校验治理等。前提条件 已购买资产质量增值服务并且当前租户已开通资产质量模块。背景信息 面对...

概述

阿里云DataWorks联合建模工具DDM(Datablau Data Modeler)为您提供一体化的数据建模解决方案(DATABLAU),将数据模型设计管控、引标落标等能力融入DataWorks规范化开发流程,助力用户实现数据资产价值化输出,在数据全生命周期上夯实数据...

使用应用程序访问本地或第三方云数据库

说明 若您使用的是极简模式的控制台,请单击控制台左上角的 图标,选择 全部功能>解决方案>数据库网关。在 网关列表 页面,单击目标网关对应 操作 列的 详情。跳转至添加的数据库详情页,单击 操作 列 创建数据库访问点。选择对应的 VPC ID...

查询用户OSS或专属存储的归档数据

说明 若您使用的是极简模式的控制台,请单击控制台左上角的 图标,选择 全部功能>解决方案>数据归档。进入 数据归档工单列表 页面,视图 选择 归档视图。搜索目标数据归档工单。您可在搜索框中输入工单号、库名或表名等信息,单击 搜索,...

新用户必读

数据导入:如果您需要将已有数据源中的数据迁移到 AnalyticDB MySQL,阿里云为此提供了完善的数据同步解决方案数据可视化:您可以通过 AnalyticDB MySQL 兼容的BI工具,对 AnalyticDB MySQL 中的数据进行有效整合,快速准确地提供报表并...

使用DMS和DG管理本地或他云数据库

背景信息 将本地或第三方云的数据库接入阿里云时,有以下几种解决方案,但是均存在一定的局限性:通过专线、VPN网关或智能网关接入:成本较高,不适用于个人用户。将数据库的服务端口暴露至公网:存在被攻击的安全风险。自建代理转发服务...

解决方案与客户案例

异地多活数据解决方案 方案背景 随着云计算的蓬勃发展,越来越多的信息系统选择部署在云计算环境下,因此基于云产品为信息系统的服务能力和数据质量提供保障尤为重要。为了防止灾难性的故障如火灾、洪水、地震、区域电力中断或者人为破坏...

ODPS-0130071

解决方案 1)建议修改成普通表 2)修改语句为insert overwrite。示例-聚簇表建表 odps>create table sale_detail_hashcluster(shop_name STRING,total_price decimal,customer_id BIGINT)clustered by(customer_id)sorted by(customer_id)...

数据库迁移

数据库迁移功能通过产品化解决方案的封装,实现数据库迁移、校验和清理的闭环操作。本文介绍如何通过创建工单实现数据库迁移。前提条件 支持的数据库类型:RDS MySQL、PolarDB MySQL版 和ECS自建MySQL。说明 来源库和目标库的数据库类型...

发展历程

Gartner发布了《2017年分析型数据管理解决方案(DMSA)魔力象限》报告,阿里云作为云服务商成功冲进Gartner魔力象限。Forrester:CloudData Warehouse Q4 进入第三象限Contender象限。中国数字化转型与创新案例大会:年度大数据创新产品奖...

应用场景

解决方案数据同步:通过数据同步功能,将不同业务系统数据汇聚到统一的存储计算引擎,实现数据的初步融合。数据标准:管理数据标准和构建数据模型,将数据标准贯彻到数据质量分析、保障及检查的全过程中,将散乱的多源异构数据加工成标准...

常见问题概览

数据库没有数据Owner时如何处理 数据变更 SQLConsole页面执行SQL语句超时中断解决方案 DMS控制台中执行数据变更任务时提示“Duplicate column name 'XXXXX'”使用新版DMS控制台进行变更时提示“Duplicate entry:XXXX”数据库返回“Row size...

数据传输预检查

本文为您介绍数据迁移项目预检查环节的常见报错和解决方案数据迁移项目需要通过预检查才能成功启动。请根据现场情况和具体的报错信息,选择对应的解决方法。错误信息 报错原因 解决办法 增量日志参数检查未通过,错误参数 supplemental_...

从Oracle迁移应用至阿里云PolarDB全流程指南

概述 阿里巴巴基于多年去IOE(即IBM的大型机或小型机、Oracle的数据库、EMC的存储设备)最佳实践,总结出一套专业的迁移Oracle上云的方法论以及解决方案。并建立专业的团队和专业的工具帮助企业最小成本、最低风险、最短周期迁移Oracle上云...

什么是数据传输服务DTS

数据传输服务DTS(Data Transmission Service)是阿里云提供的实时数据流服务,支持关系型数据库(RDBMS)、非关系型的数据库(NoSQL)、数据多维分析(OLAP)等数据源间的数据交互,集数据同步、迁移、订阅、集成、加工于一体,助您构建...

ODC 常见问题

解决方案 调整数据库认为客户端使用的字符集,将其与实际客户端的字符集兼容。set names utf8mb4;调整完成后,在当前 session 内再执行 SQL,查看结果集时即可避免中文乱码问题。命令行窗口中执行 SQL 结果集中包含中文字符乱码 ODC 安装...

RDS SQL Server空间不足问题

解决方案数据量持续增长的情况下,未分配空间通常很小,所以直接收缩文件效果很差,建议首先对已分配空间进行优化和回收,然后再考虑收缩文件。数据空间的回收通常有如下几种方式:归档数据 删除数据库中不常用的数据(例如早期的历史...

快速入门

如果您初次使用阿里云关系型数据库RDS,请参见快速...阿里云关系型数据库MariaDB完全兼容社区版MariaDB,良好兼容Oracle,对PL/SQL有优秀的兼容性,提供技术支持以及专家服务,为您提供企业级数据解决方案。当前RDS MariaDB支持10.3版本。

使用DMS进行数据归档

第二步:创建数据归档任务 在顶部菜单栏中,选择 解决方案>数据归档。在 新建数据归档工单 页面,配置工单信息。配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名,以减少沟通成本。归档目标 是 选中 AnalyticDB PostgreSQL。ADB...

离线同步并发和限流之间的关系

来源端读取支持最大连接数:同步解决方案的离线全量数据初始化阶段,会基于JDBC建立到数据库连接并读取全量历史数据。此连接数即用来控制数据来源端支持的最大JDBC连接数,避免大量任务同时启动打满数据库连接池,影响数据库的稳定性。请...

数据归档至RDS MySQL

说明 若您使用的是极简模式的控制台,请单击控制台左上角的 图标,选择 全部功能>解决方案>数据归档。在页面右上角,单击 数据归档。在新建数据归档工单页面,配置工单信息。配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名,以...

数据归档至PolarDB MySQL版

说明 若您使用的是极简模式的控制台,请单击控制台左上角的 图标,选择 全部功能>解决方案>数据归档。在页面右上角,单击 数据归档。在新建数据归档工单页面,配置工单信息。配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名,以...

数据归档至AnalyticDB PostgreSQL版

说明 若您使用的是极简模式的控制台,请单击控制台左上角的 图标,选择 全部功能>解决方案>数据归档。在页面右上角,单击 数据归档。在 新建数据归档工单 页面,配置工单信息。配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名,...

数据归档至DBS内置OSS

在顶部菜单栏中,选择 解决方案>数据归档。在页面右上角,单击 数据归档。在 新建数据归档工单 页面,配置工单信息。配置项 说明 任务名 请输入明确、清晰的任务名,以减少沟通成本。归档目标 选中 DBS内置OSS。数据库 搜索并选择待归档的...
< 1 2 3 4 ... 200 >
共有200页 跳转至: GO
新人特惠 爆款特惠 最新活动 免费试用