金融专属大数据workshop
实践目标 学习搭建一个实时数据仓库，掌握数据采集、存储、计算、输出、展示等整个业务流程。 整个实时数据仓库系统全部基于阿里云产品进行架构搭建，用户可以掌握并学会运用各个服务组件及各个组件之间如何联动。 理解阿里云原生实时离线一体数仓解决方案架构以及掌握交付落地的实践使用方法。 前置知识要求 熟练掌握SQL语法 对大数据体系系统知识有一定的了解
3.理解阿里云原生实时离线一体数仓解决方案架构以及掌握交付落地的实践使用方 法。前置知识要求 熟练掌握SQL语法 对大数据体系系统知识有一定的了解 2.2.项目需求及架构设计 2.2.1.项目需求分析 1.实时采集埋点日志数据 2.实时采集业务数据库中数据 3.对数据进行清洗和处理 4.保存数据到分析型数据库 5.对结果进行...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景，Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
4.数据分析：经过数据加工处理好的数据，一部分可以直接被业务方使用，如 APP 当日激活/PV/UV等实时指标；另一部分需要将数据写入 OLAP系统，经过多维分 析给业务方使用。5.数据挖掘：从历史中预测未来一直是人类的梦想，对公司来说，能对未来趋势作出 正确的判断才能基业长青。机器学习就是通过历史数据对未来进行预测的一...
Function Compute构建高弹性大数据采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中，对数据进行处理、分析，形成业务闭环。比如游戏行业中的游戏发行、游戏运营，产互行业中的数字营销，物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点，给整个数据采集传输系统带来很大的挑战。在这个场景中，有三个关键的环节，数据采集、数据传输、数据处理。该最佳实践主要涉
分别打开以下产品的控制台，开通以下服务：ￚ 专有网络 VPC ￚ 日志服务 SLS ￚ 链路追踪 Tracing Analysis ￚ 云服务器 ECS ￚ 云数据库 RDS ￚ 函数计算 FC ￚ 消息队列 Kafka 版 ￚ 性能测试 PTS ￚ 云速搭 CADT 本文使用到的示例代码可以用以下命令下载。git clone https://code.aliyun.com/best-practice/219.git 有...
互联网电商行业离线大数据分析
电商网站销售数据通过大数据分析后将业务指标数据在大屏幕上展示，如销售指标、客户指标、销售排名、订单地区分布等。大屏上销售数据可视化动态展示，效果震撼，触控大屏支持用户自助查询数据，极大地增强数据的可读性。
互联网电商行业离线大数据分析 最佳实践 业务架构 场景描述 本实践介绍了使用阿里云MaxCompute、数据库（RDS）、DataWorks等产品实现电商网站离线数据分 析，分析后的业务指标数据实时在大屏展示。通过完整 的实践Demo为例，提供从电商网站搭建，数据从RDS 同步到MaxCompute、再到DataWorks进行数据分析，最后在大屏上展示...
电商网站业务安全
场景描述 业务运营活动是电商行业开展业务必不可少的 手段，但大流量带来的系统可用性、优惠券带来 的“薅羊毛”等问题屡见不鲜，都会影响到运营 效果、甚至出现负面影响。阿里云基于集团电商 业务多年的运营经验，为云上客户提供完整的电 商网站运营期间的防护方案。 解决问题 1.保障业务运维活动系统稳定运行 2.防止“薅羊毛” 3.运营优惠给到真实的客户 产品列表 爬虫风险管理 风险识别 DDoS防护包
放行合法爬虫 背景信息 为了使用户可以搜索到自己网站的内容，需要放行一般搜索引擎（百度、Google等）的爬虫。如果有特殊需要（比如不想让百度爬虫），可以单独针对搜索引擎来关闭爬 虫。操作步骤 步骤1 点击精细化配置，找到合法爬虫，并将状态按钮打开，然后点击前去配置 步骤2 根据需要，设置右边的启用状态。文档版本...
自建Hive数仓迁移到阿里云EMR
场景描述 客户在IDC或者公有云环境自建Hadoop集群构 建数据仓库和分析系统，购买阿里云EMR集群之 后，涉及到将数据仓库和Hive元数据的数据库迁 移上云。目前主流Hive数据仓库迁移场景为1.x 版本迁移到阿里云EMR(Hive2.x版本），涉及到 数据订正更新步骤。 解决的问题 Hive数据仓库的数据迁移方案 Hive元数据库的迁移方案 Hive跨版本迁移后的数据订正 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
付费模式：按使用流量 带宽：100 Mbps 说明：（1）在您业务商用过程中，建议选用弹性公网 IP和共享带宽包、共享流量包的组合降低公网流量使 文档版本：20210721 6 自建Hive数据仓库跨版本迁移到阿里云 EMR 基础环境搭建 用成本；（2）在环境搭建过程中分配公网 IP地址仅 用于 SSH登录和必要的软件包下载，在环境搭建完 成...
容器Swarm集群向ACK集群灰度迁移
场景描述 随着K8S生态的完善，越来越多的客户需要从 Swarm集群迁移向ACK集群 解决问题 1.迁移过程中维持业务的延续性 2.迁移过程业务高可用 3.迁移过程可灰度 4.迁移过程可回滚 5.迁移进度可把控 产品列表 专有网络VPC 云数据库RDSMySQL 容器服务ACK 云服务器ECS
基于阿里云分布式文件系统和 SSD盘高性能存储，RDS 支持 MySQL、SQL Server、PostgreSQL、PPAS（Postgre Plus Advanced Server，高度 兼容 Oracle数据库）和 MariaDB引擎，并且提供了容灾、备份、恢复、监控、迁移等方 面的全套解决方案，彻底解决数据库运维的烦恼。文档版本：20190401 III 容器 Swarm集群向 ACK集群灰度...
云上高并发系统改造
场景描述 随着业务的发展，系统并发压力越来越大，如何 进行系统改造以满足高并发场景的业务需求成 为了一个技术难题。本实践抽象于客户的实际场 景，提供高并发下系统改造的理论指导和部分实 操演示。主要适用于以下场景： 1.系统并发压力大，需要进行系统应用改造。 2.数据层并发压力大，需进行分库分表改造。 3.数据库数据量巨大，亟待分库分表解决查询 和写入瓶颈的场景。 方案优势/解决问题 1.在水平扩展阶段，我们除了通过SLB做负载 均衡外，我们可以通过SLB下挂nginx的方 式，增加负载均衡侧的可扩展性 2.在数据库拆分阶段，在做好数据规划后，我 们借助DTS进行数据迁移，通过DRDS将 RDS MySQL的数据拆分到多个分库和分 表中。 产品列表 专用网络VPC 负载均衡SLB 云服务器ECS 数据库RDSMySQL 数据传输服务DTS PrivateZone 分布式关系型数据库DRDS
需要注意的是在使 用 mysqldump的时候建议加上-compact 参数，以避免各种 set 命令 drds不 识别报错；2.通过 DTS进行迁移或同步，本例推荐方式，停机窗口小，迁移进度可控。说明：DRDS不支持 LOAD DATA LOCAL INFILE，只支持 SQL形式导入数据。使用 DTS进行数据迁移：步骤1 在 tpch基本信息页面，单击数据导入。文档版本：...
金融行业从经典网络向VPC容器化改造
本实践介绍经典网络向VPC容器化改造实践 以及配置步骤，可适用于金融等行业 方案优势 容器化完成经典网络完成向VPC网络改 造 应用发布灵活 运维效率提升 解决问题 1.经典网络管理困难 2.应用发布不灵活 3.运维效率低 产品列表 专有网络VPC 容器服务Kubernetes版 日志服务SLS 云数据库RDS版 NAT网关 容器镜像服务ACR 云盘
作者 审核人 说明 V1.0 2019/05/16 连辙 创建 V1.1 2020/7/3 明誉 更新文档制作人信息 文档版本：20200703（发布日期）I 金融行业从经典网络向VPC容器化改造最佳实践【公开|阿里巴巴集团保密信息|普通商秘|核心商秘】前言 概述 本文介绍金融行业从经典网络容器化最佳实践的设置步骤和方法。名词解释 VPC：专有网络...
在线教育流量洪峰
1. 通过Tair缓存的性能增强型解决高并发读的性能问题，通过持久内存型解决大并发写性能及数据可靠性问题。 2. PolarDB作为主数据库保存业务的交易数据，通过弹性能力和并发SQL解决性能瓶颈。 3. ADB+QuickBI提供的数据仓库方案通过分时弹性能力和实时业务展现能力。
阿里云最佳实践分享群 最佳实践频道 产品列表 专有网络 VPC 分布式缓存 Tair 云原生数据库 PolarDB 分析型数据仓库 ADB 如二维码过期，数据可视化分析平台 QuickBI 请搜索群号：31852400 弹性计算 ECS 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 在线教育流量洪峰 最佳实践 文档版本：20210120...
游戏业务分区合服
概述 为了提高游戏玩家的体验,并提高留存率,增强付费率.除了游戏本身的内容趣味性外, 改善用户访问加速体验,并对游戏数据分区合服是很常见的业务运营场景. 本方案适用于: 1游戏业务运营,对多个分区数据库进行合并,增加付费用户积极性的需求. 2游戏业务加速,中心化部署的网络加速需求. 方案优势 1便捷数据迁移. 2内网安全传输 3加速远端用户访问质量体验 4快速应对上层业务运营的技术实现操作. 产品列表 网络产品:VPCSLBNAT网关CEN共享带宽包EIP全球加速GA 计算产品:ECS 数据库产品:RDSDTS 存储产品:OSS 云解析
基于阿里云分 布式文件系统和 SSD盘高性能存储，RDS支持 Relational MySQL、SQL Server、PostgreSQL、PPAS RDS Database（Postgre Plus Advanced Server，高度兼容 Service Oracle数据库）和 MariaDB TX引擎，并且提供 了容灾、备份、恢复、监控、迁移等方面的全套解 决方案，彻底解决数据库运维的烦恼。阿里云对象存储服务...
通过ES兼容接口方式使用Kibana访问SLS数据
自建ELK日志系统的客户迁移到阿里云日志服务SLS后，对SLS查询分析语法不太熟悉的客户，可以继续沿用原有的查询分析习惯，在不改变使用方式习惯的情况下，通过Elasticsearch兼容接口的方式使用Kibana访问SLS。
解决问题 如何使用ACK部署Wordpress应用，并使 用SLS采集容器日志到SLS 最大程度保障Elasticsearch查询分析方 案迁移SLS的平滑度； 降低将日志引擎从Elasticsearch切换为 日志服务的使用难度；产品列表 专有网络VPC 云服务器ECS 容器服务Kubernetes版 日志服务SLS 阿里云交换机 最佳实践频道 最佳...
MSE网关使用JWT进行认证鉴权
MSE网关中调用外部的认证鉴权服务，通过JWT的方式进行全局认证鉴权。 对网关有认证鉴权安全需求的场景，对于敏感的服务路由（可通过黑白名单方式配置）在网关层进行认证鉴权。
解决问题 MSE网关和认证鉴权服务的集成问题 产品列表 专有网络 VPC 传统负载均衡 CLB 云原生网关 MSE 最佳实践频道 Serverless应用引擎 SAE http://bp.aliyun.com 云速搭 CADT 阿里云最佳实践分享群 钉钉搜索钉群号31852400入群 微服务引擎MSE用户交流群 钉钉搜索钉群号43525005207入群 MSE云原生网关使用 JWT进行认证鉴权 ...
限制企业仅使用已批准的云服务
客户使用资源目录集中管理云上账号，通过管控策略创建“只能使用批准的云服务”对应的Policy，实现企业在云上只能使用批准的云服务，从而规范用户使用云产品的行为。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台限制企业仅使用已批准的云服务方案介绍方案优势应用场景方案部署方案权益限制企业仅使用已批准的云服务客户使用资源目录集中管理云上账号，通过管控策略创建“只能使用批准的云服务”对应的Policy，将Policy绑定到资源目录的Root资源夹，则...
来自：
解决方案
混合云使用Ali-Perseus
场景描述 本文介绍了混合云场景中，自建 Kubernetes服务，线下集群+云上弹性扩 展阿里云GPU服务实例+飞天AI加速工 具，并采用阿里云CPFS存储，运行AI训 练+AI推理作业的操作步骤。 解决问题 1.利用云企业网打通两个地域的VPC， 自建Kubernetes集群 2.使用飞天AI加速工具运行训练和推理 作业 3.使用CPFS存储共享数据 产品列表 云企业网CEN GPU云服务器 并行文件存储CPFS 文件存储NAS
使用 CPFS存储共享数据 产品列表 云企业网 CEN 如二维码过期，GPU云服务器 请搜索群号：31852400 并行文件存储 CPFS 文件存储 NAS 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 企业上云实践 混合云使用飞天 AI加速工具 最佳实践 文档版本：20200114 II 混合云使用飞天AI加速工具 文档版本信息 文档...
混合云自有K8S弹性使用ECI
场景描述 本文介绍线下IDC与云端通过专线构建混合云架构，自有K8S利用虚拟节点弹性调用ECI承载业务高峰期资源需求的最佳实践。 解决问题 混合云环境下，自有K8S集群注册至ACK，实现云端纳管。纳管K8S集群部署Virtual Node，使集群具备ECI资源调度能力。在以上环境中部署Web及离线作业应用，并使用ECI资源作为弹性资源池满足业务波峰需求。 产品列表 云服务器ECS 云架构设计工具CADT 专有网络VPC 访问控制RAM 云企业网CEN 弹性容器实例ECI Nat网关NAT 容器镜像服务ACR 负载均衡SLB 容器服务Kubernetes版ACK 弹性公网IPEIP
本实践与阿里云 ACK官方使 用的版本对齐，安装 Docker CE 19.03.5，K8S 1.16.10版本。以 node1为例，node2、node3、node4节点上都按以下步骤操作。操作步骤 步骤1 调整相关系统服务。1.禁用防火墙。systemctl stop firewalld&systemctl disable firewalld 2.确认 SELinux状态为关闭状态。sestatus 如 SELinux未关闭，使用...
RI和SCU全链路使用实践
场景描述 随着云计算的不断发展，更多的企业会使用云计算，且会有越来 越多的企业和用户开始重视云上使用成本。 其中计算和存储是云资源使用的主要服务之一。采用预留实例券 业务架构（RI）和存储容量单位包（SCU）可以帮助客户灵活的节省成本。 本文提供全链路使用实践，帮助客户快速验证云上服务，更合理 的使用RI/SCU。借助覆盖率指标和智能推荐，有效管理云上资 源成本。 用户价值 使用RI 和SCU，可以灵活抵扣相关资源。随时创建释放， 稳态业务资源效率提高。 一份RI 可以抵扣ECS+ACK+EMR+ECI 等服务，跨服务高 度灵活，无需再分开购买。 SCU可以跨可用区抵扣某个地域下所有类型的按量付费云 盘，简化购买与管理复杂度。 RI+SCU 大幅降低按量场景的计算和存储成本。 产品列表 专有网络VPC、容器服务Kubernetes 版ACK 云服务器ECS、预留实例券RI、存储容量单位包SCU
相比于随 ECS预付费实例购买 云盘的模式，存储容量单位包与按量付费云盘的组合使用，兼具性价比与资源使 用的灵活性。详见：www.aliyun.com/product/scu 文档版本：20200608（发布日期）IV RI和SCU全链路使用实践 目录 目录 文档版本信息.I 法律声明.II 前言.III 目录.V 前置条件.1 1.实践概述.2 2.成本节省对比.6 2.1.业务...
- 产品推荐
- 这些文档可能帮助您