AI Earth 数知地球
数知地球 AI Earth（Analytical Insight of Earth）基于达摩院在深度学习、计算机视觉、地理空间分析等方向上的技术积累，结合阿里云强大算力支撑，提供PB级海量遥感数据资源，以及低门槛、界面化的云GIS工作空间，同时支持开发者便捷调用，助力地球科学研究分析。
支持在线计算、统计分析、模型训练等多种开发场景，算子已累计近400项.丰富的API函数.提供交互式编程界面，数据一键代码引用，计算结果实时可视化查看.友好的编程界面.一键切换至开发者模式.数据检索和分析应用.AI模型工具开箱即用.海量弹性云计算资源.基于AI技术和强大算力，用数据感知地球世界，让AI助力科学研究.利用AI...
来自：
云产品
利用交互式分析(Hologres)进行数据查询
场景描述：随着收集数据的方式不断丰富，企业信息化 程度越来越高，企业掌握的数据量呈TB、 PB或EB级别增长。同时，数据中台的快 速推进，使数据应用主要为数据支撑、用户 画像、实时圈人及广告精准投放等核心业务 服务。高可靠和低延时地数据服务成为企业 数字化转型的关键。 Hologres致力于低成本和高性能地大规模 计算型存储和强大的查询能力，为您提供海 量数据的实时数据仓库解决方案和实时交 互式查询服务。 解决问题 1.加速查询MaxCompute数据 2.快速搭建实时数据仓库 3.无缝对接主流BI工具 产品列表 MaxCompute Hologres 实时计算Flink 专有网络VPC DataWorks DataV
收集统计信息 SELECTa.rmid,count(*),b.os fromlog_pvasajoinpush_historyasb ona.rmid=b.rmid groupbya.rmid,b.os从该例子中，我们可以利用模拟数据进行推送效果在两大收集操作系统间的曝光比例 来进行后续相同内容的推送时，针对手机系统做一定的倾斜。最后我们就可以看到当实时广告的曝光数据命中了推送的时候，我们所...
基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
基本需求：从用户行为日志中，统计实时的 PV和 UV 统计每小时的访问量（PV），并且对用户进行去重（UV）说明:用户行为数据，进一步细分，可分为两大类，一类：用户行为习惯数据，另一类：业务行为数据。用户的行为习惯包括用户的登录设备（IOS、PC、Android等等），登 录时间点，在线的时长，点击和浏览的页面，页面跳转...
云上持续审计合规最佳实践
本方案是面向云上资源的操作审计和配置审 计，提供的最佳实践。适用于企业型客户。通过最佳实践帮助客户在本场景下更好的使用 阿里云，涉及到配置审计、操作审计、函数计算、SLS、OSS 等服务的实践操作。 解决问题 企业会面临外部对企业云上信息系统的合规要求，如等保2.0法规要求。 同时当云上资源达到一定规模时，在内部会制定合规管控的基线，满足自身管理效率和安全合规的需 求。 包括记录云上资源管理的操作日志、资源配置变更日志，还需依赖云平台提供的持续监控和自动告警能力，实现合规性的自主监管。
函数计算会为客户准备好计 算资源，并以弹性、可靠的方式运行您的代码。详见：https://www.aliyun.com/product/fc 日志服务（SLS）：一站式提供数据收集、清洗、分析、可视化和告警功能。全面 提升海量日志处理能力，实时挖掘数据价值，智能助力研发/运维/运营/安全等场景。详见：https://www.aliyun.com/product/sls 对象...
云服务器基准性能测试
本最佳实践适合利用标准的benchmark工具对云服务器的CPU、内存、网络和磁盘性能进行测试的场景。
表示测试结果里汇总每个进程的统计信息，而非以不同 job汇总 group_reporting 展示信息。filename=iotest 指定测试文件的名称，例如 iotest。name=Rand_Wr 表示测试任务名称为 Rand_Write_Testing，可以随意设定 ite_Testing 文档版本：20220218 31 云服务器基准性能测试 云盘性能测试 8.释放资源 8.1.释放资源 这里我们都...
云速搭部署SLS实现日志采集处理分析
通过云速搭部署ECS+SLS，在ECS上安装logtail收集Nginx应用日志写入SLS。通过日志生成器模拟Nginx日志生成，并通过SLS进行日志分析。
文档版本：20211203 30 云速搭部署 SLS实现日志采集处理分析 Logtail日志采集处理分析 注意：查询分析设置的修改操作只会对新写入的数据生效，如果您需要提前对查询分 析设置的某些字段分析统计生效，请使用指定字段查询的自定义方式在日志写入到日 志库之前进行开启统计查询。步骤4 再次启动日志发生器和停止日志发生器。...
基于SLS实现统一告警最佳实践
告警对于企业的开发运维，安全运维，业务运维有着至关重要的作用。然而很多企业在告警运维方面存在着重复建设、监控质量差、告警风暴、触达不人性化、无法闭环等问题。 针对企业在告警管理方面存在的痛点问题，SLS告警提供了一站式云上告警管理方案，具有弹性易用、稳定可靠、功能持续升级、成本更低、噪音更少等优势。企业可以将现有的监控方案系统无缝接入到SLS告警平台，实现在SLS上一站式管理告警。
云服务器 ECS免去了您采购 IT硬件的前期准备，让您像使用水、电、天然气 等公共资源一样便捷、高效地使用服务器，实现计算资源的即开即用和弹性伸缩。阿里云 ECS持续提供创新型服务器，解决多种业务需求，助力您的业务发展。详 情请参见：https://www.aliyun.com/product/ecs SLS：日志服务（SLS）是云原生观测分析平台，为...
数据湖-在线学习场景数据分析
场景描述 本场景以在线教育中一个答题闯关类的应用为 例，使用WebServer来模拟演示这类日志数据 的分析处理。通过Nginx和Pythonflask搭建 WebServer，模拟应用中的关键页面，比如登 录、课程内容等，之后构造若干用户使用的模拟 日志数据，投递到数据湖进行分析后获取应用 PV、UV、课程内容访问排行、平均得分等等。 解决问题 基于数据湖（EMR+OSS）搭建大数据平台。 EMR和OSS使用和配置。 数据统一存储到OSS。 产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC
步骤2 按照内容ID统计PV、UV及排行 selectsplit(nginx_url_parse('',request,'PATH'),'/')[4]ascontent_id,count(1)aspv,count(distinctnginx_url_parse('',request,'QUERY','user_id'))asuv fromapp1_logwhereds='2020-03-23' groupbynginx_url_parse('',request,'PATH')sortbypvdesc;步骤3 统计每小时的用户PV、UV。...
PolarDB 应对大并发复杂查询实践
MySQL架构是单线程处理SQL，遇到大并发复杂查询时，需要排队长时间等待，容易形成慢查询，影响业务。PolarDB并发查询能力可以很好解决此问题。
附录 测试环境安装.26 4.1.TPC-H安装.26 文档版本：20210412 IV PolarDB如何应对大并发复杂查询 最佳实践概述 最佳实践概述 概述 在面向 C端或者多个小 B端的 SaaS化服务场景下，数据库经常面临大并发的复杂查 询业务压力，比如餐饮平台的商户随机查看订单统计情况；ERP服务平台面临大量零 售商户查看库存报表情况。此类...
电商网站业务安全
场景描述 业务运营活动是电商行业开展业务必不可少的 手段，但大流量带来的系统可用性、优惠券带来 的“薅羊毛”等问题屡见不鲜，都会影响到运营 效果、甚至出现负面影响。阿里云基于集团电商 业务多年的运营经验，为云上客户提供完整的电 商网站运营期间的防护方案。 解决问题 1.保障业务运维活动系统稳定运行 2.防止“薅羊毛” 3.运营优惠给到真实的客户 产品列表 爬虫风险管理 风险识别 DDoS防护包
基于大数据、流式计算、机器 学习算法，为客户提供决策引擎平台、风险识别 API、专家定制建模等多维风控服 务，一站式解决企业在用户注册、运营活动、交易、信贷审核等关键业务中所遇到 的欺诈问题。文档版本：20210806 IV 企业上云实践 电商网站业务安全最佳实践|云上资源规划 云上资源规划 为了便于演示，在本文中涉及到...
混合云存储构建VMware虚拟化平台
场景描述 本文以混合云存储阵列SA2600系统为例，介绍如 何在混合云存储环境下部署VMware虚拟化平台， 以及混合云环境下虚拟机的部署、扩容、云备份等功 能演示。 解决问题 1.如何使用混合云存储部署VMware虚拟化平台。 2.存储阵列在混合云环境下的使用，比如虚拟机部 署、扩容、云备份等。 产品列表 1.混合云存储阵列 2.对象存储OSS
兼容POSIX文件接口，可支持数千台计算节点共享访问，可 以挂载到弹性计算ECS、神龙裸金属、容器服务ACK、弹性容器ECI、批量计 算BCS、高性能计算EHPC，AI训练PAI等计算业务上提供高性能的共享存储，用户无需修改应用程序，即可无缝迁移业务系统上云。更多信息，请参见 https://www.aliyun.com/product/nas。文档版本：...
自建Hive数仓迁移到阿里云EMR
场景描述 客户在IDC或者公有云环境自建Hadoop集群构 建数据仓库和分析系统，购买阿里云EMR集群之 后，涉及到将数据仓库和Hive元数据的数据库迁 移上云。目前主流Hive数据仓库迁移场景为1.x 版本迁移到阿里云EMR(Hive2.x版本），涉及到 数据订正更新步骤。 解决的问题 Hive数据仓库的数据迁移方案 Hive元数据库的迁移方案 Hive跨版本迁移后的数据订正 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
其优点是学习成本低，可以通过类 SQL语句快速实 现简单的 MapReduce统计，不必开发专门的 MapReduce应用，十分适合数据仓 库的统计分析。E-MapReduce 阿里云 E-MapReduce（EMR）是构建在阿里云云服务器 ECS 上的开源 Hadoop、Spark、HBase、Hive、Flink生态大数据 PaaS 产品。提供用户在云上使用开源 技术建设数据仓库、...
SLS多云日志采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务，通过日志服务 进行数据分析，帮助提升运维、运营效率， 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户，推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输；针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况，可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
文档版本：20211203 24 SLS多云日志采集、处理及分析 Logtail日志采集处理分析 注意：查询分析设置的修改操作只会对新写入的数据生效，如果您需要提前对查询分 析设置的某些字段分析统计生效，请使用指定字段查询的自定义方式在日志写入到日 志库之前进行开启统计查询。步骤4 再次启动日志发生器和停止日志发生器。按云...
云上日志集中审计
场景描述 云上的各类云产品和客户部署的业务系统会产生各类 日志，企业合规及安全运营等都需要在一个地方能 集中的查看和分析日志；目前各云产品日志大部分 都进了sls，但都是产品独立的project，不方便集中 审计；客户的业务系统日志各种形态都有；多云和混 合云的场景，日志也需要能集中审计。 解决问题 1.所有日志集中到SLS一个中心project下。 2.满足等保合规和内部合规需求。 3.满足运维和安全运营需求。 产品列表 日志服务SLS 专有网络VPC 弹性公网IPEIP 负载均衡SLB 云服务器ECS 云数据库RDS 云防火墙CFW
2019年实施的《网络安全等级保护 2.0标准》要求，“网络系统操作、重要存储操 作、计算系统操作、安全系统操作需详细记录，审计管理员的操作本身也需要记录 并审计”，“集中收集、集中分析，集中存储时长要求（180天以上）；对审计数据 的保护（备份、防修改、覆盖、防止中断等）；需提供分析、监控报警等支持可疑 行为...
微服务应用问题定位及故障演练
场景描述 用户微服务架构应用基于阿里云 ACK 部署， 通 过 ARMS 监控发现微服务应用的容错能力是否 健壮， 容器编排配置是否合理， 以及节点故障引 发的问题等， 方案通过 AHAS 故障注入模拟生 产环境产生的故障， 通过 ARMS 及时发现问题、 定位问题， 并结合 ARMS 的告警功能快速发现 并解决问题。 发现调用下游一个服务实例出现异常。 发现业务 Pod 故障， 验证业务的稳定性。 发现调用数据库延迟故障， 验证 Pod 的水 平扩容能力。 解决问题 1. 定位并解决微服务应用的容错能力。 2. 定位并解决微服务应用编排合理性。 3. 发现故障并验证系统故障的告警时效性。 产品列表 应用高可用服务 AHAS 性能测试 PTS 应用实时监控服务 ARMS 容器服务 kubernetes 版 负载均衡 SLB 专有网络 VPC 日志服务 SLS
步骤20 通过详细的统计分析我们也可以看到，是调用/notifications/settings/current这个接口 导致时间变长了，这样我们就可以进一步排查下游服务是否存在异常。文档版本：20220331 63 微服务应用问题定位及故障演练 问题定位及故障模拟 步骤21 为了提升应用的高可用，可以采取对下游应用进行隔离的方案（这个方案可以参考...
资源管理
场景描述 随着企业IT成熟度不断提高、管理的云上资源 不断增多，如何对资源进行高效管理的问题就会 凸显出来。阿里云的资源管理服务支持您按照业 务需要搭建适合的资源组织关系，使用目录、资 源夹、账号、资源组分层次组织与管理您的全部 资源，更好的实现项目成功。 解决问题 1.按照企业组织结构管理账号体系。 2.指定结算账号进行统一结算 3.统一管理成员账号权限系统 4.账号下的资源按照资源组进行分类 5.可以按照自定义财务单元进行分账管理 产品列表 资源管理
随着组织机构上云的业务和范围不断增加，复杂的业务需求逐渐超出帐号管理体系的 能力范围，因此需要一种分组手段来统计业务维度的数据。分账就是典型场景之一。很多组织会根据不同的部门来分账，有些组织按照管理归属来分账，还有些会根据地 理位置来分账。不论哪种方式，本质上都是对于阿里云资源组能力的灵活运用。2.3章 ...
- 产品推荐
- 这些文档可能帮助您