SLS多云日志采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务，通过日志服务 进行数据分析，帮助提升运维、运营效率， 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户，推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输；针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况，可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
scp 您的日志发生器本机安装包保存路径 root@112.*.*.*:/root/本机执行 例如日志发生器本机安装包路径是/xx/nginx-log-generator-master.tar.gz，那么命 令为 scp/xx/nginx-log-generator-master.tar.gz root@112.*.*.*.*:/root tar zxvf nginx-log-generator-master.tar.gz 步骤3 启动日志发生器。文档版本：20211203 22 ...
MaxCompute湖仓一体方案
场景描述 自建数据湖与云数仓的融合解决方案，将 MaxCompute与自建的Hive集群做数据打 通，通过存储共享，元数据镜像等方式，解 决传统模式下的存储冗余，计算资源弹性能 力弱的痛点。可大幅度增强系统的资源弹 性，解决业务高峰期计算资源不足的问题。 方案优势 1.业务无侵入性：现有业务无需改造。 2.性能优化：MaxCompute在SQL上做 了大量优化与能力沉淀，可提高SQL 运行性能，降低计算成本。 3.灵活管理：元数据实时同步，无需额外 管理数据同步任务。 4.资源弹性：利用MaxCompute计算池 弹性进行海量数据计算。 解决问题 1.增强业务高峰期的资源弹性。 2.优化自建数据湖的数据治理能力。 3.减少跨平台数据处理的存储冗余。 产品列表 专有网络VPC 云服务器ECS 访问控制RAM 运维编排OOS MaxCompute（原ODPS） 云企业网CEN
MaxCompute湖仓一体方案 最佳实践 业务架构 场景描述 数据湖 EMR与云数仓的融合解决方案，将 MaxCompute与 Hive集群做数据打通，通 过存储共享，元数据镜像等方式，解决传统 模式下的存储冗余，计算资源弹性能力弱的 痛点。可大幅度增强系统的资源弹性，解决 业务高峰期计算资源不足的问题。湖仓一体 兼具数据湖的灵活性与...
自建Hadoop迁移到阿里云EMR
场景描述 场景1：自建Hadoop集群数据（HDFS）迁移到 阿里云EMR集群的HDFS文件系统； 场景2：自建Hadoop集群数据（HDFS）迁移到 计算存储分离架构的阿里云EMR集群，以OSS 和JindoFS作为EMR集群的后端存储。 解决的问题 客户自建Hadoop迁移到阿里云EMR集群的 技术方案； 基于IPSecVPN隧道构建安全和低成本数据 传输链路 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
场景2：自建 Hadoop集群数据（HDFS）迁移到计 基于 IPSec VPN隧道构建安全和低成本数据 算存储分离架构的阿里云 EMR集群，以 OSS 和 传输链路 JindoFS作为 EMR集群的后端存储。产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。文档模板（手册名称）/Error!Use the Home tab to apply 云服务器 ECS（产品名称）标题 to the ...
通过PAI-灵骏分布式训练和部署Llama 2模型
以 Meta 最新开源的大语言模型 Llama2 为例，通过PAI-灵骏完成了大语言模型的高效分布式训练、三阶段指令微调、模型离线推理验证以及在线服务部署等完整的开发链路。
训练基于Megatron-LM引擎支持了数据并行、算子拆分、流水并行、序列并行、Flashattention等技术，保障模型效果且大幅提升大模型训练分布式效率相关产品智算服务 PAI-灵骏交互式建模 PAI-DSW机器学习 PAI-DLC模型在线服务 PAI-EAS对象存储 OSS文件存储 NAS在线咨询方案优势企业级应用基于软硬件一体优化技术，构建高性能异构...
来自：
解决方案
云上日志集中审计
场景描述 云上的各类云产品和客户部署的业务系统会产生各类 日志，企业合规及安全运营等都需要在一个地方能 集中的查看和分析日志；目前各云产品日志大部分 都进了sls，但都是产品独立的project，不方便集中 审计；客户的业务系统日志各种形态都有；多云和混 合云的场景，日志也需要能集中审计。 解决问题 1.所有日志集中到SLS一个中心project下。 2.满足等保合规和内部合规需求。 3.满足运维和安全运营需求。 产品列表 日志服务SLS 专有网络VPC 弹性公网IPEIP 负载均衡SLB 云服务器ECS 云数据库RDS 云防火墙CFW
文档版本：20200630（发布日期）34 云上日志集中审计 集中云安全产品日志 步骤3 根据需要，选择配置参数，本实践示例配置：配置项 说明 当前版本 企业版 资产数 50台 带宽（互联网防火墙吞吐量）50Mbps 日志分析 是 日志存储容量 4000GB 购买时长 1个月 文档版本：20200630（发布日期）35 云上日志集中审计 集中云安全产品...
容器服务 Kubernetes 版 ACK
阿里云容器服务Kubernetes版ACK（容器服务Kubernetes版，简称ACK）支持企业级K8s容器化应用的全生命周期管理，提供高性能可伸缩的容器应用管理能力，助力企业高效运行云端K8s容器化应用。
计算类的离线任务例如机器学习、基因测序对实时性要求不高，但是对成本敏感；定时任务类型，例如批量计算，成本节约与调度能力比较关注；闲时计算等一些比较特殊的计算场景对资源利用和调度能力也比较关注。相关产品容器服务 ACK文件存储 NAS块存储云数据库 Redis 版性能测试 PTS云速搭 CADT一键部署ACK 实现 GPU 成本优化...
来自：
云产品
游戏数据运营融合分析
场景描述 1.游戏行业有结构化和非结构化数据融合分 析需求的客户。 2.游戏行业有数据实时分析需求的客户，无法 接受T+1延迟。 3.对数据成本有一定诉求的客户，希望物尽其 用尽量优化成本。 4.其他行业有类似需求的客户。 方案优势/解决问题 1.秒级实时分析：依托ADB计算密集型实例， 秒级监控DAU等数据，为广告投放效果提 供有力的在线决策支撑。 2.高效数据融合分析：打通结构化和非结构化 数据，支撑产品体验分析；广告买量投放效 果实时（分钟级）分析，渠道的评估更准确。 3.低成本：DLA融合冷数据分析+ADB存储密 集型温数据分析+ADB计算密集型热数据分 析，在满足各种分析场景需求的同时，有效 地降低的客户的总体使用成本。 4.学习成本低：DLA和ADB兼容标准SQL语 法，无需额外学习其他技术。 产品列表 专有网络VPC、负载均衡SLB、NAT网关、弹性公网IP 云服务器ECS、日志服务SLS、对象存储OSS 数据库RDSMySQL、数据传输服务DTS、数据管理DMS 分析型数据库MySQL版ADS 数据湖分析DLA、QuickBI
2)若单表数据大于 500w，或数据库服务器 CPU性能告急，或分析性能达不 到业务要求，满足以上任意条件的，可以将 RDS MySQL数据通过 DTS 实时同步到 ADB计算密集型实例，可以快速对海量数据进行复杂查询，实时返回查询结果,及时满足前线业务要求。3.温数据分析阶段：对于非结构化数据（比如日志数据）和结构化数据，业务方 ...
工业控制性能优化解决方案
工业控制性能优化是基于对控制器的参数实时评估与监控，通过阿里云大数据处理和计算的能力，结合人工智能算法，机器学习的能力，为企业提供高效的性能评估与整定，更方便、快捷地完成回路控制性能的批量评估和整定优化工作，为企业提供最佳的控制性能优化解决方案。
利用回路日常运行数据进行系统辨识与统计分析并结合人工智能算法，针对全厂级大规模控制回路所产生的海量数据进行有效的信息挖掘和特征提取，在基于阿里云平台的高速实时计算引擎之上对控制回路的性能进行多尺度实时监控与评估并能够快速定位问题回路，明显提升系统日常维护效率和生产的平稳性，并最终实现节能降耗、减少...
来自：
解决方案
新零售商超基于Serverless服务化改造
某零售商超行业龙头企业，主要业务涵盖购物中心、大卖场、综合超市、标准超市、精品超市、便利店、无人值守智慧商店等零售业态，涉及全渠道零售、仓储物流、餐饮、消费服务、数据服务、金融业务、跨境贸易等领域。为了持续支持业务高速且稳定地发展，其在快速上云后，将核心业务改造为全Serverless架构的中台模式，采用函数计算 + API网关 + 表格存储OTS 作为计算网络存储核心，弹性支撑日常和大促峰谷所需资源，轻松支撑618/双11/双12大促。 核心价值 l 全 Serverless 架构：FC + API 网关 + OTS Serverless 解决方案。 l 弹性高可用：毫秒级弹性扩容、充足的资源池水位、跨可用区高可用。 l 敏捷开发免运维：函数式极简编程可专注于业务创新，无采购和部署成本、提供监控报警等完备的可观测能力。
配置数据迁移 DTS：支持关系型数据库、NoSQL、大数据(OLAP)等数据源，集数据迁移、订阅及实 时同步功能于一体，能够解决公共云、混合云场景下，远距离、毫秒级异步数据传输 难题。其底层基础设施采用阿里双 11 异地多活架构，为数千下游应用提供实时数据 流，已在线上稳定运行 6年之久。详见：...
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
本篇最佳实践先创建EMR集群作为数据湖对象，Hive元数据存储在DLF，外表数据存储在OSS。然后使用阿里云数据仓库MaxCompute以创建外部项目的方式与存储在DLF的元数据库映射打通，实现元数据统一。最后通过一个毒蘑菇的训练和预测demo，演示云数仓MaxCompute如何对于存储在EMR数据湖的数据进行加工处理以达到业务预期。
配置DataWorks和PAI 此方案通过DataWorks创建一个工作空间，选择MaxCompute作为计算引擎，并开 通PAIStudio作为机器学习服务（用于后续演示使用MaxCompute的SQL完成机器 学习）。通过odpscmd客户端在工作空间下创建外部项目（externalproject）与DLF 的元数据库做映射关联。前提是DLF已经授权给MaxCompute。目前DataWorks的...
云原生数据库PolarDB MySQL版
PolarDB MySQL版是自研的云原生关系型数据库，100%兼容MySQL。多主多写、多活容灾、HTAP、交易和分析性能最高分别是开源数据库的6倍和400倍，TCO低于自建数据库50%。
生产数据库，阿里云SLA保障.1写7读集群版，可选存储热备集群.On物理机(X86)：通用型、独享型.PolarStore共享存储：PSL4、PSL5存储类型，最大100T存储.生产数据库，可用性要求高.完备企业级数据库能力需求.业务性能要求高.1写15读集群版，可选存储热备集群.高压缩引擎(X-Engine).多主集群（库表）.全球数据库GDN.计算实例...
来自：
云产品
云速搭部署风险识别SAF
通过云速搭 CADT 实现风险识别服务的部署，并可以基于已有的应用，多次部署，方 便快捷。
文档版本：20220113 8 云速搭部署风险识别SAF最佳实践 CADT部署ADB应用 步骤8 在导出价格清单对话框中，CADT会为您计算出应用所含资源的价格，包括原价、优 惠以及最终的实付价格，在这里您需要确认下所购风险识别服务的原价、优惠以及实 付价格是否正确，确认无误，再单击下一步：确认订单。步骤9 在确认订单对话框中，...
Databricks数据洞察
阿里云Databricks数据洞察是基于Apache Spark的全托管数据分析平台, 内核采用更高效、稳定的商业版Databricks Runtime和Delta Lake。可满足数据分析师、数据工程师和数据科学家在大数据场景下对数据湖分析、实时数仓、离线数仓、BI数据分析、AI机器学习等需求
在Apache Spark基础上做了大量的性能优化，且针对阿里云OSS做了I/O优化，提供了更快速、更高效的计算引擎.较开源Delta Lake，功能更完备，对核心功能点均有更深度的优化和性能提升.与阿里云RAM集成，可以根据用户和角色做权限控制，保障数据安全性.介绍Databricks数据洞察功能.介绍如何创建和释放集群.介绍如何创建作业及...
来自：
云产品
云数据库RDS PostgreSQL
云数据库RDS PostgreSQL 版完全兼容开源PostgreSQL，基于云原生架构，软硬协同优化，提供稳定可靠、高性价比的数据库服务。通过丰富的插件拓展，支撑各领域场景化业务，如自研Ganos多维多模时空引擎及开源PostGIS地理信息引擎、向量引擎、时序引擎等百余款插件。
支持机器学习插件MADlib，提供数理统计通用函数、存储过程以及一系列经典的监督、非监督学习算法库.内置超过100款插件，基于业务场景下沉，为不同行业客户量身打造场景化的能力.插件丰富，提供多模计算能力.安全事前防护.可设置允许连接实例的IP白名单，严格控制访问源；同时支持通过VPC来获取更高程度的网络访问控制；支持...
来自：
云产品
- 产品推荐
- 这些文档可能帮助您