自建Hive数据仓库跨版本迁移到阿里云Databricks数据洞察
自建Hive数据仓库跨版本迁移到阿里云Databricks数据洞察
场景描述 客户在IDC或者公有云环境自建Hadoop集群构建数据仓库和分析系统,购买阿里云Databricks数据洞察集群之后,涉及到数仓数据和元数据的迁移以及Hive版本的订正更新。 方案优势 1. 全托管Spark集群免运维,节省人力成本。 2. Databricks数据洞察与阿里云其他产品(OSS、RDS、MaxCompute、EMR)进行深度整合,支持以这些产品为数据源的输入和输出。 3. 使用Databricks Runtime商业版引擎相比开源Spark性能有3-5倍的提升。 解决问题 1. Hive数仓数据迁移OSS方案。 2. Hive元数据库迁移阿里云RDS方案。 3. Hive跨版本迁移到Databricks数据洞察使用Delta表查询以提高查询效率。
总结 通过实践证明,客户使用全托管的 Databricks数据洞察大数据分析平台,以下优势明 显:Databricks数据洞察产品内核使用 Databricks商业版的 Runtime和 Delta Lake较 之前使用开源 Spark做数据分析在性能上有 3-5倍的提升,机器资源相比自建多 了 3倍。全托管的 Spark集群免去运维人力成本,免去性能调优(运维 1+...
来自: 最佳实践 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,文件存储HDFS,spark
SLS多云日志采集、处理及分析
SLS多云日志采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务,通过日志服务 进行数据分析,帮助提升运维、运营效率, 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户,推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输;针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况,可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
scp 您的日志发生安装包保存路径 root@112.*.*.*:/root/本执行 例如日志发生安装包路径是/xx/nginx-log-generator-master.tar.gz,那么命 令为 scp/xx/nginx-log-generator-master.tar.gz root@112.*.*.*.*:/root tar zxvf nginx-log-generator-master.tar.gz 步骤3 启动日志发生。文档版本:20211203 22 ...
来自: 最佳实践 | 相关产品:云服务器ECS,日志服务(SLS),NAT网关,E-MapReduce,全站加速 DCDN,云速搭CADT
企业服务与云通信
围绕企业全生命周期,阿里云提供生产、采购、售前、售中、售后,到金融、研发在内的服务,同时可提供以PaaS或SaaS云化的网络连接能力、互联网通信能力、通信类应用能力的产品族,助力客户快捷、高效地触达用户。企业服务与云通信包含企业云服务、企业基础服务、钉钉和云通信等产品。
机器人流程自动化 RPA.Teambition 企业协同.Chat App 消息服务.阿里巴巴进入Gartner《企业低代码平台魔力象限》.国际咨询机构Gartner®正式发布了2022年《企业低代码平台魔力象限》,阿里巴巴成为首次入选该象限的中国厂商之一,被评为利基者(Niche Players)。Gartner预测,到2025年,全球低代码开发技术整体收入将达到...
来自: 云产品
云效代码管理 Codeup
云效代码管理 Codeup,10万企业都在用的代码管理平台,提供代码托管、代码评审、代码扫描、质量检测、持续集成等功能,全方位保护企业代码资产,帮助企业实现安全、稳定、高效的研发管理。
无需搭建和机器成本,开箱即用,且不限成员数、不限容量.无需专人运维,阿里云高防保护,防止黑客攻击.支持按企业->项目->代码库->人员进行精细化权限管理.提供敏感信息检测、代码规约检测、编码安全检测、三方依赖漏洞检测等诸多开箱即用的功能.无缝衔接DevOps工具链.与云效项目协作、云效CI/CD无缝衔接,一站式DevOps工作...
来自: 云产品
云速搭CADT部署VMware服务
云速搭CADT部署VMware服务
本方案适用客户云下使用VMware环境,在云上希望继续使用VMware环境,包括业务维护和扩容等,不希望改变云上使用环境。
数据中心扩容:业务扩容遇到机器过保、 房空间限限制等情况,不希望一次性高昂的 产品列表 基础资源投入。专用网络 VPC 上云迁移场景:客户不想继续维护本地 云服务器 ECS VMware数据中心,实现整体 VMware数据 云速搭 CADT 中心迁移上云。弹性公网 IP VMware服务 ACVS 云企业网 CEN 最佳实践频道 阿里云最佳实践技术分享...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,弹性公网IP,云企业网,云速搭
计算巢服务
阿里云计算巢服务是一个面向ISV、SI、MSP和开发者的云集成PaaS平台,方便服务商更好的将产品、服务集成,借助云原生的能力提升软件服务交付、部署及后续管理。
统一管理纳管线下机器,将物理变为 ECS 托管实例、将 K8S 通过 ACK 进行集群纳管,实现部署环境的统一管理和运维。相关产品云服务器 ECS在线咨询计算巢生态伙伴解决方案计算巢联合多家 ISV 合作伙伴,为客户提供覆盖多行业、多场景的云上解决方案。通过产品的深度集成,保障客户最极致的云上体验。查看详情神策数据联合...
来自: 云产品
云速搭部署风险识别SAF
云速搭部署风险识别SAF
通过云速搭 CADT 实现风险识别服务的部署,并可以基于已有的应用,多次部署,方 便快捷。
云速搭部署风险识别SAF最佳实践 文档版本信息 云速搭 部署风险识别 SAF 最佳实践 文档版本:20220113(发布日期)云速搭部署风险识别SAF最佳实践 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 云速搭部署风险识别 SAF最佳实践 文档编号 289 文档版本 V1.0 版本日期 2022-01-13 文档状态 对外发布 制作 七凌 ...
来自: 最佳实践 | 相关产品:风险识别
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
本篇最佳实践先创建EMR集群作为数据湖对象,Hive元数据存储在DLF,外表数据存储在OSS。然后使用阿里云数据仓库MaxCompute以创建外部项目的方式与存储在DLF的元数据库映射打通,实现元数据统一。最后通过一个毒蘑菇的训练和预测demo,演示云数仓MaxCompute如何对于存储在EMR数据湖的数据进行加工处理以达到业务预期。
六稻,阿瑟 制作 审阅 扬流 文档变更记录 版本编号 日期 作者 审核 说明 V1.0 2021-02-05 毕役-创建 V1.1 2021-02-07 厉博 孟硕 修改 增加产品特性,更新初始 扬流 V1.2 2024-04-22 六稻,阿瑟 化CADT模版 I 文档版本:20240422基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测 目录 目录 文档版本信息.I 法律声明...
来自: 最佳实践 | 相关产品:对象存储 OSS,E-MapReduce,DataWorks,大数据计算服务 MaxCompute,API网关,数据湖构建,云速搭
自建ELK迁移阿里云日志服务
自建ELK迁移阿里云日志服务
场景描述 ELK Stack(Elastic/Logstash/Kibana) 通常 被用于日志实时分析, 在开源社区中有大量 的内容和使用案例。 本文介绍如何将自建的 ELK 系统迁移到阿里云 SLS 日志服务。 解决问题 1. 自建 ELK 如何迁移到阿里云日志服务。 2. 如何使用 Logtail 采集日志。 3. 如何使用阿里云日志服务对日志进行查 询、 分析。 产品列表  阿里云日志服务(SLS)  VPN 网关  IPSec VPN  云服务器
步骤3 通过CADT画布获取nginx节点的公网地址,双击nginx节点 文档版本:20240422 14自建ELK迁移阿里云日志服务(SLS)搭建ELK环境 步骤4 使用浏览访问nginx服务器的公网IP(刷新10次以上),产生10条访问日志 2.3.ELK环境验证 步骤1 浏览输入http://{ELKECS的公网IP}:5601,首次打开请选择Exploreonmyown 进入Kibana...
来自: 最佳实践 | 相关产品:云服务器ECS,日志服务(SLS)
云原生大数据计算服务MaxCompute
阿里云云原生大数据计算服务MaxCompute是面向分析的企业级云数仓,作为一体化大数据智能计算平台ODPS的大规模批量计算引擎,MaxCompute以 Serverless 架构提供快速、全托管的在线数据仓库服务,使您经济高效的分析处理海量数据,进行敏捷的业务洞察。
在此基础之上,结合机器学习PAI,实现了千千面的推荐算法。相反,如果完全基于开源的Hadoop框架,从服务部署、可视化开发、代码管理、任务调度、集群运维等多方面,均需要大量的人力来开发与维护。基于阿里云MaxCompute,不论是人力成本,还是计算成本,还是运维成本,都降到了最低.联合创始 徐佳义.随着业务量的增长,...
来自: 云产品
云数据库Redis
云数据库 Redis 版是一种全托管、兼容Redis协议的内存数据库服务,包含社区版Redis和企业版Tair,支持主从、集群和读写分离架构,具备低延迟、大吞吐、弹性扩缩容的特点。Tair提供多种系列满足不同场景的性价比要求,更有全球多活、数据闪回、大热Key探测与优化、丰富的数据结构,赋能大规模高性能要求的在线数据业务。
基于云数据库 Redis 企业版(Tair)向量检索可以构建垂直专业领域的智能问答机器人。Tair 向量检索与大模型组合,摆脱 LLM 的 Token 数限制,提供多轮对话能力的长期上下文感知能力。高性能低时延 Tair 更简单的架构、更优秀的单层算法实现使得向量检索服务能够提供更高 QPS 和更低的查询时延。上下文感知 支持独立向量检索...
来自: 云产品
Serverless 应用引擎SAE
Serverless 应用引擎 SAE(Serverless App Engine)是一款零代码改造、极简易用、自适应弹性的应用全托管平台。SAE 让您免运维 IaaS和 K8s,秒级完成从源代码/代码包/ Docker 镜像部署任何语言的在线应用(如 Web /微服务 /Job任务)到 SAE,并自动伸缩实例按使用量计费,开箱即用日志、监控、负载均衡等配套能力。
使用SAE之后,再也不用通宵了,1轻松运维几百个应用.体育直播基于SAE弹性应对洪峰,运维提效40%,资源利用率提升50%,应用上线周期缩短40%,定位问题效率提升30%.帮助客户低门槛微服务化,轻松对接 DevOps、SLB、SLS、NAS 等和微服务生态产品,提供一站式的上云体验.帮助客户解决K8s运维复杂&稳定性无法兜底,人肉评估...
来自: 云产品
云速搭部署 NAS 文件系统
云速搭部署 NAS 文件系统
本实践通过云速搭构建一个 NAS,并将 NAS 文件系统挂载到 ECS 的目录上。
云速搭部署 NAS文件系统 文档版本信息 云速搭 部署 NAS文件系统 最佳实践 文档版本:20211027(发布日期)云速搭部署 NAS文件系统 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 云速搭部署 NAS文件系统 文档编号 245 文档版本 V1.0 版本日期 2021-10-27 文档状态 对外发布 制作 洁谦 文档变更记录 版本编号 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,文件存储NAS,云速搭CADT
云数据库RDS PostgreSQL
云数据库RDS PostgreSQL 版完全兼容开源PostgreSQL,基于云原生架构,软硬协同优化,提供稳定可靠、高性价比的数据库服务。通过丰富的插件拓展,支撑各领域场景化业务,如自研Ganos多维多模时空引擎及开源PostGIS地理信息引擎、向量引擎、时序引擎等百余款插件。
了解详情 高安全等级,保证数据库安全性 已通过ISO 20000、SOC、PCI-DSS、等保三级等十项安全合规认证 安全事前防护 可设置允许连接实例的IP白名单,严格控制访问源;同时支持通过VPC来获取更高程度的网络访问控制;支持接入自建AD域,用于企业中心化管理,满足数据库级别和用户级别的黑白名单需求。安全事中防护 支持全...
来自: 云产品
微服务引擎MSE
微服务引擎 MSE 面向业界注册配置中心、分布式协调、云原生网关、微服务治理和分布式任务调度等主流开源项目,提供商业版服务。
任务调度server端免运维,无需担心机器等高可用风险影响重点任务调度失败,大幅降低运维成本;实时性要求高场景支持高精准调度,最小支持1秒级 调度能力.低成本海量数据处理.海量任务分布式并行执行,全面加快任务执行速度,相比消息队列避免调用高峰拖垮在线业务,大幅降低使用成本.31A_行业实战场景-copy.31A_【标题...
来自: 云产品
实时计算Flink版
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,具备实时应用的作业开发、数据调试、运行与监控、自动调优、智能诊断等全生命周期能力。内核引擎100%兼容Apache Flink,2倍性能提升,拥有FlinkCDC、动态CEP等企业级增值功能,内置丰富上下游连接器,助力企业构建高效、稳定和强大的实时数据应用。
游戏作为新兴崛起的娱乐产业,当下发展得如火如荼,其吸金能力和趣味性也吸引更多的投入其中。随着 大量资本的涌入,游戏的数量和种类越来越多,获客的成本也持续增加,市场的发展进入深海区。区别于资本驱动的方式,如何实现数据驱动,增加玩家的粘性,做到精细化的运营成为游戏公司在市场竞争中的下一道护城河.游戏中的...
来自: 云产品
政务行业云解决方案-政务-政府上云-政府云平台-阿里云
政务行业云解决方案为政务行业云量身定制,安全合规的政务专属云资源服务平台,提供与公共云完全隔离的的,高安全合规的专属高规格物理集群,可以承载非涉密的敏感信息和重要政务业务并提供政务行业专业的SaaS服务。
该政务直播方案既支持新闻现场型直播结合第三方合作伙伴提供专业摄像、手机、无人机、编码、4G背包等直播设备能够便捷应用于各种直播现场,通过云平台的优势支撑使终端的用户都能看到“稳定、清晰、流畅、低延时”的直播画面,也可以采取直播+互动的形态,满足广大用户想要同步参政议政的需求。由于政务业务的安全性...
来自: 解决方案
大数据近实时数据投递MaxCompute
大数据近实时数据投递MaxCompute
本文介绍离线大数据场景使MaxCompute构建云 上近实时数仓,打通云下数据上云链路,解决数据复杂类型支持和动态分区问题,满足高级数据处理需求的最佳实践。 l混合云环境下,现有业务系统零改造,打通数据上云链路。 l使用UDF实现复杂数据类型转换和数据动态分区。 l使用DataWorks配置周期调度业务流程,数据自动入仓。 l借助MaxCompute优化计算引擎,实现降本增效。 产品列表 云服务器ECS 专有网络VPC 访问控制RAM 数据总线DataHub E-MapReduceEMR DataWorks 大数据计算服务MaxCompute
您可以登录阿里云控制台,并前往实名 页面(https://account.console.aliyun.com/v2/#/authc/home)查看是否已经 完成实名认证。阿里云账户余额大于 100元。您可以登录阿里云控制台,并前往账户总览页面(https://expense.console.aliyun.com/#/account/home)查看账户余额。开通以下服务:ᅳ 云消息队列 Kafka ᅳ E-...
来自: 最佳实践 | 相关产品:块存储,专有网络 VPC,云服务器ECS,访问控制,E-MapReduce,DataWorks,大数据计算服务 MaxCompute,数据总线,云速搭CADT
RAPIDS加速图像搜索
RAPIDS加速图像搜索
场景描述 本方案适用于使用RAPIDS加速平台 +GPU云服务器来对图像搜索任务进行加 速的场景。相比CPU,利用GPU+ RAPIDS在图像搜索场景下可以取得非常 明显的加速效果。 解决问题 1.搭建RAPIDS加速图像搜索环境 2.使用容器服务Kubernetes版部署图 像搜索环境 3.使用NAS存储计算数据 产品列表 容器服务Kubernetes版 GPU云服务器 文件存储NAS
说明:您可以登录阿里云控制台,并前往实人认证页面(https://account.console.aliyun.com/v2/#/authc/home),查看是否已经完成实名 。阿里云账户余额大于 100元。说明:您可以登录阿里云控制台,并前往账户总览页面(https://expense.console.aliyun.com/#/account/home),查看当前账户余额。阿里云账号下已开通以下...
来自: 最佳实践 | 相关产品:云服务器ECS,文件存储NAS,容器服务 ACK
< 1 2 3 4 5 >
共有5页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用