为高度连接数据而生 阿里云图数据库GDB揭秘

简介: 阿里云于2019年3月重磅发布了数据库新产品——图数据库(Graph Database,简称GDB),本文将从图数据库的基本背景知识说起,带你深入了解阿里云Cloud-Native图数据库GDB。

###背景

如果你关注过db-engines.com,你很可能会发现有一种类别的数据库在最近几年正以火箭般的速度迅速流行起来,那就是Graph DBMS。阿里云于2019年3月重磅发布了数据库新产品——图数据库(Graph Database,简称GDB),本文将从图数据库的基本背景知识说起,带你深入了解阿里云Cloud-Native图数据库GDB。

image.png

什么是图数据库

“A graph database is a database that uses graph structures for semantic queries with nodes, edges and properties to represent and store data.

A key concept of the system is the graph (or edge or relationship), which directly relates data items in the store a collection of nodes of data and edges representing the relationships between the nodes.

The relationships allow data in the store to be linked together directly, and in many cases retrieved with one operation. Graph databases hold the relationships between data as a priority.

Querying relationships within a graph database is fast because they are perpetually stored within the database itself. Relationships can be intuitively visualized using graph databases, making it useful for heavily inter-connected data.”

image.png

上面是维基百科上对图数据库的一段定义描述以及一个简单示例。简单说来,典型的图结构由点,边和点边对应属性构成。图数据库则是针对图这种结构的独有特点而专门设计的一种数据库,非常适合高度互连数据集的存储和查询。

示例中描述的是一个极度简化的社交关系图,圆圈代表顶点(Vertex/Node), 有方向的线条代表边(Edge),顶点或者边都可以有属性(Property)。现实中的,图数据库覆盖的应用场景非常广泛,比较典型的有社交网络,欺诈检测,推荐引擎,知识图谱和网络/IT运营等。

图数据库 vs 传统关系型数据库

所谓术业有专攻,相对于传统的关系型数据,图数据库更擅长高密互连的数据处理。让我们先从Linkedin类似查询为例来管中窥豹看看图数据库的价值。

image.png

比如,用户UserId-xxx发起“_查询自己2度好友中名字叫James的人_”这样一个查询请求。以传统关系数据库的做法,你可能会写出如下查询语句:

select * from t as t3 where t3.uid in(
    select friend_uid from t as t2 where t2.uid in (
        select friend_uid from t as t1 where t1.uid='UserId-xxx'
    )
) and t3.name='James'

抛开查询语句的复杂度,该类查询语句在关系型数据库中执行起来是非常低效的,往往要秒级才能正常返回。如果进一步变为3度查询,则更慢了。那么,要是采用图数据库呢?以Gremlin为例,你可以很简单的写出这样一段查询语句:

g.V('UserId-xxx').repeat(both().simplePath()).times(2).dedup().has('name', 'James')

更为关键的是,这种2度,3度查询请求在图数据库中处理起来是非常高效的,性能往往能够轻松的达到传统关系型数据库的十倍乃至几十倍。

这种性能的差异并非简单的调优问题,而是更深层次的数据库建模以及内核层面决定的。可以说,图数据库在基因层面更适合高度连接数据库的处理。

下面的表格将从更多层面对二者进行对比:

image.png

图模型

图的概念源自图论,大家如果有所了解,可能听得最多的会是无向图,有向图这两种概念。

image.png

随着理论和技术的不断演进,当前在图数据库的应用当中,最为流行的是下面两种图模型:

image.png

RDF图 核心是一种资源描述方式,每条描述都由主谓宾三元组构成。RDF作为W3C标准大量应用于知识图谱等相关应用。

RDF是当前W3C的一个推荐标准,同时有标准查询语言SPARQL配合,在早期有大量RDF Stores产品出现。大家可以看到db-engines.com到目前还保留着RDF Stores这样一个分类。

后来,属性图模型被大量图数据库产品所采用,属性图相对RDF更为灵活,新的图数据库也逐渐侵蚀部分RDF Stores的市场,更有不少产品在属性图基础之上做RDF及SPARQL的支持,以便无缝的承接RDF及SPARQL之上的各类应用及生态。

图数据库GDB整体介绍

阿里云图数据库(Graph Database, 简称GDB)是一种支持属性图模型,用于处理高度连接数据查询与存储的实时可靠的在线数据库,支持 Apache TinkerPop Gremlin 查询语言,可以帮助用户快速构建基于高度连接的数据集的应用程序。阿里云图数据库GDB具有如下特点:

  • 开放图查询语言:支持属性图模型,高度兼容Gremlin图查询语言
  • 服务高可用:支持高可用实例,节点故障迅速转移,保障业务连续性
  • 高度优化的自研引擎:高度优化的自研图计算层和存储层,云盘多副本保障数据超高可靠,支持ACID事务
  • 易运维:提供备份恢复,自动升级,监控告警,故障切换等丰富的运维功能,大幅降低运维成本

开放图查询语言

阿里云图数据库GDB支持属性图模型,公测版对外开放Apache TinkerPop Gremlin(https://tinkerpop.apache.org/gremlin.html)图查询语言。

image.png

Gremlin是一由Apache TinkerPop提供支持的图查询语言,License为开源的Apache License Version 2.0。Gremlin和传统SQL有明显区别,是一种函数式、面向数据流的查询语言,使用户可以更为直接地控制和表达图查询的复杂逻辑。Gremlin包含一个宽松的DSL规范描述,以及基于Java/Groovy的开源实现。

阿里云图数据库GDB实现了Gremlin的高度兼容,支持直接使用开源的3.3.3版本以3.4版本开源客户端连接GDB进行操作,具体包括Gremlin Console,Java SDK,Python SDK,.Net SDK,并且支持Rest接口。如果希望进一步了解具体兼容性,可以参考:GDB Gremlin实现的兼容性

服务高可用
图数据库GDB公测版本支持高可用实例,后续商业化将进一步开放一写多读实例,提供读实例的水平扩展能力。

image.png

高可用版本采用一主一备的经典高可用架构,主备都采用独立的图数据库节点,计算与存储分离,主备之间通过复制(默认半同步)实现数据同步,一旦主库发生故障,将迅速检测并触发主备切换来保证可用性。

备库故障对业务无影响,但会快速被检测到并触发备库自愈。未来提供一写多读实例后,所有读写实例将共享底层存储资源(3副本),提升扩展性的同时也将带来整体存储成本的进一步降低。

高度优化的自研引擎
图数据库GDB由阿里云自主研发,是一款高度优化的Cloud-Native图数据库,虽然归属No-SQL数据库分类,但提供了完整的ACID事务支持。在上云之前,图数据库GDB在阿里巴巴已经有大量内部客户使用。图内核经历过多个版本深度打磨,同时针对云环境进行了大量调优。GDB公测版本基于云盘构建,云盘多副本提供了数据超高可靠保障。

下图是GDB内核部分核心能力示意:

image.png

整体上,图数据库内核包含计算和存储两层,计算层专注在图相关能力抽象及实现,存储层专注在数据的内部布局及高效存取。下面将对GDB内核的部分核心能力进行进一步解析:

  • Gremlin Runtime: 实现了Gremlin DSL的高效解析及执行计划的生成。同时为保障DSL的安全执行,内部实现了一层沙箱来做安全防护。
  • Cost-Based Optimizer: 通过完整的信息统计和代价估算,以CBO(Cost-Based Optimizer)为主体,辅以部分RBO(Rule-Based Optimizer),来对执行方案进行优化。
  • Parallel Query Execution: 当前主要采用了基于Morsel机制的并行执行, 同时也在基于场景不断探索和验证更有效的并行执行方案。
  • Read Committed Isolation Level: GDB提供了一种自动事务机制,针对每一条DSL都会自动生成一个事务并在执行结束时基于结果提交或者终止。公测版本当前默认为Read-Committed隔离级别,更多的隔离级别将在未来开放并提供入口让用户自行权衡设定。
  • Fine-Grained Locking: GDB内部针对读,写,读写混合各类请求进行了细致划分,结合隔离级别,对锁进行了非常细粒度的管理。
  • Smart Cache: GDB内部实现了两层Cache,包括Object Cache及Block Cache,同时会基于用户的请求特征自行调整Cache策略。
  • High Performance Transaction Mechanism: 一个复杂DSL本质对应的是一个复杂的父事务,在执行优化后将会被拆解成多个子事务来执行,GDB内部实现了一套非常高效的事务装置,能够在保证事务正确性的同时提供最大的并发性。
  • Schema-Agnostic Indexing: GDB采用Schema-free的设计,支持自动索引,用户无需面对繁杂的索引管理和优化相关事情,只需专注在业务自身的实现即可。
  • Highly-Tuned Storage Engine: GDB基于图结构的特点设计了全新的存储方案,同时基于云盘等云上环境进行了大量针对性调优。
  • High Reliability: GDB采用云盘作为存储,每份数据3副本,配合高可用设计,能够最大程度的保证数据的可靠性。

易运维

除核心图数据库服务能力外,GDB为用户提供了大量运维配套能力。包括备份恢复,自动升级,监控告警,故障切换等,可以帮助用户大幅降低运维成本。

图数据库GDB未来演进

图数据库GDB还在迅速的演进和完善当中,不久的未来,我们会提供:

  • 更强大的备份恢复能力
  • 更强大的弹性及水平扩展能力
  • 丰富的数据迁移工具
  • 完善的数据管理工具(可视化,性能诊断,审计等)
  • 常见的图算法

我们也会进一步在各个层面对图数据库的生态进行完善,包括提供相关工具或环境让用户能够便利的对接到业界流行的的一些图相关系统,比如可视化系统,分析系统等。

写在最后

图数据库GDB是阿里云数据库家族为覆盖更全面企业场景而重磅推出的最新力作,拥有很多优秀的特性。当前图数据库GDB已经正式公测发布,https://www.aliyun.com/product/gdb,欢迎体验和反馈!

相关实践学习
阿里云图数据库GDB入门与应用
图数据库(Graph Database,简称GDB)是一种支持Property Graph图模型、用于处理高度连接数据查询与存储的实时、可靠的在线数据库服务。它支持Apache TinkerPop Gremlin查询语言,可以帮您快速构建基于高度连接的数据集的应用程序。GDB非常适合社交网络、欺诈检测、推荐引擎、实时图谱、网络/IT运营这类高度互连数据集的场景。 GDB由阿里云自主研发,具备如下优势: 标准图查询语言:支持属性图,高度兼容Gremlin图查询语言。 高度优化的自研引擎:高度优化的自研图计算层和存储层,云盘多副本保障数据超高可靠,支持ACID事务。 服务高可用:支持高可用实例,节点故障迅速转移,保障业务连续性。 易运维:提供备份恢复、自动升级、监控告警、故障切换等丰富的运维功能,大幅降低运维成本。 产品主页:https://www.aliyun.com/product/gdb
相关文章
|
28天前
|
关系型数据库 分布式数据库 数据库
成都晨云信息技术完成阿里云PolarDB数据库产品生态集成认证
近日,成都晨云信息技术有限责任公司(以下简称晨云信息)与阿里云PolarDB PostgreSQL版数据库产品展开产品集成认证。测试结果表明,晨云信息旗下晨云-站群管理系统(V1.0)与阿里云以下产品:开源云原生数据库PolarDB PostgreSQL版(V11),完全满足产品兼容认证要求,兼容性良好,系统运行稳定。
|
1月前
|
存储 Oracle 关系型数据库
Dataphin常见问题之想要周期执行任务如何解决
Dataphin是阿里云提供的一站式数据处理服务,旨在帮助企业构建一体化的智能数据处理平台。Dataphin整合了数据建模、数据处理、数据开发、数据服务等多个功能,支持企业更高效地进行数据治理和分析。
|
1月前
|
SQL 安全 数据管理
在阿里云数据管理DMS(Data Management Service)中,您可以按照以下步骤来创建和管理数据库
【2月更文挑战第33天】在阿里云数据管理DMS(Data Management Service)中,您可以按照以下步骤来创建和管理数据库
37 7
|
8天前
|
存储 关系型数据库 MySQL
如何处理爬取到的数据,例如存储到数据库或文件中?
处理爬取的数据,可存储为txt、csv(适合表格数据)或json(适合结构化数据)文件。若需存储大量数据并执行复杂查询,可选择关系型(如MySQL)或非关系型(如MongoDB)数据库。以MySQL为例,需安装数据库和Python的pymysql库,创建数据库和表,然后编写Python代码进行数据操作。选择存储方式应考虑数据类型、数量及后续处理需求。
16 1
|
9天前
|
SQL 关系型数据库 MySQL
关系型数据库插入数据的语句
使用SQL的`INSERT INTO`语句向关系型数据库的`students`表插入数据。例如,插入一个`id`为1,`name`为'张三',`age`为20的记录:`INSERT INTO students (id, name, age) VALUES (1, '张三', 20)。如果`id`自增,则可简化为`INSERT INTO students (name, age) VALUES ('张三', 20)`。
11 2
|
9天前
|
SQL 存储 Oracle
关系型数据库查询数据的语句
本文介绍了关系型数据库中的基本SQL查询语句,包括选择所有或特定列、带条件查询、排序、分组、过滤分组、表连接、限制记录数及子查询。SQL还支持窗口函数、存储过程等高级功能,是高效管理数据库的关键。建议深入学习SQL及相应数据库系统文档。
9 2
|
11天前
|
JavaScript 关系型数据库 MySQL
❤Nodejs 第二章(Node连接本地数据库)
【4月更文挑战第2天】本文介绍了如何使用Node.js连接本地MySQL数据库。首先,提到了在MySQL官网下载安装数据库和使用Navicat for MySQL进行数据库管理。接着,通过`yarn add mysql`在项目中安装数据库依赖。然后,创建`app.js`文件,设置数据库连接参数,并建立连接进行查询操作。遇到导入模块的错误后,修改导入方式为CommonJS语法。
29 1
|
13天前
|
SQL 监控 关系型数据库
PG数据库释放闲置连接
PG数据库释放闲置连接
21 0
|
15天前
|
人工智能 Cloud Native 算法
数据之势丨AI时代,云原生数据库的最新发展趋势与进展
AI与云数据库的深度结合是数据库发展的必然趋势,基于AI能力的加持,云数据库未来可以实现更快速的查询和决策,帮助企业更好地利用海量数据进行业务创新和决策优化。
数据之势丨AI时代,云原生数据库的最新发展趋势与进展
|
23天前
|
弹性计算 关系型数据库 MySQL
阿里云数据库服务器价格表,数据库创建、连接和使用教程
阿里云数据库使用流程包括购买和管理。选择所需数据库类型如MySQL,完成实名认证后购买,配置CPU、内存和存储。确保数据库地域与ECS相同以允许内网连接。创建数据库和账号,设置权限。通过DMS登录数据库,使用账号密码连接。同一VPC内的ECS需添加至白名单以进行内网通信。参考官方文档进行详细操作。
125 3

热门文章

最新文章