PostgreSQL 10.0 preview 功能增强 - slave支持WAITLSN 'lsn', time;用于设置安全replay栅栏

本文涉及的产品
云原生数据库 PolarDB MySQL 版,Serverless 5000PCU 100GB
云原生数据库 PolarDB 分布式版,标准版 2核8GB
云数据库 RDS MySQL Serverless,0.5-2RCU 50GB
简介:

标签

PostgreSQL , 10.0 , waitlsn , replay , slave , 流复制 , 等待恢复


背景

PostgreSQL 的流复制是非常灵活的,在主库端,可以将事务的级别设置为同步,异步,本地同步,远程同步刷盘,远程同步刷OS缓存,远程数据库apply等多种级别。

《PostgreSQL 9.6 同步多副本 与 remote_apply事务同步级别》

但是在备库,还没有一个可以设置安全栅栏的手段,比如说,我们要让备库apply到某个位点后,再执行某个QUERY。

10.0提供了这样的接口,来完成这个功能。

waitlsn 'lsn', time;语法

例子:

session a:   
连接到主节点,执行了某个QUERY,并提交,产生的LSN为lsn1位置。  

session b:  
连接到备节点,它如果要等待一致性的结果,需要等待lsn1在备节点已经apply,怎么做呢?  
waitlsn 'lsn1';即可  

详情

Hi hackers,  

Few days earlier I've finished my work on WAITLSN statement utility, so   
I’d like to share it.  


Introduction  
============  

Our clients who deal with 9.5 and use asynchronous master-slave   
replication, asked to make the wait-mechanism on the slave side to   
prevent the situation when slave handles query which needs data (LSN)   
that was received, flushed, but still not replayed.  


Problem description  
===================  

The implementation:  
Must handle the wait-mechanism using pg_sleep() in order not to load system  
Must avoid race conditions if different backend want to wait for   
different LSN  
Must not take snapshot of DB, to avoid troubles with sudden minXID change  
Must have optional timeout parameter if LSN traffic has stalled.  
Must release on postmaster’s death or interrupts.  


Implementation  
==============  

To avoid troubles with snapshots, WAITLSN was implemented as a utility   
statement, this allows us to circumvent the snapshot-taking mechanism.  
We tried different variants and the most effective way was to use Latches.  
To handle interprocess interaction all Latches are stored in shared   
memory and to cope with race conditions, each Latch is protected by a   
Spinlock.  
Timeout was made optional parameter, it is set in milliseconds.  


What works  
==========  

Actually, it works well even with significant timeout or wait period   
values, but of course there might be things I've overlooked.  

How to use it  
==========  

WAITLSN ‘LSN’ [, timeout in ms];  

#Wait until LSN 0/303EC60 will be replayed, or 10 second passed.  
WAITLSN ‘0/303EC60’, 10000;  

#Or same without timeout.  
WAITLSN ‘0/303EC60’;  

Notice: WAITLSN will release on PostmasterDeath or Interruption events   
if they come earlier then LSN or timeout.  

Testing the implementation  
======================  

The implementation was tested with testgres and unittest python modules.  

How to test this implementation:  
Start master server  
Make table test, insert tuple 1  
Make asynchronous slave replication (9.5 wal_level = standby, 9.6 or   
higher wal_level =  replica)  
Slave: START TRANSACTION ISOLATION LEVEL REPEATABLE READ ;  
        SELECT * FROM test;  
Master: delete tuple + make vacuum + get new LSN  
Slave: WAITLSN ‘newLSN’, 60000;  
        Waitlsn finished with FALSE “LSN doesn`t reached”  
Slave: COMMIT;  
        WAITLSN ‘newLSN’, 60000;  
        Waitlsn finished with success (without NOTICE message)  

The WAITLSN as expected wait LSN, and interrupts on PostmasterDeath,   
interrupts or timeout.  

Your feedback is welcome!  


---  
Ivan Kartyshov  
Postgres Professional: http://www.postgrespro.com  
The Russian Postgres Company  

这个patch的讨论,详见邮件组,本文末尾URL。

PostgreSQL社区的作风非常严谨,一个patch可能在邮件组中讨论几个月甚至几年,根据大家的意见反复的修正,patch合并到master已经非常成熟,所以PostgreSQL的稳定性也是远近闻名的。

参考

https://commitfest.postgresql.org/13/772/

https://www.postgresql.org/message-id/flat/0240c26c-9f84-30ea-fca9-93ab2df5f305@postgrespro.ru#0240c26c-9f84-30ea-fca9-93ab2df5f305@postgrespro.ru

相关实践学习
使用PolarDB和ECS搭建门户网站
本场景主要介绍基于PolarDB和ECS实现搭建门户网站。
阿里云数据库产品家族及特性
阿里云智能数据库产品团队一直致力于不断健全产品体系,提升产品性能,打磨产品功能,从而帮助客户实现更加极致的弹性能力、具备更强的扩展能力、并利用云设施进一步降低企业成本。以云原生+分布式为核心技术抓手,打造以自研的在线事务型(OLTP)数据库Polar DB和在线分析型(OLAP)数据库Analytic DB为代表的新一代企业级云原生数据库产品体系, 结合NoSQL数据库、数据库生态工具、云原生智能化数据库管控平台,为阿里巴巴经济体以及各个行业的企业客户和开发者提供从公共云到混合云再到私有云的完整解决方案,提供基于云基础设施进行数据从处理、到存储、再到计算与分析的一体化解决方案。本节课带你了解阿里云数据库产品家族及特性。
相关文章
|
25天前
|
关系型数据库 Serverless 分布式数据库
【公测】PolarDB PostgreSQL版Serverless功能免费使用​!
【公测】PolarDB PostgreSQL版Serverless功能免费使用​,公测于2024年3月28日开始,持续三个月,公测期间可以免费使用!
|
3月前
|
存储 关系型数据库 MySQL
PolarDB优势功能
PolarDB优势功能
|
6月前
|
存储 关系型数据库 数据库
深入了解 PostgreSQL:功能、特性和部署
PostgreSQL,通常简称为Postgres,是一款强大且开源的关系型数据库管理系统(RDBMS),它在数据存储和处理方面提供了广泛的功能和灵活性。本文将详细介绍 PostgreSQL 的功能、特性以及如何部署和使用它。
228 1
深入了解 PostgreSQL:功能、特性和部署
|
7月前
|
SQL 关系型数据库 测试技术
PolarDB的Online DDL功能验证实验
本场景带您体验如何在PolarDB-X中进行Online DDL。
955 0
|
1月前
|
关系型数据库 Serverless 分布式数据库
PolarDB PostgreSQL版Serverless功能上线公测啦,公测期间免费使用!
Serverless数据库能够使得数据库集群资源随客户业务负载动态弹性扩缩,将客户从复杂的业务资源评估和运维工作中解放出来。PolarDB PostgreSQL版 Serverless提供了CPU、内存、存储、网络资源的实时弹性能力,构建计算与存储分离架构下的 PolarDB PostgreSQL版产品新形态。
|
6月前
|
安全 关系型数据库 Go
远程连接PostgreSQL:配置指南与安全建议
远程连接PostgreSQL:配置指南与安全建议
328 0
|
2月前
|
SQL 关系型数据库 分布式数据库
在PolarDB for PostgreSQL中,你可以使用LIKE运算符来实现类似的查询功能,而不是使用IF函数
在PolarDB for PostgreSQL中,你可以使用LIKE运算符来实现类似的查询功能,而不是使用IF函数
43 7
|
2月前
|
关系型数据库 Linux Shell
Centos系统上安装PostgreSQL和常用PostgreSQL功能
Centos系统上安装PostgreSQL和常用PostgreSQL功能
|
3月前
|
关系型数据库 MySQL 分布式数据库
PolarDB MySQL企业版与标准版功能对比:如何选择适合您的版本?
随着数字化时代的到来,企业对于数据处理的需求越来越高,而数据库作为数据处理的核心,其性能和成本成为了企业关注的焦点。阿里云全新推出的PolarDB MySQL企业版和标准版,以全新的架构和优化,为企业提供了高性能、低成本的数据库解决方案。但在功能上,这两个版本有很多差异,我们该如何选择呢?
59 2
|
3月前
|
SQL 关系型数据库 分布式数据库
在PolarDB for PostgreSQL中,你可以使用LIKE运算符来实现类似的查询功能
在PolarDB for PostgreSQL中,你可以使用LIKE运算符来实现类似的查询功能【1月更文挑战第13天】【1月更文挑战第65篇】
31 2

相关产品

  • 云原生数据库 PolarDB