组复制要求和限制

01 组复制要求

基础配置:

  • InnoDB存储引擎:

数据必须存储在InnoDB事务存储引擎中。采用乐观锁的方式来执行事务,然后在事务提交时检查是否存在冲突。如果存在冲突,为了保持整个集群的数据一致性,将回滚一些事务。(存在冲突的事务中,先提交的事务不会受到影响,继续完成提交,而后提交的事务会被回滚)这需要事务存储引擎。此外,InnoDB提供了一些附加功能,可以在与组复制一起操作时更好地管理和处理冲突的事务。使用其他存储引擎(包括临时的MEMORY存储引擎),由于缺乏对某些事务层面特性的支持,可能会导致组复制中的错误。可以通过在组成员上设置disabled_storage_engines系统变量来禁用其他存储引擎,例如:

disabled_storage_engines="MyISAM,BLACKHOLE,FEDERATED,ARCHIVE,MEMORY"

  • 主键:
    该集群要复制的每个表都必须具有定义的主键,或等效的主键,其中等效主键是非null的唯一键。此类键是作为表中每一行数据的唯一标识符,从而使系统能够通过该唯一标识符准确标识每个事务已修改的行来确定哪些事务发生冲突。组复制具有自己的内置的主键或主键等效项检查集,并且不使用sql_require_primary_key系统变量执行的检查。
    可以将运行组复制实例的sql_require_primary_key = ON设置为ON,并且可以将组复制通道的CHANGE MASTER TO语句的REQUIRE_TABLE_PRIMARY_KEY_CHECK选项设置为ON。但当设置sql_require_primary_key = ON或REQUIRE_TABLE_PRIMARY_KEY_CHECK = ON时,在执行的检查下可 能会不允许某些组复制的内置检查所允许的事务。

  • 网络性能:
    MySQL组复制要求部署在实例彼此非常接近的集群环境中。集群的性能和稳定性可能会受到网络延迟和网络带宽的影响。所有组成员之间必须始终保持双向通信。如果针对实例阻止了入站或出站通信(例如,通过防火墙或由于连接问题),则该节点无法在该集群中运行,并且该组成员(包括有问题的节点)可能无法报告受影响实例的正确状态。
    从MySQL 8.0.14开始,可以使用IPv4或IPv6网络基础结构或两者的结合来进行远程组复制服务器之间的TCP通信。
    同样从MySQL 8.0.14(组复制实例位于同一位置并共享本地组通信引擎(XCom)实例)开始,在可能的情况下,使用开销较小的专用输入通道代替TCP套接字进行通信。对于某些需要在远程XCom实例之间进行通信的组复制任务(例如加入组),仍然使用TCP网络,因此网络性能会影响集群的性能。

  • MySQL server配置:
    必须按照作为组成员的服实例上所示配置以下变量:
    server唯一标识符:根据复制拓扑中所有实例的要求,使用server_id系统变量为实例配置唯一server ID。server ID必须是介于1和(232)-1之间的正整数,并且必须与复制拓扑中的任何其他实例使用的每 个其他server ID不同。

  • binlog日志
    二进制日志处于开启状态:设置--log-bin [= log_file_name]。MySQL Group Replication复制二进制日 志内容,因此二进制日志需要打开才能运行。默认情况下启用此选项。

备库的所有更新都要记录到其binlog中:设置--log-slave-updates。默认情况下启用此选项。组成员需 要记录加入时从其引导节点收到并通过复制应用程序应用的事务,记录他们从集群中接收并应用的所有 事务。这样,组复制就可以通过从现有组成员的二进制日志进行状态转移来执行分布式恢复。

二进制日志行格式:设置--binlog-format = row。组复制依靠基于行的复制格式在集群中的实例之间一 致地传播更改。它依靠基于行的基础结构来提取必要的信息,以检测在集群中的不同实例中同时执行的 事务之间的冲突。从MySQL 8.0.19起,将REQUIRE_ROW_FORMAT设置自动添加到组复制的通道中, 以在应用事务时强制使用基于行的复制。

关闭二进制日志checksum校验:(适用于MySQL 8.0.20)。直到MySQL 8.0.20,设置--binlog- checksum = NONE。在这些发行版中,组复制无法使用校验和,并且不支持二进制日志中的校验和。从MySQL 8.0.21开始,组复制支持校验和,因此组成员可以使用默认设置。

打开gtid复制:设置gtid_mode = ON,然后设置force_gtid_consistency = ON。组复制使用全局事务标识符来准确跟踪每个实例上已提交哪些事务,从而能够推断出哪些服务器已执行可能与其他位置已提交的事务发生冲突的事务。

复制信息存储到表中:设置master_info_repository = TABLErelay_log_info_repository = TABLE。复 制应用程序需要将复制元数据写入mysql.slave_master_infomysql.slave_relay_log_info系统表。这样可以确保组复制插件对复制元数据具有一致的可恢复性和事务管理。从MySQL 8.0.2开始,这些选项默 认设置为TABLE,而从MySQL 8.0.3开始,不推荐使用FILE设置。

事务写集提取:设置--transaction-write-set-extraction = XXHASH64,以便在收集行以将其记录到二进制日志时,服务器也将收集写集。写集基于每行的主键,并且是标签的简化且紧凑的视图,该标签唯一地标识已更改的行。然后,该标签用于检测冲突。默认情况下启用此选项。

二进制日志依赖跟踪:设置binlog_transaction_dependency_tracking = WRITESET_SESSION可以提高 组成员的性能,具体取决于集群的负载。在应用中继日志中的事务时,组复制会在认证后执行自己的并行化,而与binlog_transaction_dependency_tracking设置的值无关。但是,binlog_transaction_dependency_tracking的值的确会影响如何将事务写入组复制节点上的二进制日志。这些日志中的依赖项信息用于协助从引导节点的二进制日志进行状态转移的过程,以进行分布式恢复,只要节点加入或重新加入该集群,就会发生这种情况。

  • 表名

设置表名称小写:在所有组成员上将--lower-case-table-names设置为相同的值。设置1对于使用InnoDB存储引擎是正确的,这对于组复制是必需的。请注意,该设置并非在所有平台上都是默认设置。

  • 多线程回放
    可以将组复制节点配置为多线程回放,从而使事务可以并行应用。slave_parallel_workers的非零值将在节点上启用多线程回放,并且最多可以指定1024个并行应用线程。设置slave_preserve_commit_order = 1可以确保并行事务的最终提交与原始事务的顺序相同,这是组复制所必需的,它依赖于围绕所有参与节点以相同顺序接收和应用已提交事务的保证的一致性机制。最后,slave_preserve_commit_order = 1需要设置slave_parallel_type = LOGICAL_CLOCK,该设置指定用于决定允许哪些事务在只读节点上并行执行的策略。设置slave_parallel_workers = 0将禁用并行回放,并为副本提供一个单一的应用程序线程,而没有协调程序线程。使用该设置,slave_parallel_type和slave_preserve_commit_order选项无效,将被忽略。

PS
:通过前面的章节我们可以知道,组复制是基于主从复制的基础架构实现的,但相对于主从复制的IO和SQL线程来讲,组复制中对原来接收主库二进制日志的IO线程改动较大(用了一些后台线程相互协作来代替了主从复制拓扑中的IO线程的功能),对解析二进制日志并进行回放的SQL线程(或者说协调器 线程与worker线程)改动较小。每一个组成员中都会创建到组复制的连接(主从复制拓扑中的IO线程被 替换为了一些接收、验证写集的一些后台线程,可通过performance_schema.threads表进行查看), 每一个组成员对接收到的写集进行冲突认证检测,并将认证通过的写集(二进制日志)写入自身的中继日志中,然后,由SQL线程读取中继日志进行回放(多线程复制中,由协调器线程读取中继日志,然后 并行分发给worker线程进行回放)。

2 组复制限制

  • 故障转移期间
    在故障转移期间,针对多主模式组描述的限制和问题也可以适用于单主模式集群,尤其是在新选举的primary节点会从旧的primary节点中清除其applier队列时,在这个临界点,可以将其类比组复制中有2个成员可写。

  • 服务升级
    --upgrade=minimal:当MySQL Server指定--upgrade=minimal选项启动时,如果发现需要执行更新, 则,在执行升级操作完成之后,可能会导致组复制无法启动,因为minimal选项在执行更新时,只会更新数据字典、information_schema、performance_schema,但不会更新组复制内部所依赖的系统表 (--upgrade选项在MySQL 8.0.16版本引入,之后,升级操作将不再需要单独使用mysql_upgrade工 具,默认情况下--upgrade选项值为AUTO,表示自动判断是否需要执行完整的更新操作)。

  • 间隙锁
    组复制的并发事务认证过程未考虑间隙锁,因为有关间隙锁的信息在InnoDB之外不可用。
    ps:对于处于多主模式的集群,除非在应用程序中依赖REPEATABLE READ语义,否则建议对组复制使 用READ COMMITTED隔离级别。InnoDB不使用READ COMMITTED中的间隙锁,它将InnoDB中的本地 冲突检测与组复制执行的分布式冲突检测保持一致。对于单主模式的集群,只有primary节点接受写操作,因此READ COMMITTED隔离级别对组复制并不重要。

  • 表锁和命名锁
    冲突认证检测过程不考虑表锁(表锁指的是:使用lock...table语句加锁、使用unlock table语句解锁)或命名锁(命名锁指的是:使用GET_LOCK()函数创建、使用RELEASE_LOCK()函数释放的锁)。

  • 复制中event的checksum校验
    直到MySQL 8.0.20,组复制无法使用校验和,并且不支持二进制日志中的校验和,因此在将实例配置为组成员时必须设置binlog_checksum = NONE。从MySQL 8.0.21开始, 组复制支持校验和,因此组成员可以使用默认设置binlog_checksum = CRC32。对于集群的所有节点,binlog_checksum的设置可以不同。
    当校验可用时,组复制将不使用它们来验证group_replication_applier通道上的传入事件,因为事件是从多个源写入中继日志的,并且在它们在实际写入原始服务器的二进制日志之前就已写入。校验用于验 证group_replication_recovery通道和组成员上任何其他复制通道上事件的完整性。

  • 串行化隔离级别
    默认情况下,多主集群不支持SERIALIZABLE隔离级别。将事务隔离级别设置为SERIALIZABLE将组复制将拒绝提交该事务。
    并行DDL与DML操作:使用多主模式时,不支持针对同一对象但在不同实例上执行的并发数据定义语句 和数据操作语句。在对象上执行数据定义语言(DDL)语句期间,在同一对象上但在不同服务器实例上 执行并发数据操作语言(DML)可能会导致未检测到在不同实例上执行的DDL冲突的风险。
    注意:在同一个组成员中对同一个对象并行执行DDL和DML语句,会由本地Server自行通过锁进行管理,不需要集群参与。

  • 具有级联约束的外键
    多主模式集群(所有成员均配置有group_replication_single_primary_mode = OFF)不支持具有多级外键依赖关系的表,特别是定义了CASCADING外键约束的表。这是因为导致由多 主模式集群执行级联操作的外键约束可能导致无法检测到的冲突,并导致该组成员之间的数据不一致。因此,建议在用于多主模式集群的实例上将group_replication_enforce_update_everywhere_checks = ON设置为ON,以避免未检测到的冲突。
    在单主模式下,这不是问题,因为它不允许同时写入集群中的多个节点,因此不存在未检测到冲突的风险。

  • 多主模式死锁
    当集群以多主模式运行时,SELECT .. FOR UPDATE语句可能导致死锁。这是因为该锁未在集群上不同的节点之间实现共享。

  • 复制过滤
    不能在组复制的成员中对组复制专用的group_replication_applier或group_replication_recovery通道配置使用全局复制过滤器,因为在某些组成员上过滤了事务会破坏组中所有成员之间的数据一致性。但是,如果某个组成员同时作为主从复制拓扑中的从库时,则该主从复 制通道允许配置使用全局复制过滤器(这里的主从复制通道,不包括组复制专用的group_replication_applier或group_replication_recovery通道)。

  • 集群规模限制:
    单个复制组中允许的组成员(MySQL Server实例)最大数量是9个。如果有更多的Server尝试加入该集群时,其连接请求将被拒绝。该限制数量是通过已有的测试案例和基准测试中得出的一个安全边界,在 这个安全边界中,集群能够安全、可靠、稳定地运行在一个局域网中。

  • 事务大小限制(重点)
    如果单个事务产生的消息内容足够大,以致于无法在5秒的时间内通过网络在组成员之间复制消息,则可 能会怀疑该节点失败了,然后将其驱逐出集群,仅仅是因为他们正在忙于处理事务。大型事务还会由于内存分配问题而导致系统变慢。为避免这些问题,请使用以下缓解措施:

如果由于大消息而发生不必要的驱逐,使用系统变量group_replication_member_expel_timeout留出更多时间,以驱逐怀疑失败的节点。在最初的5秒检测期之后,最多可以等待一个小时,然后才能将可疑节点从集群中驱逐出去。从MySQL 8.0.21开始,默认情况下再允许5秒。
在可能的情况下,尝试限制事务的大小,然后再由组复制对其进行处理。例如,将与LOAD DATA一起使 用的文件拆分为较小的块。

使用系统变量group_replication_transaction_size_limit可以指定集群接受的最大事务大小。在MySQL 8.0中,该系统变量的默认最大事务大小为150000000字节(约143 MB)。超过此大小的事务将回滚, 并且不会发送到组复制的组通信系统(GCS)进行分发。处理事务所花费的时间与其大小成正比,根据 需要该集群允许的最大消息大小来调整此变量的值。

使用系统变量group_replication_compression_threshold指定消息大小,在此消息大小之上进行压缩。该系统变量的默认值为1000000字节(1 MB),因此会自动压缩大消息。当组复制的组通信系统 (GCS)接收到group_replication_transaction_size_limit设置允许但超过group_replication_compression_threshold设置的消息时,将执行压缩。

使用系统变量group_replication_communication_max_message_size可以指定消息大小,在该消息大小之上可以分段。该系统变量的默认值为10485760字节(10 MiB),因此大型事务消息会自动分段。如果压缩的消息仍超过group_replication_communication_max_message_size限制,则GCS会在压缩后执行分段操作。为了使复制组使用碎片,所有组成员必须在MySQL 8.0.16或更高版本上,并且该组使 用的“组复制”通信协议版本必须允许碎片。

通过为相关系统变量指定零值,可以停用最大事务大小,消息压缩和消息碎片。如果停用了所有这些保护措施,则复制组的节点上的应用线程可以处理的消息的大小上限是该节点的slave_max_allowed_packet系统变量的值,该变量的默认最大值为1073741824字节(1 GB)。当接收节点尝试处理此消息时,超出此限制的消息将失败。组成员可以发起并尝试发送到该集群的消息的大小上限为4294967295字节(约4 GB)。这是组通信引擎接受的用于组复制(XCom,Paxos变体)的数据包大小的硬限制,它在GCS处理完消息后接收消息。当发起节点尝试广播超过此限制的消息时,该消息将传递失败。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 210,978评论 6 490
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 89,954评论 2 384
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 156,623评论 0 345
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,324评论 1 282
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,390评论 5 384
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,741评论 1 289
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,892评论 3 405
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,655评论 0 266
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,104评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,451评论 2 325
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,569评论 1 340
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,254评论 4 328
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,834评论 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,725评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,950评论 1 264
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,260评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,446评论 2 348

推荐阅读更多精彩内容