上一页 1 2 3 4 5 6 7 8 ··· 13 下一页
摘要: 一般来说,我们是通过命令来启动kafka,但是命令的本质还是调用代码中的main方法,所以,我们重点看下启动类Kafka。源码下下来之后,我们也可以通过直接运行Kafka.scala中的main方法(需要指定启动参数,也就是server.properties的位置)来启动Kafka。因为kafka依 阅读全文
posted @ 2017-10-23 17:22 飞轩 阅读(2481) 评论(0) 推荐(0) 编辑
摘要: Kafka源码依赖于Scala环境,首先需要安装scala,这块请自行百度进行安装。 "传送门" 当然,我们要分析源码,需要下载源码,请自行从github上面下载。 说明:本文使用的kafka版本为0.10.0.1,这是目前公司使用的版本。 下面说明下kafka源码的工程结构: 下面主要对core目 阅读全文
posted @ 2017-10-23 11:17 飞轩 阅读(655) 评论(0) 推荐(0) 编辑
摘要: 一般来说,我们对于数据库最主要的要求就是:数据不丢。不管是主从复制,还是使用类似otter+canal这样的数据库同步方案,我们最基本的需求是,在数据不丢失的前提下,尽可能的保证系统的高可用,也就是在某个节点挂掉,或者数据库发生主从切换等情况下,我们的数据同步系统依然能够发挥它的作用 数据同步。本文 阅读全文
posted @ 2017-10-17 15:34 飞轩 阅读(7409) 评论(4) 推荐(0) 编辑
摘要: 下面主要讲述了每个类型的事件中的固定和可变部分的数据。 Start_log_event_v3/START_EVENT_V3 这个事件出现在v1或v3的binlog文件的开头部分。对于4.0和4.1版本的Mysql,这个事件只是被写在服务启动后的第一个binlog文件中,到达一定的条件后,会产生新的日 阅读全文
posted @ 2017-10-10 08:08 飞轩 阅读(810) 评论(0) 推荐(0) 编辑
摘要: binlog文件格式有以下几种: v1:用于3.23版本 v3:用于4.0.2到4.1版本 v4:用于5.0及以上版本 v2版本只在4.0.x版本中使用,目前已经不再支持了。 处理binlog的程序必须支持以上所有的版本。这部分描述了服务器是如何区分所有的格式的,以便辨别binlog使用的版本。my 阅读全文
posted @ 2017-10-09 13:26 飞轩 阅读(1192) 评论(0) 推荐(0) 编辑
摘要: 这个部分描述了事件被写入binlog或者delay log中的属性。所有的事件有相同的整体结构,也就是包含事件头和事件数据: 具体的内容随着Mysql版本的升级而不同,这导致了binlog格式的不一致: v1:用于3.23版本 v3:用于4.0.2到4.1版本 v4:用于5.0及以上版本 v2的格式 阅读全文
posted @ 2017-10-09 10:22 飞轩 阅读(619) 评论(0) 推荐(0) 编辑
摘要: 下面对binlog中事件做个简单说明: UNKNOWN_EVENT 这个事件类型应该永远不会出现。它从不会写入binlog中。如果binlog中的事件没法被识别成其他已知事件,他被当做UNKNOWN_EVENT。 START_EVENT_V3 在binlog文件最开始的符号事件(在Mysql的4.0 阅读全文
posted @ 2017-10-08 15:54 飞轩 阅读(401) 评论(0) 推荐(0) 编辑
摘要: 在内部,服务器使用C++类文件来表示binlog事件。标准在log_event.h文件中,这些类的方法代码在log_event.cc中。 log_event是基础类。其他的详细的事件子类都是来源于他。一个事件的二进制序列包含头和数据两部分。类型码在每个事件的头部出现。事件可能的类型码定义在log_e 阅读全文
posted @ 2017-10-08 15:03 飞轩 阅读(250) 评论(0) 推荐(0) 编辑
摘要: binlog是一系列文件,这些文件包含了Mysql服务实例中数据的变化。 binlog包含一系列二进制日志文件,还包含一个索引文件。 每个日志文件包含了一个4字节的魔法数,后面跟着描述数据变化的事件内容。 魔法数字可以是0xfe 0x62 0x69 0x6e=0xfe 'b''i''n'(这是在lo 阅读全文
posted @ 2017-10-08 14:32 飞轩 阅读(770) 评论(0) 推荐(0) 编辑
摘要: Binlog是一系列日志文件,他们包含的内容是Mysql数据内容的改变。如果想开启binlog功能,需要在启动时带上 log bin参数。 binlog是从Mysql3.23.14版本开始的。它包含所有更新数据的sql语句。它还包含可能更新数据的语句(比如,删除不存在的数据行的语句),除非日志的记录 阅读全文
posted @ 2017-10-08 14:04 飞轩 阅读(266) 评论(0) 推荐(0) 编辑
上一页 1 2 3 4 5 6 7 8 ··· 13 下一页