Kudu1.1.0 、 Kudu1.2.0 Kudu1.3.0的版本信息异同比较

 

 

　　不多说，直接上干货！

 

 

 Kudu1.1.0

新特性

 

1. python API升级，具备JAVA C++client一样的功能（从0.3版本直接升级到1.1），主要的点如下： 
   1.1. 改进了Parial Row的语义 
   1.2. 增加了range partition支持 
   1.3. 提供了 scan api 
   1.4. 增强predicate支持 
   1.5. 支持所有kudu的类型，包括datetime.datetime转化成UNIXTIME_MICROS 
   1.6. 支持修改表（alter） 
   1.7. scanner可以读取快照数据 
   1.8. 支持scanner副本选择 
   1.9. python 
   1.10. 一些bug的修复
2. 为了优化过滤，增加了IN LIST predicate pushdown的支持（即匹配一列中一个集合的数据，predicate push down类似于hbase的协处理器coprocessors），有些过滤在后台执行。spark、mr和impala query的此项功能还没有完成。 
   为了便于查错，Java client增加了client-side请求追踪。原先只有最终的错误日志，没有导致最终错误其他日志信息。

优化和改进

 

1. kudu发布了spark2.0（编译于scala2.11）的JAR。
2. 通过配置java client可以从最近的副本读取数据，而不是原先的从leader副本读取数据。不过默认还是后者，可以通过设置scanner builder replicaSelection参数来调整。
3. Tablet server采用一种新策略来维护write-ahead log（WAL）。原先使用log_min_segments_to_retain=2的策略，这种策略会过于频繁flush内存数据，限制了写入的性能。新策略引入了一个新的参数log_target_replay_size_mb，它决定了flush内存数据的阀值，而且这个参数值已经经过实验验证，用户不需要去修改它。这个新策略在某些写入用例下，提升了相对2x倍的写入性能。
4. kudu Raft consensus algorithm 算法加入了一个新的阶段pre-election，它可以在高负荷的情况下，更稳定的进行leader选举，特别在一个tabletserver含有大量的tablet的情况下。
5. 提升了在tabletserver含有大量的tombstoned tablet时，tabletserver的启动的速度。

工具

 

1. kudu tablet leader_step_down，step down一个leader tablet。
2. kudu remote_replica copy拷贝tablet从一个running tabletserver。
3. kudu local_replica delet删除tablet。
4. kudu test loadgen

 

兼容性

 

1. 1.1的client可以连接到1.0的kudu服务。
2. 1.0的client可以无限制的连接到1.1kudu服务。
3. 滚动升级从1.0到1.1是可能的，但是没有完整的测试。建议安装关闭所有节点，更新版本，启动更新的节点的步骤来升级。

 

参考

 

https://github.com/cloudera/kudu/blob/master/docs/prior_release_notes.adoc 
个人github https://github.com/qiulp/doc/edit/master/kudu/kudu1.1.0.md

 

 

 

 

 

Kudu1.2.0

新特性

1. kudu clients和servers可以编辑用户的数据，例如log信息，java的异常信息和状态信息。但用户的元数据是不可编辑的，例如表名，字段名，分区边界。默认是可编辑的，但可以通过设置log_redact_user_data=false关闭。

2. kudu一致性保证的能力大幅度提升了： 
   每个副本都会track它们的 safe timestamp，这个时间戳是最大时间戳，在这个时间戳上读是可重复的。

   SCAN_AT_SNAPSHOT模式的scan，要不等待本副本的snapshot safe后再查，要不路由到一个safe的副本查。如此保证数据scan是可重复的。

   Kudu会保留以往所有历史数据，无论是插入，还是删除，还是相同key插入一条新的数据。以往版本的kudu不会保留历史数据在这种情况下。如此tablet server可以得到历史某一时间段点的准确的快照，即便是重新插入的情形。

   kudu client会自动记住它们最近成功读取或者写入操作的时间戳。在使用READ_AT_SNAPSHOT模式，且没有指定时间戳的情况下，scan会自动指定一个比最近写入时间戳大的时间戳。写入同样会传播timestamp，确认一系列的有因果关系的操作，能被指定有序的时间戳。总的来说，这个改变，可以保证数据的读写一致性，同样保证了在其他clients上的快照查询能等到一致的结果。

3. kuduserver自动限制了log文件数量，默认是10个，通过参数max_log_files设置。

 

优化和改进

1. java和c++client的日志将会变得更平和，不在记录正常操作的日志，而记录error日志。
2. c++client提供一个KuduSession::SetErrorBufferSpace API，通过它可以限制同步操作异常的buffer大小。
3. java client可以获取tablet地址信息1000个一个批次（原先是10）。如此可以提升spark或者impala查询具有大量tablets的表性能。
4. kudu master表元数据信息的锁竞争大幅度缓解。如此提升了在大集群环境下寻址（tablet）的高并发度。
5. tablet server端的高并发写的锁竞争同样被缓解了。
6. 写日志的锁竞争也被缓解。

 

修复的bug

1. KUDU-1508，ext4file的文件系统损坏。
2. KUDU-1399，实现LRU cache解决长时间运行的kudu机器openfiles不够的问题。默认kudu会使用ulimit的一半的量。 
   省略

 

兼容性

1. 1.2.0与历史版本兼容
2. 1.2client可以了解1.0server，只是有些没有的功能不可用。
3. 1.0cleint可以连接1.2，没有任何限制。
4. 滚动升级从1.0到1.1是可能的，但是没有完整的测试。建议安装关闭所有节点，更新版本，启动更新的节点的步骤来升级。

 

 

不可兼容变化

1. 副本因子最大值改成7，并且副本不能是偶数。
2. 不提供GROUP_VARINT无损压缩算法。

 

 

约束性

1. 列数，建议不超过300列，建议列数越少越好。
2. cell大小，不能大于64KB，不然写入时client有error信息。
3. 有效标识符，表名列名严格要求是UTF-8，且不能超过256个字符。

引用

https://github.com/cloudera/kudu/blob/master/docs/release_notes.adoc 
我的github https://github.com/qiulp/doc/blob/master/kudu/kudu1.2.0.md

 

 

 

 

 

 

Kudu1.3.0

新特性

1. 增加了kerberos安全认证，可以通过kerberos tickets或者keytabs文件认证。此新特性是个可选项，推荐在部署环境中增加安全机制。

2. 增加了Transport Layer Security（TLS）网络安全传输协议，kudu将会对任意client和server间的信息通信进行加密。默认加密是开启的，无论client或者server端都可以决定是否启用加密。

3. 增加了粗粒度服务级别的授权。细粒度的授权，例如表级别、字段级别，暂不支持。

4. 增加了清理过期历史版本数据（超过保留时间）的后台任务。减少磁盘空间的使用，特别是有频繁更新的数据。

5. 便于诊断错误，集成了Google Breakpad，它产生的reports可以在配置的日志文件夹中看到。

 

优化

1. 修改了数据目录和数据文件的权限，可以通过–umask配置。升级之后文件权限会更加严格。

2. Web UI 去除了一些用户的敏感信息，例如查询时的predicate values。

3. 默认kudu对配置的磁盘预留1%空间，当磁盘空闲空间不足1%时，为避免完全写满磁盘，会停止写入数据。

4. 数字列（int float double）默认编码BIT_SHUFFLE，binary string类型的变成DICT_ENCODING。此类编码存储机制类似于parquet。

5. WAL使用LZ4压缩，提升写入性能和稳定性。

6. Delta file使用LZ4压缩，可以提高读和写，特别是频繁更新的可压缩数据。

7. Kudu API在查询时支持IS NULL 和 IS NOT NULL（KuduPredicate.newIsNotNullPredicate）的pridicate，spark datasource集成可以利用这些新的predicate。

8. C++ 和 Java client “in partitions”的查询有优化。

9. Java client的异常信息被截断成最大的32KB。

 

兼容性

1. Kudu 1.3 可连接kudu1.0 server，调用新特性时会报错。

2. kudu 1.1 可连接kudu1.3 server，但当集群配置了安全认证，将会报错。

3. 从1.2滚动升级到1.3没有被充分验证。建议使用者关闭整个集群，升级版本，然后重启新版本，通过这种方式来升级。

4. 升级后，如果1.3版本设置了安全认证（authentication or encryption set to “required”），老版本的client将不能连接服务。

5. 升级后，如果1.3版本没有设置安全认证（set to “optional” or “disabled”），老版本的client还能继续连接server。

 

不可兼容变化

1. 因为存储格式变化，1.3版本将不能降级到老版本。

2. 为了在配置了安全的集群上跑mr或者spark任务，需要提供认证凭证。

 

引用

https://github.com/cloudera/kudu/blob/master/docs/release_notes.adoc 
个人github https://github.com/qiulp/doc/edit/master/kudu/kudu1.3.0.md