03 2014 档案
摘要:上次留下来的问题如果消息是发给很多不同的topic的, async producer如何在按batch发送的同时区分topic的它是如何用key来做partition的?是如何实现对消息成批量的压缩的?async producer如何在按batch发送的同时区分topic的 这个问题的答案是: D...
阅读全文
摘要:问题很多条消息是怎么打包在一起的?如果消息是发给很多不同的topic的, async producer如何在按batch发送的同时区分topic的它是如何用key来做partition的?是如何实现对消息成批量的压缩的?async producer是将producer.type设为async时启用的...
阅读全文
摘要:啊,AvroSink要复杂好多:《好吧,先确定主要问题:AvroSink为啥这么多代码?有必要吗?它都有哪些逻辑需要实现? 你看,avro-rpc-quickstart里是这么建client,然后进行RPC的 NettyTransceiver client = new Netty...
阅读全文
摘要:问题 : Avro Source提供了怎么样RPC服务,是怎么提供的?问题 1.1 Flume Source是如何启动一个Netty Server来提供RPC服务。由GitHub上avro-rpc-quickstart知道可以通过下面这种方式启动一个NettyServer,来提供特定的RPC。那么F...
阅读全文
摘要:摘自http://avro.apache.org/docs/current/spec.html#Protocol+Declaration,1.7.6版Protocol DeclarationAvro protocols describe RPC interfaces. Like schemas, they are defined with JSON text.A protocol is a JSON object with the following attributes:protocol, a string, the name of the protocol (required);names
阅读全文