HBase基础知识(7):扫描操作之ResultScanner类

扫描操作不会通过一次RPC请求返回所有匹配的行,而是以行为单位进行返回。很明显,行的数目很大,可能有上千条甚至更多,同时在一次请求中发送大量数据,会占用大量的系统资源并消耗很长时间。

ResultScanner类把扫描操作转换为类似的get操作,它将每一行数据封装成一个Result实例,并将所有的Result实例放入一个迭代器中。ResultScanner的一些方法如下:

Result next() throws IOException
Result[] next(int nbRows) throws IOException
void close()

有两种类型next()调用供用户选择。调用close()方法会释放所有由扫描控制的资源。

扫描器租约
要确保尽早释放扫描器实例,一个打开的扫描器会占用不少的服务端资源,累积多了会占用大量的堆空间。当使用完ResultScanner之后调用它的close()方法,同时,当把close()方法放到try/finally块中,以保证其在迭代获取数据过程中出现异常和错误时,仍然能执行close()。
就像行锁一样,扫描器也使用同样的租约超时机制,保护其不被失效的客户单阻塞太久。用户可以使用修改锁租约处提到的那个配置属性来修改超时时间(单位:毫秒):

<property>
  <name>hbase.regionserver.lease.period</name>
  <value>120000</value>
</property>

用户需要确保该属性值适当,这个值要同时适用于锁租约和扫描器租约。
next()调用返回了一个单独的Result实例,这个实例代表了下一个可用的行。此外,用户可以使用next(int nbRows) 一次获取多行数据,它返回一个数组,数组中包含的Result实例最多可达nbRows个,每个实例代表唯一的一行。当用户扫描到表尾或到终止行时,由于没有足够的行来填充数据,返回的结果数组可能会小于既定长度。

下边是实现扫描器获取表中数据代码

import java.io.IOException;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.hbase.HBaseConfiguration;
import org.apache.hadoop.hbase.client.HTable;
import org.apache.hadoop.hbase.client.Result;
import org.apache.hadoop.hbase.client.ResultScanner;
import org.apache.hadoop.hbase.client.Scan;
import org.apache.hadoop.hbase.util.Bytes;

public class HBaseResultScanner {
    public static void main(String[] args) throws IOException {
        Configuration conf = HBaseConfiguration.create();
        HTable table = new HTable(conf, "testtable");
        Scan scan1 = new Scan();
        ResultScanner scanner1 = table.getScanner(scan1);
        for (Result res : scanner1) {
            System.out.println(res);
        }
        scanner1.close();
        Scan scan2 = new Scan();
        scan2.addFamily(Bytes.toBytes("colfam1"));
        ResultScanner scanner2 = table.getScanner(scan2);
        for (Result res : scanner2) {
            System.out.println(res);
        }
        scanner2.close();
        Scan scan3 = new Scan();
        scan3.addColumn(Bytes.toBytes("colfam1"), Bytes.toBytes("col-5"))
                .addColumn(Bytes.toBytes("colfam2"), Bytes.toBytes("col-33"))
                .setStartRow(Bytes.toBytes("row-10"))
                .setStopRow(Bytes.toBytes("row-20"));
        ResultScanner scanner3 = table.getScanner(scan3);
        for (Result res : scanner3) {
            System.out.println(res);
        }
        scanner3.close();

    }

}

代码插入了100行数据,每行有两个列族,每个列族下包含100个列。第一个扫描全表内容,第二个扫描操作只扫描一个列族,最后一个操作有严格的限制条件,其中包括对行范围的限制,同时还要求只扫描两个特定的列。
输出如下:

Scanning table # 3...
keyvalues={row-10/colfam1:col-5/1300803775078/Put/vlen=8,row-10/colfam2:col-33/1300803775099/Put/vlen=9}
keyvalues={row-100/colfam1:col-5/1300803775079/Put/vlen=9,
row-100/colfam1:col-33/1300803775095/Put/vlen=10
}
keyvalues={row-11/colfam1:col-5/1300803775152/Put/vlen=8,
row-11/colfam1:col-33/1300803775170/Put/vlen=9
}
keyvalues={row-12/colfam1:col-5/1300803775212/Put/vlen=8,
row-12/colfam1:col-33/1300803775246/Put/vlen=9
}
keyvalues={row-13/colfam1:col-5/1300803775345/Put/vlen=8,
row-13/colfam1:col-33/1300803775376/Put/vlen=9
}
keyvalues={row-14/colfam1:col-5/1300803775479/Put/vlen=8,
row-14/colfam1:col-33/1300803775498/Put/vlen=9
}
keyvalues={row-15/colfam1:col-5/1300803775554/Put/vlen=8,
row-15/colfam1:col-33/1300803775582/Put/vlen=9
}
keyvalues={row-16/colfam1:col-5/1300803775665/Put/vlen=8,
row-16/colfam1:col-33/1300803775687/Put/vlen=9
}
keyvalues={row-17/colfam1:col-5/1300803775734/Put/vlen=8,
row-17/colfam1:col-33/1300803775748/Put/vlen=9
}
keyvalues={row-18/colfam1:col-5/1300803775791/Put/vlen=8,
row-18/colfam1:col-33/1300803775805/Put/vlen=9
}
keyvalues={row-19/colfam1:col-5/1300803775843/Put/vlen=8,
row-19/colfam1:col-33/1300803775859/Put/vlen=9
}
keyvalues={row-2/colfam1:col-5/1300803774463/Put/vlen=7,
row-2/colfam1:col-33/1300803774485/Put/vlen=8
}

再强调一次,匹配的行键都是按词典序列排列的,这使得结果非常有趣。用户可以简单地用0把行键补齐,这样扫描出来的结果顺序更有可读性。

posted on 2015-08-27 09:51  爱你一万年123  阅读(1553)  评论(0编辑  收藏  举报

导航