我正在使用hbase96进行分析。我通过定义startRow和endRow在行键范围上应用单列值过滤器来从hbase提取数据。

扫描单个请求的1500000条记录需要5-6分钟的时间,它无法处理并发请求。
如何提高hbase的扫描性能?

我们在amazone上有3个数据节点和2个主节点。

下面是我的代码

Scan s = new Scan();
s.setCaching(10000);

s.setStartRow(Bytes.toBytes(start_date));
s.setStopRow(Bytes.toBytes(end_date));

FilterList filters = new FilterList(FilterList.Operator.MUST_PASS_ALL);

SingleColumnValueFilter filter = new SingleColumnValueFilter(
Bytes.toBytes("log"), Bytes.toBytes("ad_id"),
CompareOp.EQUAL, Bytes.toBytes(ad_id));
filters.addFilter(filter);

SingleColumnValueFilter filter = new SingleColumnValueFilter(
Bytes.toBytes("log"), Bytes.toBytes("advertiser_id"),
CompareOp.EQUAL, Bytes.toBytes(adver_id));
filters.addFilter(filter);

s.setFilter(filters);

ResultScanner rs = click_table.getScanner(s);

上面的代码如何在协同处理器中使用?

最佳答案

如果要基于列值进行扫描
那么下面是最好的方法

  • Solr(CDH搜索)https://wiki.apache.org/solr/
  • Hindex(基于协处理器的方法)https://communities.intel.com/community/itpeernetwork/datastack/blog/2013/10/30/coprocessor-based-secondary-index-on-hbase
  • 08-28 05:10