我使用了spark SQL connect配置单元,基本查询还可以,但是无法创建索引,spark SQL是否支持索引?

DROP TABLE test_tabe;
CREATE  TABLE test_tabe
(
....
,area   STRING
...
)
ROW FORMAT DELIMITED
FIELDS TERMINATED BY '\t'
LINES TERMINATED BY '\n'
STORED AS RCFILE
--STORED AS SEQUENCEFILE
;
CREATE INDEX idx_compact_index ON TABLE test_tabe (area) AS 'COMPACT' WITH DEFERRED REBUILD

#!!!!Execute always,no error,spark web page no corresponding job !!!!
ALTER INDEX idx_compact_index ON test_tabe REBUILD;

insert overwrite table test.test_tabe select * from test.new_mkt_browse_label_10m

谢谢。

最佳答案

spark不支持配置单元索引。它们不太重要,因为spark在内存计算中。
您是否有机会在带索引的配置单元查询与Spark中的类似查询之间进行比较?
您可以查看有关未实现索引的更多信息here

关于hadoop - Spark SQL(版本1.1.0)是否支持配置单元索引?,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/26604423/

10-10 21:55
查看更多