我使用了spark SQL connect配置单元,基本查询还可以,但是无法创建索引,spark SQL是否支持索引?
DROP TABLE test_tabe;
CREATE TABLE test_tabe
(
....
,area STRING
...
)
ROW FORMAT DELIMITED
FIELDS TERMINATED BY '\t'
LINES TERMINATED BY '\n'
STORED AS RCFILE
--STORED AS SEQUENCEFILE
;
CREATE INDEX idx_compact_index ON TABLE test_tabe (area) AS 'COMPACT' WITH DEFERRED REBUILD
#!!!!Execute always,no error,spark web page no corresponding job !!!!
ALTER INDEX idx_compact_index ON test_tabe REBUILD;
insert overwrite table test.test_tabe select * from test.new_mkt_browse_label_10m
谢谢。
最佳答案
spark不支持配置单元索引。它们不太重要,因为spark在内存计算中。
您是否有机会在带索引的配置单元查询与Spark中的类似查询之间进行比较?
您可以查看有关未实现索引的更多信息here
关于hadoop - Spark SQL(版本1.1.0)是否支持配置单元索引?,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/26604423/