1.安装impyla
pip install impyla
2.在superset页面配置如下,此时impala是有kerberos认证的
impala://xxxx:xx/default?auth_mechanism=GSSAPI&kerberos_service_name=impala
如果遇到下面的问题,是thrift-sasl版本过高
The error message returned was:\n'TSocket' object has no attribute 'isOpen'
降级为0.2.1版本就可以
pip list | grep thrift-sasl
thrift-sasl 0.3.0
pip install thrift-sasl==0.2.1
测试,ok
查询
当将thrift-sasl从0.3.0降级为0.2.1之后,连接hive会报
from pyhive import hive ImportError: cannot import name 'constants'
解决方法是将原来hive的uri从
hive://xxx:xxx/default?auth=KERBEROS&kerberos_service_name=hive
修改为
impala://xxx:xxx/default?auth_mechanism=GSSAPI&kerberos_service_name=hive
同时附上impala和hive查询的时间对比,impala要快很多
hive
impala
其中city为array,在impala中不能使用select语句来查询,因为impala中select语句只支持标量
如果要在impala中查询array中的数据,需要这么查
select * from default.arraydemo, default.arraydemo.city
结果,这是将array中的数据进行了展平