1. 一般情形

        一般情形,spark-sql执行show create table xxx.xxx命令,就可以看到hdfs路径:LOCATION

show create table xxx.xxx;

2. 特殊情形

        有些情况,比如spark用saveAsTable方法创建的表,一般情形不适合,查不到hive表对应的hdfs路径。

spark-sql> show create table default.leon_hive_table;
CREATE TABLE `default`.`leon_hive_table` (`advertising_id` STRING, `af_ad` STRING, `af_ad_id` STRING)
USING parquet
OPTIONS (
  `serialization.format` '1'
)

Time taken: 0.051 seconds, Fetched 1 row(s)

        这个时候,要看下spark的配置文件spark-defaults.conf,如下

spark.sql.warehouse.dir /user/hive/warehouse

        用hdfs命令查看,可以看到hive表对应的目录

hdfs dfs -ls /user/hive/warehouse/

 

Logo

为开发者提供学习成长、分享交流、生态实践、资源工具等服务,帮助开发者快速成长。

更多推荐