我正在尝试使用sqoop从分区的配置单元表导出到mysql中。
一开始我尝试做
$sqoop export --connect jdbc:mysql://<server addr>/<db name> --username <user name> -P --table source_edge_daily --export-dir /path/to/table/<table name> --input-fields-terminated-by '\t' --verbose
命令错误说
Open failed for file /path/to/table/<table name>/<partition name>, attempt to open a directory
当我指向分区目录时
$sqoop export --connect jdbc:mysql://<server addr>/<db name> --username <user name> -P --table source_edge_daily --export-dir /path/to/table/<table name>/<partition name> --input-fields-terminated-by '\t' --verbose
该命令失败说
at com.cloudera.sqoop.mapreduce.CombineShimRecordReader.getCurrentKey(CombineShimRecordReader.java:100)
at com.cloudera.sqoop.mapreduce.CombineShimRecordReader.getCurrentKey(CombineShimRecordReader.java:43)
at org.apache.hadoop.mapreduce.lib.input.CombineFileRecordReader.getCurrentKey(CombineFileRecordReader.java:75)
at org.apache.hadoop.mapred.MapTask$NewTrackingRecordReader.getCurrentKey(MapTask.java:452)
at org.apache.hadoop.mapreduce.MapContext.getCurrentKey(MapContext.java:57)
at org.apache.hadoop.mapreduce.Mapper.run(Mapper.java:144)
at com.cloudera.sqoop.mapreduce.AutoProgressMapper.run(AutoProgressMapper.java:189)
at org.apache.hadoop.mapred.MapTask.runNewMapper(MapTask.java:668)
at org.apache.hadoop.mapred.MapTask.run(MapTask.java:334)
at org.apache.hadoop.mapred.Child$4.run(Child.java:270)
at java.security.AccessController.doPrivileged(Native Method)
at javax.security.auth.Subject.doAs(Subject.java:396)
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1109)
at org.apache.hadoop.mapred.Child.main(Child.java:264)
我也尝试过重新创建没有分区键的mysql表，创建一个分区的mysql表，一切都失败，并显示相同的错误消息
最佳答案
Sqoop当前不支持加载分区表，仍然是work in progress。因此，在解决此问题之前，您的第一个解决方案将不起作用。
直接指定分区目录的问题是，您将丢失有关分区的信息，因此您需要创建一个不包含分区列的临时MySQL表，然后可以轻松地将数据加载到该表中。最后，您只需要从此临时表插入真实表即可。
关于mysql - sqoop导出mysql分区，我们在Stack Overflow上找到一个类似的问题：https://stackoverflow.com/questions/14435676/