hadoop 如何删除分区配置单元表中的重复数据？

gopyfrb3 于 2023-08-03 发布在 Hadoop

关注(0)|答案(1)|浏览(238)

必须删除2023-03-26至2023-07-10的重复数据。我尝试使用此命令从表中删除重复项，但出现错误。
命令：

set hive.exec.dynamic.partition.mode=nonstrict; INSERT OVERWRITE TABLE db.table_name PARTITION(dt) select distinct * from db.table_name where dt >= '2023-03-26' AND dt >= '2023-07-10';

字符串
错误代码：

23/07/26 16:07:46 [LocalJobRunner Map Task Executor #0]: WARN io.CombineHiveRecordReader: Multiple     partitions found; not going to pass a part spec to LLAP IO: {{dt=2023-07-10}} and {{dt=2023-07-11}} 2023-   07-26 16:07:47,952 Stage-1 map = 0%, reduce = 0% 23/07/26 16:07:47 [aabca681-0714-44f6-bc8d-9be6d7fca9fc    main]: WARN mapreduce.Counters: Group org.apache.hadoop.mapred.Task$Counter is deprecated. Use     org.apache.hadoop.mapreduce.TaskCounter instead.

型
注意：此表的分区仅为日期。示例如下：

show partitions db.table_name;
dt=2023-07-04
dt=2023-07-05
dt=2023-07-06
dt=2023-07-07
dt=2023-07-08
dt=2023-07-09
dt=2023-07-10

$ hive --version
Hive 2.3.3

的字符串
希望你能在这一点上提出建议。谢谢你，谢谢

hadoop

来源：https://stackoverflow.com/questions/76776361/how-to-delete-duplicate-data-in-hive-table-with-partition

1条答案

按热度按时间

ijnw1ujt1#

你是说这个吗

INSERT OVERWRITE TABLE db.table_name PARTITION(dt)
SELECT DISTINCT *
FROM db.table_name
WHERE dt BETWEEN '2023-03-26' AND '2023-07-10';

字符串

赞(0）回复(0）举报 2023-08-03

我来回答

hadoop 如何删除分区配置单元表中的重复数据？

1条答案

相关问题

热门标签

最新问答