python列表套字典去重

最近在写工具,拿到数据,发现有重复的,想到用set去重,结果报错了,哈哈,重新学习下
1
2
3
4
5
6
7
8
9
10
11
12
13
14
# 例子:
data_list = [{'id':1,'name':'user01'},{'id':2,'name':'user02'},{'id':1,'name':'user01'}]
data = set(data_list)
 
# 报错:
Traceback (most recent call last):
  File "test.py", line 2, in <module>
    data = set(data_dict)
TypeError: unhashable type: 'dict'
 
"""错误提示说 不可哈希类型。
可哈希:int \ float \ str \ tuple
不可哈希: list \ set \ dict
"""

解决方法:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
# 源数据
data_list = [{'id':1,'name':'user01'},{'id':2,'name':'user02'},{'id':1,'name':'user01'}]
 
# 第一种方法
 
def get_data(data_list):
    """
    列表套字典去重
    :return:
    """
    seen = set()
    new_l = []
 
    for i in data_list:
        # 把字典数据转为元组,元组是可哈希类型
        t = tuple(i.items())
 
        if t not in seen:
            seen.add(t)
            new_l.append(i)
 
    print(new_l)
 
get_data(data_list)
 
# 结果如下:
[{'id': 1, 'name': 'user01'}, {'id': 2, 'name': 'user02'}]
 
 
# 第二种方法:
new_data_list = [dict(d) for d in (set(tuple(i.items()) for i in data_list))]
print(new_data_list)
 
# 第一个先循环data_list数据,把i.items()转为元组,set是把数据去重。
# 第二个循环是把数据转成字典
 
# 结果如下:
[{'id': 1, 'name': 'user01'}, {'id': 2, 'name': 'user02'}]

  

  

posted @   lucky_tomato  阅读(389)  评论(0编辑  收藏  举报
编辑推荐:
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
阅读排行:
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· Manus的开源复刻OpenManus初探
· 写一个简单的SQL生成工具
· AI 智能体引爆开源社区「GitHub 热点速览」
· C#/.NET/.NET Core技术前沿周刊 | 第 29 期(2025年3.1-3.9)
点击右上角即可分享
微信分享提示