python中对list去重的多种方法

2020-11-23 12:49:32 浏览数 (1)

怎么快速的对列表进行去重呢，去重之后原来的顺序会不会改变呢？

1.以下的几种情况结果是一样的，去重之后顺序会改变:

代码语言：javascript复制
ids = [1,2,3,3,4,2,3,4,5,6,1]
news_ids = []
for id in ids:
    if id not in news_ids:
        news_ids.append(id)
print news_ids
或用set
代码语言：javascript复制
ids = [1,4,3,3,4,2,3,4,5,6,1]
ids = list(set(ids))
或使用itertools.grouby
代码语言：javascript复制
import itertools
ids = [1,4,3,3,4,2,3,4,5,6,1]
ids.sort()
it = itertools.groupby(ids)
for k, g in it:
    print k
关于itertools.groupby的原理可以看这里：(1) http://docs.python.org/2/library/itertools.html#itertools.groupby
(2) https://www.liaoxuefeng.com/wiki/001374738125095c955c1e6d8bb493182103fac9270762a000/001415616001996f6b32d80b6454caca3d33c965a07611f000

2.怎么能不改变原来的顺序呢？(要用到reduce 关于reduce的介绍　 http://docs.python.org/2/library/functions.html#reduce)

关于lambda的文章:http://www.cnblogs.com/nyist-xsk/p/7404675.html

关于reduce的文章: (1) http://www.cnblogs.com/XXCXY/p/5180245.html

(2) http://www.pythoner.com/46.html

代码语言：javascript复制
In [5]: ids = [1,4,3,3,4,2,3,4,5,6,1]
In [6]: func = lambda x,y:x if y in x else x   [y]
In [7]: reduce(func, [[], ]   ids)
Out[7]: [1, 4, 3, 2, 5, 6]

其中的 lambda x,y:x if y in x else x [y] 等价于 lambda x,y: y in x and x or x [y] 。 思路其实就是先把ids变为[[], 1,4,3,……] ,然后在利用reduce的特性.

去列表去重，不改变原来的顺序，还可以使用一个空列表把原列表里面不重复的数据”装起来”，例如：

代码语言：javascript复制
list2 = []
list1 = [1,2,3,2,2,2,4,6,5]
for i in list1:
    if i not in list2:
        list2.append(i)
list2
[1, 2, 3, 4, 6, 5]
代码语言：javascript复制
或者使用删除元素索引的方法对列表去重，并且不改变原列表的顺序
# python for删除的时候会往前移(垃圾回收机制)，未遍历到的后一个占了前一个被删除的"位置"，导致这个数不会被遍历到，而使最后的结果错误
# 局部变量在栈内存中存在,当for循环语句结束,那么变量会及时被gc(垃圾回收器)及时的释放掉,不浪费空间；
# 如果使用循环之后还想去访问循环语句中控制那个变量,使用while循环。
# 所以使用while循环删除nums中的Val(的下标)
nums = [1,2,3,3,4,2,3,4,5,6,1]
val = 3
while val in nums:
      nums.pop(nums.index(val))
print nums
return len(nums)
http html mapreduce serverless

0 人点赞