python列表里的字典元素合并去重

b = {}

创新互联于2013年成立，先为二道等服务建站，二道等地企业，进行企业商务咨询服务。为二道企业网站制作PC+手机+微官网三网同步一站式服务解决您的所有建站问题。

for dic in [each.items() for each in a]:

for key,value in dic:

b[key] = value

python中对list去重的多种方法

python中对list去重的多种方法

今天遇到一个问题，在同事随意的提示下，用了 itertools.groupby 这个函数。不过这个东西最终还是没用上。

问题就是对一个list中的新闻id进行去重，去重之后要保证顺序不变。

直观方法

最简单的思路就是：

这样也可行，但是看起来不够爽。

用set

另外一个解决方案就是用set：

代码如下:

ids = [1,4,3,3,4,2,3,4,5,6,1]

ids = list(set(ids))

这样的结果是没有保持原来的顺序。

按照索引再次排序

最后通过这种方式解决：

代码如下:

ids = [1,4,3,3,4,2,3,4,5,6,1]

news_ids = list(set(ids))

news_ids.sort(ids.index)

使用itertools.grouby

文章一开始就提到itertools.grouby, 如果不考虑列表顺序的话可用这个：

代码如下:

ids = [1,4,3,3,4,2,3,4,5,6,1]

ids.sort()

it = itertools.groupby(ids)

for k, g in it:

print k

关于itertools.groupby的原理可以看这里：

网友补充：用reduce

网友reatlk留言给了另外的解决方案。我补充并解释到这里：

代码如下:

In [5]: ids = [1,4,3,3,4,2,3,4,5,6,1]

In [6]: func = lambda x,y:x if y in x else x + [y]

In [7]: reduce(func, [[], ] + ids)

Out[7]: [1, 4, 3, 2, 5, 6]

上面是我在ipython中运行的代码，其中的 lambda x,y:x if y in x else x + [y] 等价于 lambda x,y: y in x and x or x+[y] 。

python多个文本组合后去除重复项

最简单的是，定义一个list（list可以装的元素数量应该是可以满足需求的，如果数据确实太高，考虑文件数量分组进行）

然后将所有文件的内容逐行读到这个list中，用list自带的去重方法listname=list(set(listname))，进行去重。

最后将整个List写入到d.txt中就可以了

python基础-set函数与sort方法

题目一：去重合并排序

题目二：合并取重复的数

题目三：去掉两个list里相同的数，合并后降序排列

题目四：去掉两个list里相同的数，合并后升序排列

Python 去重，统计，lambda函数

df.drop_duplicates('item_name')

方法一：

df.drop_duplicates('item_name').count()

方法二：

df['item_name'].nunique()

结果：50

附：nunique()和unique()的区别：

unique()是以 数组形式（numpy.ndarray）返回列的所有唯一值（特征的所有唯一值）

nunique()即返回的是唯一值的个数

比如：df['item_name'].unique()

要求：将下表中经验列将按周统计的转换为经验不限，保留学历

df1['经验'] = df1['经验'].apply(lambda x: '经验不限'+ x[-2:] if '周' in x else x)

#解释：将‘5天/周6个月’变成‘经验不限’，然后保留学历‘本科’

方法二：定义函数

def dataInterval(ss):

if '周' in ss:

    return '经验不限'+ ss[-2:]

return ss

df1['经验'] = df1['经验'].apply(dataInterval)

python用drop_duplicates()函数保留数据集的重复行

前两天处理数据的时候，需要得到两个数据的交集数据，所以要去除数据中非重复部分，只保留数据中的重复部分。

   网上看了一下大家的教程，大部分都是教去除重复行，很少有说到仅保留重复行的。所以在这里用drop_duplicates这个去重函数来实现这个功能。

drop_duplicates函数介绍 ：

data.drop_duplicates(subset=[‘A’,‘B’],keep=‘first’,inplace=True)

#subset对应的值是列名，表示只考虑这两列，将这两列对应值相同的行进行去重。

默认值为subset=None表示考虑所有列。

keep='first’表示保留第一次出现的重复行，是默认值。

keep另外两个取值为"last"和False，分别表示保留最后一次出现的重复行和去除所有重复行。

inplace=True表示直接在原来的DataFrame上删除重复项，而默认值False表示生成一个副本。

要用函数取得数据集data中的重复列，分三个步骤 ：

（提前导入pandas模块）

data0_1 = data.drop_duplicates() #保留第一个重复行

data0_2 = data.drop_duplicates(keep=False) #去除所有重复行

data0_3=pd.concat([data0_1,data0_2]).drop_duplicates(keep=False)

#合并起来再去重，只剩下真的重复行。

举例：data中wangwu行和tony行重复，需要把它们两行取出。

第一步：#保留第一个重复行

第二步：#去除所有重复行

第三步：#合并起来再去重

通过以上步骤实现取出数据中的重复行。

网站名称：python去重合并函数 python去重算法
链接分享：http://azwzsj.com/article/dodseih.html