Python中偶尔遇到的细节疑问(一):去除列名特殊字符、标准差出现nan、切片索引可超出范围、range步长、众数

1. Pandas读取csv或excel数据时,很可能遇到的columns中,列名会带有特殊字符,例如:空格、\n、\t、双空格、引号等等,如果不想手动修改的话,可以df.rename()来解决。

df = pd.read_excel(data_path)
df_ = df.rename(columns=lambda x: x.replace(" ","").replace('  ','').replace("      ","").replace(r"\t","").replace(r"\n",""))

如果还有其他的字符,也可以类似解决。

2. python计算标准差时,出现nan:这个原因可能是原始数据都是nan;

但是更有可能是求解std时参数用错了:因为python求解时,有偏估计和无偏估计是用 ddof参数来选择的,求标准差时除以的值是:n-ddof。

如果使用numpy计算的话,numpy.std() 求标准差的时候默认是除以 n,即有偏估计;如果要无偏估计,需要在np.std()参数中加入参数 ddof = 1,也就是除以的是n-1;

然而,pandas却是相反的,它默认是无偏估计,也就是除以 n-1;如果想有偏估计,需要设置参数 ddof=0,即 df.std(ddof=0)。

所以:

如果你的数值序列其他的都是nan,只有一个值不是nan,那么无偏估计时,std求解的标准差就是nan了。

3. 列表、字符串等在直接索引时,不能超出长度范围;但是切片索引时,却可以超出范围,超出范围时取值一直到末尾。

例如:

a = 'abcdefg'
#print(a[10])   # 报错:IndexError: string index out of range
print(a[3:10])  #不报错:返回 defg

b = [2,3,4,5]
# print(b[10])   # 报错:IndexError: string index out of range
print(b[2:10])  #不报错:返回 [4, 5]

4. range函数,有步长参数可用

range(start, stop[, step])

有时候,步长参数可以让你减少一层for循环的使用。

for ii in range(1,8,2):
    print(ii)

5. pandas求取众数 mode() 方法,多个众数时,求所有众数的均值

import pandas as pd
import numpy as np

df = pd.DataFrame({'name':['Jack','Alex','Bob','Nancy','Mary','Alice','Jerry','Wolf'],
              'course':['Chinese','Math','Math','Chinese','Math','English','Chinese','English'],
              'grade':[1,1,2,2,2,2,3,3],
              'score':[85,85,91,78,89,89,78,79]})

print(df.score)
aa = df.score.mode()  #众数
print(type(aa))  # <class 'pandas.core.series.Series'>
print('aa:',aa)   #如果有多个众数,会形成一个序列返回
print(np.mean(aa))  # 多个众数时,求均值

注:scipy.stats.mode() df.value_counts() 均可用于求众数。

参考:

https://blog.csdn.net/katyusha1/article/details/81501893

https://blog.csdn.net/symoriaty/article/details/103102833

https://blog.csdn.net/yvettre/article/details/79726396

posted on 2020-05-23 19:44  落日峡谷  阅读(2361)  评论(0编辑  收藏  举报

导航