pandas 遍历df每一行怎样对数据进行遍历

excel有针对偏度的计算函数 skew(), 但是不清楚怎么使用excel进行遍历, 数据量很大。
尝试使用python进行解决。
第一次学习python,没想到了在克服安装各种包的难过之后,居然成功实现了。
python3.3:
#this is a test case
# -*- coding: gbk -*-
print("hello python!中文")
#env config
import xlrd
import xlwt3
import numpy
import pandas as pd
#from pandas import Series,DataFrame
#import pandas
data = xlrd.open_workbook("E:\\data.xlsx")
table = data.sheets()[0]
#this need to be verify more
#print ("check")
print (table.nrows)
print (table.name)
print ("############################")
#total line num
line_num=table.nrows
cell_sectionA=table.cell(1,0).value
cell_sectionB=table.cell(1,1).value
#print (cell_sectionA)
#print (cell_sectionB)
start_value=cell_sectionA
#we need to recode the start value ,but not the end.
sectionB_each_time_start=0
#sectionB_each_time_end=i is ok.
for i in range(1,line_num):
if start_value != table.cell(i,0).value:
cacu_num=i-sectionB_each_time_
#print (cacu_num)
#print ("********************************")
for j in range(0,(cacu_num-1)):
data[j]= table.cell((sectionB_each_time_start+j+1),1).value
#print (data[j])
df = pd.Series(data)
#print("skew\t")
#print("skew: %d
%f" %(table.cell(sectionB_each_time_start+1,0).value,df.skew()))
print("%d"%table.cell(sectionB_each_time_start+1,0).value)
#print("%f" %df.skew())
#after caculate ,update the variable.
sectionB_each_time_start=i-1
start_value=table.cell(i,0).value
#file=xlwt3.Workbook()
#table_for_wt=file.add_sheet("test1");
#table_for_wt.write(0,0,cell_b)
#table_for_wt.write(1,1,cell_b)
#file.save('E:\\wtest.xls')
阅读(...) 评论()python中datafram怎么for遍历数据_百度知道
应《中华人民共和国网络安全法》要求,自日起,使用互联网服务需进行帐号实名认证。为保障您的百度帐号能够正常使用,请尽快对帐号进行手机号验证,感谢您的理解与支持。
python中datafram怎么for遍历数据
green&] fblue&quot,&quot,&quot最常用的;;red&quot,通过for in遍历数组colours = [&
采纳率:95%
来自团队:
为您推荐:
其他类似问题
等待您来回答用python做数据分析4|pandas库介绍之DataFrame基本操作 - 简书
用python做数据分析4|pandas库介绍之DataFrame基本操作
怎样删除list中空字符?最简单的方法:new_list = [ x for x in li if x != '' ]
今天是5.1号。
这一部分主要学习pandas中基于前面两种数据结构的基本操作。
设有DataFrame结果的数据a如下所示:
一、查看数据(查看对象的方法对于Series来说同样适用)
1.查看DataFrame前xx行或后xx行a=DataFrame(data);a.head(6)表示显示前6行数据,若head()中不带参数则会显示全部数据。a.tail(6)表示显示后6行数据,若tail()中不带参数则也会显示全部数据。
2.查看DataFrame的index,columns以及valuesa.
3.describe()函数对于数据的快速统计汇总a.describe()对每一列数据进行统计,包括计数,均值,std,各个分位数等。
4.对数据的转置a.T
5.对轴进行排序a.sort_index(axis=1,ascending=False);其中axis=1表示对所有的columns进行排序,下面的数也跟着发生移动。后面的ascending=False表示按降序排列,参数缺失时默认升序。
6.对DataFrame中的值排序a.sort(columns='x')即对a中的x这一列,从小到大进行排序。注意仅仅是x这一列,而上面的按轴进行排序时会对所有的columns进行操作。
二、选择对象
1.选择特定列和行的数据a['x']
那么将会返回columns为x的列,注意这种方式一次只能返回一个列。a.x与a['x']意思一样。
取行数据,通过切片[]来选择如:a[0:3]
则会返回前三行的数据。
2.loc是通过标签来选择数据a.loc['one']则会默认表示选取行为'one'的行;
a.loc[:,['a','b'] ]
表示选取所有的行以及columns为a,b的列;
a.loc[['one','two'],['a','b']]
表示选取'one'和'two'这两行以及columns为a,b的列;
a.loc['one','a']与a.loc[['one'],['a']]作用是一样的,不过前者只显示对应的值,而后者会显示对应的行和列标签。
3.iloc则是直接通过位置来选择数据这与通过标签选择类似a.iloc[1:2,1:2]
则会显示第一行第一列的数据;(切片后面的值取不到)
a.iloc[1:2]
即后面表示列的值没有时,默认选取行位置为1的数据;
a.iloc[[0,2],[1,2]]
即可以自由选取行位置,和列位置对应的数据。
4.使用条件来选择使用单独的列来选择数据a[a.c&0]
表示选择c列中大于0的数据
使用where来选择数据a[a&0]
表直接选择a中所有大于0的数据
使用isin()选出特定列中包含特定值的行a1=a.copy()a1[a1['one'].isin(['2','3'])]
表显示满足条件:列one中的值包含'2','3'的所有行。
三、设置值(赋值)
赋值操作在上述选择操作的基础上直接赋值即可。例a.loc[:,['a','c']]=9
即将a和c列的所有行中的值设置为9a.iloc[:,[1,3]]=9 也表示将a和c列的所有行中的值设置为9
同时也依然可以用条件来直接赋值a[a&0]=-a
表示将a中所有大于0的数转化为负值
四、缺失值处理
在pandas中,使用np.nan来代替缺失值,这些值将默认不会包含在计算中。
1.reindex()方法用来对指定轴上的索引进行改变/增加/删除操作,这将返回原始数据的一个拷贝。a.reindex(index=list(a.index)+['five'],columns=list(a.columns)+['d'])
a.reindex(index=['one','five'],columns=list(a.columns)+['d'])
即用index=[]表示对index进行操作,columns表对列进行操作。
2.对缺失值进行填充a.fillna(value=x)表示用值为x的数来对缺失值进行填充
3.去掉包含缺失值的行a.dropna(how='any')表示去掉所有包含缺失值的行
1.contactcontact(a1,axis=0/1,keys=['xx','xx','xx',...]),其中a1表示要进行进行连接的列表数据,axis=1时表横着对数据进行连接。axis=0或不指定时,表将数据竖着进行连接。a1中要连接的数据有几个则对应几个keys,设置keys是为了在数据连接以后区分每一个原始a1中的数据。
例:a1=[b['a'],b['c']]result=pd.concat(a1,axis=1,keys=['1','2'])
2.Append 将一行或多行数据连接到一个DataFrame上a.append(a[2:],ignore_index=True)表示将a中的第三行以后的数据全部添加到a中,若不指定ignore_index参数,则会把添加的数据的index保留下来,若ignore_index=Ture则会对所有的行重新自动建立索引。
3.merge类似于SQL中的join设a1,a2为两个dataframe,二者中存在相同的键值,两个对象连接的方式有下面几种:(1)内连接,pd.merge(a1, a2, on='key')(2)左连接,pd.merge(a1, a2, on='key', how='left')(3)右连接,pd.merge(a1, a2, on='key', how='right')(4)外连接, pd.merge(a1, a2, on='key', how='outer')至于四者的具体差别,具体学习参考sql中相应的语法。
六、分组(groupby)
用pd.date_range函数生成连续指定天数的的日期pd.date_range('',periods=10)
def shuju():
'date':pd.date_range('',periods=10),
'gender':np.random.randint(0,2,size=10),
'height':np.random.randint(40,50,size=10),
'weight':np.random.randint(150,180,size=10)
a=DataFrame(data)
用a.groupby('gender').sum()得到的结果为:
#注意在python中groupby(''xx)后要加sum(),不然显示
不了数据对象。
此外用a.groupby('gender').size()可以对各个gender下的数目进行计数。
所以可以看到groupby的作用相当于:按gender对gender进行分类,对应为数字的列会自动求和,而为字符串类型的列则不显示;当然也可以同时groupby(['x1','x2',...])多个字段,其作用与上面类似。
七、Categorical按某一列重新编码分类
如六中要对a中的gender进行重新编码分类,将对应的0,1转化为male,female,过程如下:
a['gender1']=a['gender'].astype('category')
a['gender1'].cat.categories=['male','female']
#即将0,1先转化为category类型再进行编码。
print(a)得到的结果为:
weight gender1
所以可以看出重新编码后的编码会自动增加到dataframe最后作为一列。
八、相关操作
描述性统计:1.a.mean()
默认对每一列的数据求平均值;若加上参数a.mean(1)则对每一行求平均值;
2.统计某一列x中各个值出现的次数:a['x'].value_counts();
3.对数据应用函数a.apply(lambda x:x.max()-x.min())表示返回所有列中最大值-最小值的差。
4.字符串相关操作a['gender1'].str.lower()
将gender1中所有的英文大写转化为小写,注意dataframe没有str属性,只有series有,所以要选取a中的gender1字段。
九、时间序列
在六中用pd.date_range('xxxx',periods=xx,freq='D/M/Y....')函数生成连续指定天数的的日期列表。例如pd.date_range('',periods=10),其中periods表示持续频数;pd.date_range('','',freq='D')也可以不指定频数,只指定起始日期。
此外如果不指定freq,则默认从起始日期开始,频率为day。其他频率表示如下:
十、画图(plot)
在pycharm中首先要:import matplotlib.pyplot as plt
a=Series(np.random.randn(1000),index=pd.date_range('',periods=1000))
b=a.cumsum()
plt.show()
#最后一定要加这个plt.show(),不然不会显示出图来。
也可以使用下面的代码来生成多条时间序列图:
a=DataFrame(np.random.randn(1000,4),index=pd.date_range('',periods=1000),columns=list('ABCD'))
b=a.cumsum()
plt.show()
十一、导入和导出文件
写入和读取excel文件虽然写入excel表时有两种写入xls和csv,但建议少使用csv,不然在表中调整数据格式时,保存时一直询问你是否保存新格式,很麻烦。而在读取数据时,如果指定了哪一张sheet,则在pycharm又会出现格式不对齐。
还有将数据写入表格中时,excel会自动给你在表格最前面增加一个字段,对数据行进行编号。
a.to_excel(r'C:\\Users\\guohuaiqi\\Desktop\\2.xls',sheet_name='Sheet1')
a=pd.read_excel(r'C:\\Users\\guohuaiqi\\Desktop\\2.xls','Sheet1',na_values=['NA'])
注意sheet_name后面的Sheet1中的首字母大写;读取数据时,可以指定读取哪一张表中的数据,而
且对缺失值补上NA。
最后再附上写入和读取csv格式的代码:
a.to_csv(r'C:\\Users\\guohuaiqi\\Desktop\\1.csv',sheet_name='Sheet1')
a=pd.read_csv(r'C:\\Users\\guohuaiqi\\Desktop\\1.csv',na_values=['NA'])
愿我长命百岁,yu你终老

我要回帖

更多关于 pandas循环遍历 的文章

 

随机推荐