python數(shù)據(jù)分析工具pandas中DataFrame和Series作為主要的數(shù)據(jù)結(jié)構(gòu).

本文主要是介紹如何對(duì)DataFrame數(shù)據(jù)進(jìn)行操作并結(jié)合一個(gè)實(shí)例測(cè)試操作函數(shù)。

1）查看DataFrame數(shù)據(jù)及屬性

df_obj = DataFrame() #創(chuàng)建DataFrame對(duì)象df_obj.dtypes #查看各行的數(shù)據(jù)格式df_obj['列名'].astype(int)#轉(zhuǎn)換某列的數(shù)據(jù)類型df_obj.head() #查看前幾行的數(shù)據(jù),默認(rèn)前5行df_obj.tail() #查看后幾行的數(shù)據(jù),默認(rèn)后5行df_obj.index #查看索引df_obj.columns #查看列名df_obj.values #查看數(shù)據(jù)值df_obj.describe() #描述性統(tǒng)計(jì)df_obj.T #轉(zhuǎn)置df_obj.sort_values(by=['',''])#同上

2）使用DataFrame選擇數(shù)據(jù):

df_obj.ix[1:3] #獲取1-3行的數(shù)據(jù),該操作叫切片操作,獲取行數(shù)據(jù)df_obj.ix[columns_index] #獲取列的數(shù)據(jù)df_obj.ix[1:3，[1,3]]#獲取1列3列的1~3行數(shù)據(jù)df_obj[columns].drop_duplicates() #剔除重復(fù)行數(shù)據(jù)

3）使用DataFrame重置數(shù)據(jù):

df_obj.ix[1:3，[1,3]]=1#所選位置數(shù)據(jù)替換為1

4）使用DataFrame篩選數(shù)據(jù)(類似SQL中的WHERE):

alist = ['023-18996609823']df_obj['用戶號(hào)碼'].isin(alist) #將要過(guò)濾的數(shù)據(jù)放入字典中,使用isin對(duì)數(shù)據(jù)進(jìn)行篩選,返回行索引以及每行篩選的結(jié)果,若匹配則返回turedf_obj[df_obj['用戶號(hào)碼'].isin(alist)] #獲取匹配結(jié)果為ture的行

5）使用DataFrame模糊篩選數(shù)據(jù)(類似SQL中的LIKE):

df_obj[df_obj['套餐'].str.contains(r'.*?語(yǔ)音CDMA.*')] #使用正則表達(dá)式進(jìn)行模糊匹配,*匹配0或無(wú)限次,?匹配0或1次

6）使用DataFrame進(jìn)行數(shù)據(jù)轉(zhuǎn)換(后期補(bǔ)充說(shuō)明)

df_obj['支局_維護(hù)線'] = df_obj['支局_維護(hù)線'].str.replace('巫溪分公司(.{2,})支局','//1')#可以使用正則表達(dá)式可以設(shè)置take_last=ture 保留最后一個(gè),或保留開(kāi)始一個(gè).補(bǔ)充說(shuō)明:注意take_last=ture已過(guò)時(shí),請(qǐng)使用keep='last' 

7）使用pandas中讀取數(shù)據(jù):

read_csv('D:/LQJ.csv',sep=';',nrows=2) #首先輸入csv文本地址,然后分割符選擇等等df.to_excel('foo.xlsx',sheet_name='Sheet1');pd.read_excel('foo.xlsx', 'Sheet1', index_col=None, na_values=['NA'])#寫(xiě)入讀取excel數(shù)據(jù)，pd.read_excel讀取的數(shù)據(jù)是以DataFrame形式存儲(chǔ)df.to_hdf('foo.h5','df');pd.read_hdf('foo.h5','df')#寫(xiě)入讀取HDF5數(shù)據(jù)

8）使用pandas聚合數(shù)據(jù)(類似SQL中的GROUP BY 或HAVING):

data_obj['用戶標(biāo)識(shí)'].groupby(data_obj['支局_維護(hù)線'])data_obj.groupby('支局_維護(hù)線')['用戶標(biāo)識(shí)'] #上面的簡(jiǎn)單寫(xiě)法adsl_obj.groupby('支局_維護(hù)線')['用戶標(biāo)識(shí)'].agg([('ADSL','count')])#按支局進(jìn)行匯總對(duì)用戶標(biāo)識(shí)進(jìn)行計(jì)數(shù),并將計(jì)數(shù)列的列名命名為ADSL

9）使用pandas合并數(shù)據(jù)集(類似SQL中的JOIN):

merge(mxj_obj2, mxj_obj1 ,on='用戶標(biāo)識(shí)',how='inner')# mxj_obj1和mxj_obj2將用戶標(biāo)識(shí)當(dāng)成重疊列的鍵合并兩個(gè)數(shù)據(jù)集,inner表示取兩個(gè)數(shù)據(jù)集的交集.