使用Pandas进行大数据分析处理

链接:https://baike.baidu.com/item/python/407313 
开始进入今天正题,再开始实验之前,我们先来认识下数据的一些处理方法、列、宽、


好了开始正式正式正式进入我们的主题,首先Python数据处理模块有这么几种re,numpy,pandas,Matplotlib,都挺好用的
说了那么多,我们来看看有没有这几个模块
第一个numpy

emm没有,来看看其他模块有没有装

都没安装...

pip install numpy pandas matplotlib // 安装命令

安装完之后打开Python终端,来看看能不能访问
// test

import pandas as pa
import numpy as ny
from pandas import Series, DataFrame

导入成功后,我们开始码代码,理论我就先不讲了,因为本期主要以实践为主,感兴趣的自行度娘...
我们先创建几个值,也就是类似于变量之类的,当然这里是以表做输出

iceFrame = DataFrame({'name':['a','a','b','b'],'classes':[1,2,3,4],'price':[11,22,33,44]})



接着我们根据index和columns来进行取值

根据同行的columns的值取同行的另一个columns的值

  1. 1.DataFrame创建:
  2. 1.标准格式创建
  3. 2.等长列表组成的字典来创建
  4. 3.嵌套字典(字典的值也是字典)创建

1.1  标准格式创建

DataFrame创建方法有很多,常用基本格式是:DataFrame 构造器参数:DataFrame(data=[],index=[],coloumns=[])

1.2 用传入等长列表组成的字典来创建

In [204]: data={'c':['1','2'],'a':['5']} #创建不等长字典序列 
In [205]: data
Out[205]: {'a': ['5'], 'c': ['1', '2']}
In [206]: df=DataFrame(data)
Traceback (most recent call last):
... 
ValueError: arrays must all be same length # 报错,传入的数组必须等长 
In [207]: data={'c':['1','2'],'a':['5','6']} #创建<strong>等长字典序列 
In [208]: df=DataFrame(data)
In [209]: df
Out[209]:
a c # 创建完成后'a','c'自动按照字典序排序,并且创建时自定加上索引 
0 5 1
1 6 2

创建完成后'a','c'自动按照字典序排序,并且创建时自定加上索引
如果指定了columns名称,则会按照指定顺序创建。

[python] view plain copy 在CODE上查看代码片派生到我的代码片
In [210]: df=DataFrame(data,columns=['c','a'])
In [211]: df
Out[211]:
c a #按照指定顺序创建。 
0 1 5
1 2 6

1.3 传入嵌套字典(字典的值也是字典)创建DataFrame

列名:嵌套字典的外层子键
索引:内层键

In [227]: nest_dict={'shanghai':{2015:100,2016:101},'beijing':{2015:102,2016:103}}
In [228]: nest_dict
Out[228]: {'beijing': {2015: 102, 2016: 103}, 'shanghai': {2015: 100, 2016: 101}}
In [229]: df1=DataFrame(nest_dict)
In [230]: df1
Out[230]:
beijing shanghai
2015 102 100
2016 103 101

2.DataFrame 增删改查

2.DataFrame 增删改查

为不存在的列赋值会创建新列

In [219]: df['b']=1
In [220]: df
Out[220]:
c a b
0 1 5 1
1 2 6 1

2.2.删

用del删除

In [225]: del df['a']
In [226]: df
Out[226]:
c b
0 1 1
1 2 1

用drop() 删除
用drop删除时,删的是视图,并没有真正删除。

<pre name="code" class="python">In [258]: df
Out[258]:
c b 0
0 5 1 6
1 5 1 6
In [259]: df.drop(0,axis=1) #删除列Out[259]:
c b
0 5 1
1 5 1
In [260]: df # df的数据并没有改动
Out[260]:
c b 0
0 5 1 61 5 1 6

dorp()可以通过axis(行:axis=0 ,列:axis=1)可以控制删除行或列,默认是行。
dorp()也可以同时删除多行或多列

In [271]: df.drop([0,1],axis=1)
Out[271]:
c b
0 6 6
1 5 1

2.3.改

通过赋值进行修改,可以通过定位到行,列,或者具体位置进行赋值修改。
修改具体元素值:

In [242]: df['c'][1]=4
In [243]: df
Out[243]:
c b
0 1 1
1 4 1

修改列:

In [244]: df['c']=5
In [245]: df
Out[245]:
c b
0 5 1
1 5 1

修改行:

df[:1]=6
df
Out[266]:
c b
0 6 6
1 5 1

修改行和列如果传入一组值得话,注意传入数组的长度,如果传入数组长度大于len(df) 则截断,小于df长度则置NaN

In [267]: df[0]=Series([1,2,3])
In [268]: df
Out[268]:
c b 0
0 6 6 1
1 5 1 2
In [269]: df[1]=Series([1,]) #增加一列,传入一个值 
In [270]: df
Out[270]:
c b 0 1
0 6 6 1 1
1 5 1 2 NaN

2.4.查(索引,选取,过滤)

选取数据 是DataFrame的重点,常用的有 位置切片 和 标签切片,位置切片遵循Python的切片规则,包括起始位置,但不包括结束位置;但标签切片则同时包括起始标签和结束标签。之所以如此设计是因为在使用标签切片时,通常我们不知道标签的顺序,如果不包含结束标签,很难确定结束标签的前一个标签是什么。
注释: 标准Python / Numpy表达式可以完成这些数据选择工作, 但在生产代码中, 我们推荐使用优化的pandas数据访问方法, .at, .iat, .loc, .iloc 和 .ix.
标签切片和loc选择器:
建议使用这种列标签选取方式,用'.'容易出问题。‘.’的写法容易与其他预留关键字产生冲突

In [276]: data['two'] #建议使用这种列标签选取方式,用'.'容易出问题.。‘.’的写法容易与其他预留关键字产生冲突 
‘[ ]’的写法最安全。
Out[276]:
a 1
b 5
c 9
d 13
Name: two, dtype: int32
In [277]: data.two
Out[277]:
a 1
b 5
c 9
d 13
Name: two, dtype: int32

选择多列:

In [279]: data[['one','two']] #注意多列选择时,传入的事数组,
<span style="font-family: Arial, Helvetica, sans-serif;">data[['one','two']] 不能写成 data['one','two']</span>
Out[279]:
one two
a 0 1
b 4 5
c 8 9
d 12 13

使用loc,选取列:

data.loc[:,'one']
Out[290]:
a 0
b 4
c 8
d 12
Name: one, dtype: int32

使用loc,选取行:

In [293]: data.loc[:'c',:]
Out[293]:
one two three four
a 0 1 2 3
b 4 5 6 7
c 8 9 10 11

使用loc,选取第一个元素:

In [294]: data.loc[:'a',:'one']
Out[294]:
one
a 0

位置切片和ix选择器:

data[0:3] #等价于data[:3] 
Out[285]:
one two three four
a 0 1 2 3
b 4 5 6 7
c 8 9 10 11

ix用法和loc差不多,loc传入的事行列的名称,ix使用的是相对位置
选取第一行第一列

In [295]: data.ix[:1,:1]
Out[295]:
one
a 0


点赞

发表评论

电子邮件地址不会被公开,只有你知道( ̄▽ ̄)"