目录
说明:本文主要参考《Python极简讲义:一本书入门数据分析与机器学习》(2020年4月出版,电子工业出版社),本文图也是来源于这本书。
仅供学习使用。
R与Python系列第三篇,实际上内容全是Python的内容,跟R没有一点关系,只不过是本人学习Python的第三篇文章,想将R与Python结合使用。当在RStudio中配置好Python环境后(可以看R与Python系列第一篇),Python的代码可以在RStudio中运行,在RStudio的console中>>>表示此时运行的是Python代码,>表示运行R代码。
在机器学习算法中,经常会用到数组和矩阵(向量)运算。NumPy是Python的基础,更是数据科学的通用语言,而且与TensorFlow关系密切。
为什么NumPy如此重要?实际上Python本身含有列表(list)和数组(array),但对于大数据来说,这些结构有很多不足。
NumPy是Python的外部库。由于Anaconda提供了“全家桶”式的服务,因此在安装Anaconda时,NumPy这个常用的第三方库也被默认安装了。但在使用时,NumPy还是需要显示导入的。使用外部库时,为了方便,我们常会为NumPy起一个别名,通常这个别名为np。
- import numpy as np #导入NumPy并制定别名
- print(np.__version__) #输出其版本号
我们可以使用np.__version__(注意:version前后都是两个下划线)输出NumPy的版本号,这句代码的附属目的是验证NumPy是否被正确加载。如果能正常显示版本号,则说明一切正常,我们可以开始如下的操作了。
NumPy最重要的一个特点就是支持N维数组对象ndarray。ndarray对象与列表有相似之处,但也有显著区别。例如,构成列表的元素是大杂烩的,元素类型可以是字符串、字典、元组中的一种或多种,但是NumPy数组中的元素类型要求一致。
使用array()生成NumPy数组,array()可以接收任意数据类型(如列表、元组等)作为数据源。
如果构造NumPy数组的数据精度不一致,如有整数,也有浮点数,NumPy会自动把所有数据都转换为浮点数,这是因为浮点数的精度更高。
- data1 <- [6, 8.5, 9, 0]
- arr1 <- np.array(data1)
- arr1
- 输出: array( [6., 8.5, 9., 0.] )
每个数组都有一个dtype属性,用来描述数组的数据类型。除非显示指定,否则np.array会自动推断数据类型。数据类型会被存储在一个特殊的元数据dtype中。
- arr1.dtype #默认保存为双精度(64 bit)浮点数
- 输出:dtype('float64')
如果数据序列是嵌套的,且嵌套序列是等长的,则通过array()方法可以把嵌套的序列转为与嵌套级别适配的高维数组。
- data2 = [ [1, 2, 3, 4], [5, 6, 7, 8] ] #这是一个两层嵌套列表
- arr2 = np.array(data2) #转换为一个二维数组
- arr2
-
- 输出:
- array([[1, 2, 3, 4],
- [5, 6, 7, 8] ])
arange(start, stop, step, dtype)
描述:arange()根据start与stop指定的范围及step设定的步长,生成一个ndarray对象,即一个数组,不仅可以直接输出,还可以当作向量,参与到实际运算当中。取值区间是左闭右开的,即stop这个终止值是不包括在内的。
start:起始值,默认为0;
stop:终止值;
step:步长,如果不指定,默认值为1;
dtype:指定返回ndarray的数据类型,如果没有提供,则会使用输入数据的类型。
- arr3 = np.arange(10) #生成0~9的ndarray数组
- print(arr3)
- 输出:
- [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
ndarray对象可以做运算,如
- arr3 = arr3 + 1 #将arr3中每个元素都加1
- arr3
- 输出:
- array( [1, 2, 3, 4, 5, 6, 7, 8, 9, 10] )
需要说明的是,上述arr3是一个包含10个元素的向量[0,1,2,3,4,5,6,7,8,9],它和标量“1”实施相加操作,原本在向量“尺寸”上是不适配的。之所以能成功实施,是因为利用了“广播”机制。广播机制将这个标量“1”扩展为等长的向量[1,1,1,1,1,1,1,1,1],此时二者的维度是一样的,这才对两个长度不相等的向量进行了相加,这一点和R是一样的。
使用np.linspace()指定区间内生成指定个数的数组。(当然,也可以使用np.arange(),但是需要手动计算函数所需的步长)。
- c = np.linspace(1, 10, 20)
- c
-
- 输出:
- array([ 1. , 1.47368421, 1.94736842, 2.42105263, 2.89473684,
- 3.36842105, 3.84210526, 4.31578947, 4.78947368, 5.26315789,
- 5.73684211, 6.21052632, 6.68421053, 7.15789474, 7.63157895,
- 8.10526316, 8.57894737, 9.05263158, 9.52631579, 10. ])
上述代码使用np.linspace()在区间[1,10]中生成了20个等间隔的数据,该方法的前两个参数分别指明生成元素的左右区间边界,第三个参数确定上下限之间均匀等分的数据个数。
需要注意的是,np.arange()中数据区间是左闭右开的(即区间的最后一个数值是取不到的),而np.linspace()生成的数据区间是闭区间。当然可以指定np.linspace()中的参数endpoint=False,使生成数据区间编程左闭右开区间。
np.zeros()、np.ones()函数用来生成指定维数和填充固定数值的数组。其中,np.zeros()函数生成的数组由0来填充,np.ones()生成的数组由1来填充。它们通常用来对某些变量进行初始化。
- >>> zeros = np.zeros((3,4)) #生成3X4的二维数组,元素均为0
- >>> zeros
- array([[0., 0., 0., 0.],
- [0., 0., 0., 0.],
- [0., 0., 0., 0.]])
值得注意的是,np.zeros((3,4))的含义。尺寸参数3和4使用两层括号包裹,实际上,应该将(3,4)整体看作是一个匿名元组对象,np.zeros((3,4))等价于np.zeros(shape=(3,4)),在shape参数处需要通过一个元组或者列表来指明生成数组的尺寸。
元组的外部轮廓是两个圆括号,那么在默认指定shape参数的情况下,那么在默认指定shape参数的情况下,这对圆括号就会和np.zeros()方法的外层括号相连,造成一定程度上的理解困扰,为此,推荐np.zeros( shape = [3,4] ),即将方括号作为轮廓特征的列表 来表示数组的尺寸。(元组的外部轮廓特征是两个圆括号,列表的外部轮廓特征是方括号。)
类似地,可以用np.ones()生成指定尺寸、元素全为1的数组:
- >>> ones_ = np.ones(shape = [3,4], dtype =float)
- >>> ones_
- array([[1., 1., 1., 1.],
- [1., 1., 1., 1.],
- [1., 1., 1., 1.]])
(3).reshape() 重构数组尺寸
- >>> arr = np.arange(6) #创建一个一维数组,数组元素为0,1,...,5
- >>> arr = arr.reshape((2,3)) #将arr的尺寸重构为两行三列
- >>> arr
- array([[0, 1, 2],
- [3, 4, 5]])
注意,reshape()内参数(2,3)的类型是元组,表示数组为两行三列的。
需要说明的是,在物理内存中是不存在N维数组的,限于存储介质的物理特性,它永远只有一维结构。我们常见的便于理解的N维数组仅仅是“逻辑视图”,它们不过是包装出来的。NumPy数组的物理内存和逻辑视图如下图所示,“编译器”或第三方工具在幕后做了很多额外的工作,这才使得我们享受到了便利。(大致了解一下即可。)
N维数组是包含同类型的数据容器,每个数组的维度(dimension)都是由一个ndim属性来描述。
使用.ndim来查看数组的维度。
- >>> mp_array = np.arange(0,10) #创建一个一维数组
- >>> mp_array.ndim
- 1
对于N维数组,shape(数组的形状)主要用来表示数组每个维度的数量,一维数组的shape就是它的长度。
使用.shpae查看形状属性。
- >>> mp_array.shape #查看数组的形状信息
- (10,)
NumPy数组形状并不是一成不变的,可以通过reshape()方法将原有数组进行“重构”(变形reshape)。
- >>> b = np.arange(15) #创建一个包含15个元素的一维数组
- >>> b
- array([ 0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14])
- >>> b = b.reshape(3,5) #改变数组形状为3行5列
- >>> b
- array([[ 0, 1, 2, 3, 4],
- [ 5, 6, 7, 8, 9],
- [10, 11, 12, 13, 14]])
- >>> b.ndim #查看数组的维度信息
- 2 #这是一个2D张量
- >>> b.shape #查看数组的形状信息
- (3, 5)
- >>> b.size #查看数组元素的总个数
- 15
三维数组的构建
- >>> a = np.arange(30).reshape(2,3,5) #重构数组为2通道3行5列
- >>> a
- array([[[ 0, 1, 2, 3, 4],
- [ 5, 6, 7, 8, 9],
- [10, 11, 12, 13, 14]],
-
- [[15, 16, 17, 18, 19],
- [20, 21, 22, 23, 24],
- [25, 26, 27, 28, 29]]])
如果想要让两个列表对应元素相加,除了使用for循环,还可以使用列表推导式来完成这个任务(这里不介绍列表推导式,可以参考1中6.5.1内容。),列表不能直接进行对应元素的相加!而R中是可以直接进行向量化运算,即逐元素运算。
Python中由于NumPy扩展库使得数组可以进行向量化运算,NumPy扩展库是是一个久经考验的数值计算包,NumPy有十分成熟的算数运算函数,我们不需要给出复杂的计算公式,直接调用NumPy的内置函数,即可达到我们的运算目的。
列表是不能直接完成对应元素相加的,而NumPy数组是可以进行逐元素运算的,逐元素实施加、减、乘、除等运算。
事实上,NumPy中数组的运算,都是基于更为基础的算法库---基础线性子程序(basic linear algebra subprograms,简成BLAS)而实现的。BLAS是一个更底层的、高度并行和优化的张量操作程序,通常由Fortran、C语言编写。
向量化运算即对应元素进行运算。要求两个对象的形状(即维数)是一样的。NumPy吸纳了Fortran或MATLAB等语言的优点,只要操作数组的形状(维度)一致,我们就可以很方便地对它们逐元素(element-wise)实施加、减、乘、除、取余、指数运算等操作。
- >>> a = np.arange(10) #生成一维ndarray数组,长度为10
- >>> a
- array([0, 1, 2, 3, 4, 5, 6, 7, 8, 9])
- >>> b =np.linspace(1,10,10)#生成一维ndarray数组,长度为10
- >>> b
- array([ 1., 2., 3., 4., 5., 6., 7., 8., 9., 10.])
- >>> a+b #数组加法
- array([ 1., 3., 5., 7., 9., 11., 13., 15., 17., 19.])
- >>> a-b #数组减法
- array([-1., -1., -1., -1., -1., -1., -1., -1., -1., -1.])
- >>> a*b #数组乘法
- array([ 0., 2., 6., 12., 20., 30., 42., 56., 72., 90.])
- >>> a/b#数组除法
- array([0. , 0.5 , 0.66666667, 0.75 , 0.8 ,
- 0.83333333, 0.85714286, 0.875 , 0.88888889, 0.9 ])
- >>> a%b #数组取余
- array([0., 1., 2., 3., 4., 5., 6., 7., 8., 9.])
- >>> a**2 #数组元素平方
- array([ 0, 1, 4, 9, 16, 25, 36, 49, 64, 81])
张量点乘运算是指二维数据在数学意义上的矩阵运算,点乘运算这个名称是由NumPy取的。
值得注意的是,二维数组和矩阵本质上是相同地,但是数组默认操作是基于“逐元素”原则的,所以要求两个操作对象之间的维度信息必须是一样的。然而,数学意义上的矩阵乘法不要求两个操作对象之间的维度是一样的,只要求前一个矩阵的列数等于后一个矩阵的行数。
如何执行矩阵的乘法运算?
- >>> a = np.array([[1,2], [3,4]])
- >>> a
- array([[1, 2],
- [3, 4]])
- >>> a = np.mat(a) #将数组a转成矩阵a
- >>> a
- matrix([[1, 2],
- [3, 4]])
-
- >>> b = np.arange(8).reshape(2,4)
- >>> b
- array([[0, 1, 2, 3],
- [4, 5, 6, 7]])
- >>> b = np.mat(b) #将数组b转换成矩阵b
- >>> b
- matrix([[0, 1, 2, 3],
- [4, 5, 6, 7]])
- >>> a*b #此时,矩阵a和矩阵b之间执行的是点乘运算
- matrix([[ 8, 11, 14, 17],
- [16, 23, 30, 37]])
- >>> a #是矩阵形式
- matrix([[1, 2],
- [3, 4]])
- >>> a.A #.A表示 将矩阵a变换成 二维数组
- array([[1, 2],
- [3, 4]])
- >>> b.A #.A表示 将矩阵b变换成 二维数组
- array([[0, 1, 2, 3],
- [4, 5, 6, 7]])
-
-
-
- #执行矩阵乘法运算--Numpy又称其为点乘运算
- >>> np.dot(a.A, b.A)
- array([[ 8, 11, 14, 17],
- [16, 23, 30, 37]])
- >>> a.A @ b.A
- array([[ 8, 11, 14, 17],
- [16, 23, 30, 37]])
说明:np.dot()函数可以在两个元素之间用@符号代替,即a@b结果和np.dot(a,b)是一样的。使用a@b这样更简便一些。
《Python极简讲义:一本书入门数据分析与机器学习》(2020年4月出版,电子工业出版社)(这本书对介绍Numpy写的很详细,非常详细,我觉得初学者只看这一本书,就可以完全理解和掌握NumPy相关知识,强烈推荐阅读!本文大部分内容来源于这本书。)
《Python深度学习:基于TensorFlow》(2018年9月,机工社)(个人认为相对来说,这本书没有上一本更适合Python小白,很多地方的理解需要依靠第一本书的介绍。但是这本书语言使用上比较专业。)