这一节讲述元素的运算,不仅仅是重塑操作
元素操作的定义:元素运算是对张量元素的运算,这些张量元素在张量中对应或有相同的索引位置,元素的操作是在对应的元素上进行的,并且是对应的。
如果两个元素在一个张量中占据相同的位置,则由用户定位每个元素的索引决定
1和9是对应的元素,对应是由索引定义的
还有一个重要的地方就是两个张量必须具有相同元素个数才能执行一个元素的操作,并且必须具有相同的形状才能执行一个元素操作,具有相同的形状意味着张量在每一个对应的轴上有相同数量的轴,并且他们的长度相同,这确保了执行元素操作是可以的。
例如加法就是元素操作
通常我们看到的张量的运算是标量之间的运算,但是有一个问题就是,我们说元素之间的操作必须是相同的形状,但是标量的形状肯定和张量不相同,那怎么理解呢?
我们引入了张量广播的概念,广播定义了在元素操作过程中如何处理不同形状的张量,例如t1+2,标量张量被扩展到张量t1的形状,然后进行元素运算,
下面就是标量2变成了t1的形状,这样就可以进行元素的相加了
代码的描述是下面这样的
对于下面这两个tensor,操作的方法也是用广播来变成同一个形式就可以进行元素的操作了
广播把较低的秩张量t2通过广播进行转换,以匹配更高的张量t1的形状,而元素的操作和往常一样执行。
当我们对数据进行预处理的时候,我们经常在神经网络中使用广播,特别是标准化的过程时。
对于比较运算,他们也是元素之间的操作
第一个是比较是不是等于0
t.le是指元素是否 小于等于7
最后一个操作相当于下面的操作
这些也是元素的操作,实际上变成了函数的形式