• 跟李沐学AI-动手学深度学习1

    整体内容

    神经网络可以理解为是一种语言
    在这里插入图片描述
    数学和代码的结合，道术结合，关键在动手
    在这里插入图片描述
    是什么，怎么做，为什么这样
    在这里插入图片描述
    发展知识和应用
    在这里插入图片描述
    广告点击预测三个步骤
    在这里插入图片描述
    预测和训练
    在这里插入图片描述
    模型控制广告展现
    在这里插入图片描述

    数据格式

    0维，1维，2维
    在这里插入图片描述
    图片，批量图片，视频多了时间维度
    在这里插入图片描述
    形状，类型，值
    在这里插入图片描述
    区域跳着访问
    在这里插入图片描述
    形状至少是一维的，x.numel是元素个数
    在这里插入图片描述
    创建全0或者全1
    在这里插入图片描述

    通过python本身的数据格式创建
    在这里插入图片描述
    加减乘除以及拼接
    在这里插入图片描述
    所有元素求和，是标量
    在这里插入图片描述
    两个不同维度的数据怎么相加，广播机制
    在这里插入图片描述

    批量数据赋值
    在这里插入图片描述
    频繁赋值，会导致占用过多内存，因为是可变对象，所以赋值会开辟心的内存空间
    在这里插入图片描述
    减少内存开销
    在这里插入图片描述
    张量和numpy以及python标量的转换
    在这里插入图片描述
    数值型，补充为缺失的
    在这里插入图片描述

    增加多个特征，有则补为1，没有则补为0
    在这里插入图片描述
    reshape后并没有改变原来的地址id
    在这里插入图片描述
    多维数组numpy是个计算机的概念，tensor张量是个数学上的概念

    线性代数

    标量
    在这里插入图片描述

    向量的元素由标量构成
    在这里插入图片描述

    向量的点乘
    在这里插入图片描述
    向量扩展，构成矩阵
    在这里插入图片描述

    矩阵乘以向量的原理
    在这里插入图片描述
    向量通过矩阵的运算，把向量在空间进行了扭曲
    在这里插入图片描述
    矩阵的乘法
    在这里插入图片描述
    矩阵的长度
    在这里插入图片描述

    对称矩阵和反对称矩阵，正定矩阵
    在这里插入图片描述
    特殊矩阵
    在这里插入图片描述

    不变矩阵改变方向的向量，叫做特征向量，大小可能改变，方向不变
    在这里插入图片描述
    标量是由只有一个元素的张量构成，也是个张量
    在这里插入图片描述

    标量组成了向量，向量组成了矩阵
    在这里插入图片描述
    标量》向量》矩阵
    在这里插入图片描述
    clone可以分配一个心的内存
    在这里插入图片描述

    所有元素都可以相乘或者相加，矩阵和标量
    在这里插入图片描述
    指定维度的求和运算，可以安装多个维度求和，按那个维度，那个维度就消除了
    在这里插入图片描述
    按某个维度求和，并且保留那个维度，方便做广播机制
    在这里插入图片描述

    点积运算
    在这里插入图片描述
    矩阵乘法
    在这里插入图片描述
    标量
    在这里插入图片描述
    矩阵拉成向量计算的范数
    在这里插入图片描述
    按特定维度得出的计算结果
    在这里插入图片描述

    pytorch也好其他语言也好，都是工具，重点是掌握一个思想
    在这里插入图片描述

    求导数

    亚导数
    在这里插入图片描述求导
    在这里插入图片描述列向量的导数是一个行向量
    在这里插入图片描述
    在这里插入图片描述
    分子是向量
    在这里插入图片描述
    向量关于向量是矩阵
    在这里插入图片描述在这里插入图片描述扩展到矩阵
    在这里插入图片描述
    在这里插入图片描述
    标量求导，拓展到向量求导
    在这里插入图片描述
    线性代数的求导
    在这里插入图片描述

    复合函数，向量求导函数
    在这里插入图片描述
    符号公式求导，定义即方法求导
    在这里插入图片描述
    计算图就是流程图
    在这里插入图片描述

    显示的构造
    在这里插入图片描述
    隐式的构造
    在这里插入图片描述
    求导法则，正向和逆向
    在这里插入图片描述

    正向和反向
    在这里插入图片描述
    复杂度计算
    在这里插入图片描述
    pytorch自动求导
    在这里插入图片描述
    梯度存储
    在这里插入图片描述

    谁关于谁的求导，定义和明确清楚
    在这里插入图片描述
    梯度清零，就是导数清零，因为进行存储了
    在这里插入图片描述
    大部分情况是堆标量求导，不是对向量求导
    在这里插入图片描述
    挪到，计算图外，把向量常数化，可以把网络的某部分参数固定
    在这里插入图片描述
    复杂的控制流的时候求导
    在这里插入图片描述

    学习建议论文代码地址，非常实用

    https://paperswithcode.com/

    在这里插入图片描述

    在这里插入图片描述
    直播设备
    在这里插入图片描述
    落地的最新课程
    在这里插入图片描述

    学习方法

    看》书效果最后
    看听》视频
    看听动手》实战
    嘴讲出来》最好
    斯坦福最新课程：
    https://space.bilibili.com/216720985
    李沐课程学习系列：
    https://space.bilibili.com/1567748478?spm_id_from=333.824.b_765f7570696e666f.1

  • 相关阅读:
    学长教你学C-day8-C语言算数运算和逻辑运算
    环形进度条组件
    ubuntu 设置x11vnc服务
    qt day4
    rv1126-rv1109-镜像生成位置
    极大似然估计，最大后验概率等比较不错的文章
    板块一 Servlet编程：第五节 Cookie对象全解 来自【汤米尼克的JAVAEE全套教程专栏】
    clip studio paint插件开发之服务套件（三）
    C#winfrom调整任意控件宽和高
    JuiceFS 在 Elasticsearch/ClickHouse 温冷数据存储中的实践
  • 原文地址：https://blog.csdn.net/qq_15821487/article/details/127332302