• 过采样、欠采样


    1.过采样和欠采样

    建立模型的时候,可能会遇到正负样本比例极度不均衡的情况。例如:建立信用违约模型时,违约样本的比例远小于不违约样本的比例,此时模型会花更多精力去你和不违约样本,但实际上找出违约样本更重要,这会导致模型可能在训练集上表现良好,但测试时表现不佳,为了改善样本比例不均衡的问题,可以使用过采样和欠采样的方法,假设现在有100个违约样本和1000个不违约样本。

    1.1过采样

    1.过采样原理
    过采样有随机过采样和SMOTE法过采样
    (1)随即过采样:随即过采样时从100个违约样本中随机抽取旧样本作为一个新样本,假设反腐抽取900次,然后和原来的100个旧样本组合成新的1000个违约样本,和1000个不违约样本一起构成新的训练集。因为随机采样重复的取了违约样本,所以有可能造成对违约样本的过拟合。
    (2)SMOTE法过采样:SMOTE法过采样即合成少数类过采样技术,它是一种针对随机过采样容易导致过拟合问题的改进方案,假设对少数类进行4倍过采样,步骤如下:
    a.根据样本不同,分为数据较多和数据较少两类。
    b.随机选取少数类中的一个样本点。
    c.找到离该样本点最近的四个样本点。
    d.在选中的样本点和最近的四个样本点分别连成的4条线段上随机选取4个点生成新的样本点,之后重复上述步骤,直到少数类的样本数达到目标为止。
    2.欠采样
    欠采样原理:欠采样和过采样相反,是从1000个不违约的样本中随机选取100个样本,和100个违约样本一起训练构成新的训练集。欠采样因为抛弃了大部分的不违约样本,所以在搭建模型的时候可能会产生欠拟合。

    在实战中处理不均衡问题时,如果样本数据不大,可以使用过采样,因为这样能更好地利用数据,不会像欠采样那样有很多数据都没有使用到;如果数据量充足,则过采样和欠采样都可以考虑使用。

    参考链接:
    数据预处理之过采样和欠采样

  • 相关阅读:
    外包干了2个月,技术退步明显。。。。。
    什么样的系统能够有效提升维修效率?报修工单管理系统哪家的好用?
    RISC-V 架构寄存器规范
    8.0 Python 使用进程与线程
    axios的content-type是自动设置的
    JAVA中的函数接口,你都用过吗
    Zookeeper 入门
    JAVA基础--DOUBLE类型是否相等的判断方法
    大数据学习路线
    程序员必知必会网络传输之TCP/IP协议族,共864页的详解文档让你原地起飞!
  • 原文地址:https://blog.csdn.net/weixin_44646187/article/details/127100662