• 过采样、欠采样


    1.过采样和欠采样

    建立模型的时候,可能会遇到正负样本比例极度不均衡的情况。例如:建立信用违约模型时,违约样本的比例远小于不违约样本的比例,此时模型会花更多精力去你和不违约样本,但实际上找出违约样本更重要,这会导致模型可能在训练集上表现良好,但测试时表现不佳,为了改善样本比例不均衡的问题,可以使用过采样和欠采样的方法,假设现在有100个违约样本和1000个不违约样本。

    1.1过采样

    1.过采样原理
    过采样有随机过采样和SMOTE法过采样
    (1)随即过采样:随即过采样时从100个违约样本中随机抽取旧样本作为一个新样本,假设反腐抽取900次,然后和原来的100个旧样本组合成新的1000个违约样本,和1000个不违约样本一起构成新的训练集。因为随机采样重复的取了违约样本,所以有可能造成对违约样本的过拟合。
    (2)SMOTE法过采样:SMOTE法过采样即合成少数类过采样技术,它是一种针对随机过采样容易导致过拟合问题的改进方案,假设对少数类进行4倍过采样,步骤如下:
    a.根据样本不同,分为数据较多和数据较少两类。
    b.随机选取少数类中的一个样本点。
    c.找到离该样本点最近的四个样本点。
    d.在选中的样本点和最近的四个样本点分别连成的4条线段上随机选取4个点生成新的样本点,之后重复上述步骤,直到少数类的样本数达到目标为止。
    2.欠采样
    欠采样原理:欠采样和过采样相反,是从1000个不违约的样本中随机选取100个样本,和100个违约样本一起训练构成新的训练集。欠采样因为抛弃了大部分的不违约样本,所以在搭建模型的时候可能会产生欠拟合。

    在实战中处理不均衡问题时,如果样本数据不大,可以使用过采样,因为这样能更好地利用数据,不会像欠采样那样有很多数据都没有使用到;如果数据量充足,则过采样和欠采样都可以考虑使用。

    参考链接:
    数据预处理之过采样和欠采样

  • 相关阅读:
    自媒体短视频运营常见的5个问题及解决方案
    复杂度分析
    新型基础测绘与实景三维中国建设技术文件【3】基础地理实体空间身份编码规则
    基于单片机的音乐盒
    5_1 计算机网络
    C#调用Dapper
    【微机接口】中断系统:PC系列机中的中断系统
    《最新出炉》系列初窥篇-Python+Playwright自动化测试-14-playwright操作iframe-番外篇
    LeetCode 1422. 分割字符串的最大得分
    2.C语言中常见的关键字
  • 原文地址:https://blog.csdn.net/weixin_44646187/article/details/127100662