• 过采样、欠采样


    1.过采样和欠采样

    建立模型的时候,可能会遇到正负样本比例极度不均衡的情况。例如:建立信用违约模型时,违约样本的比例远小于不违约样本的比例,此时模型会花更多精力去你和不违约样本,但实际上找出违约样本更重要,这会导致模型可能在训练集上表现良好,但测试时表现不佳,为了改善样本比例不均衡的问题,可以使用过采样和欠采样的方法,假设现在有100个违约样本和1000个不违约样本。

    1.1过采样

    1.过采样原理
    过采样有随机过采样和SMOTE法过采样
    (1)随即过采样:随即过采样时从100个违约样本中随机抽取旧样本作为一个新样本,假设反腐抽取900次,然后和原来的100个旧样本组合成新的1000个违约样本,和1000个不违约样本一起构成新的训练集。因为随机采样重复的取了违约样本,所以有可能造成对违约样本的过拟合。
    (2)SMOTE法过采样:SMOTE法过采样即合成少数类过采样技术,它是一种针对随机过采样容易导致过拟合问题的改进方案,假设对少数类进行4倍过采样,步骤如下:
    a.根据样本不同,分为数据较多和数据较少两类。
    b.随机选取少数类中的一个样本点。
    c.找到离该样本点最近的四个样本点。
    d.在选中的样本点和最近的四个样本点分别连成的4条线段上随机选取4个点生成新的样本点,之后重复上述步骤,直到少数类的样本数达到目标为止。
    2.欠采样
    欠采样原理:欠采样和过采样相反,是从1000个不违约的样本中随机选取100个样本,和100个违约样本一起训练构成新的训练集。欠采样因为抛弃了大部分的不违约样本,所以在搭建模型的时候可能会产生欠拟合。

    在实战中处理不均衡问题时,如果样本数据不大,可以使用过采样,因为这样能更好地利用数据,不会像欠采样那样有很多数据都没有使用到;如果数据量充足,则过采样和欠采样都可以考虑使用。

    参考链接:
    数据预处理之过采样和欠采样

  • 相关阅读:
    嵌入式 独立看门狗实验
    Python图像处理【1】图像与视频处理
    FreeRTOS学习记录--任务创建函数详解
    Chapter3.2:时域分析法
    【Rust】——Vector集合
    GitHub官方出手,一针见血。Spring Boot趣味实战手册来袭(彩版)
    干货分享|腾讯内部项目管理PPT
    xxl-job-admin 核心类解析 XxlJobAdminConfig
    金仓数据库 KDTS 迁移工具使用指南 (4. BS 版使用说明)
    Linux常用命令整理
  • 原文地址:https://blog.csdn.net/weixin_44646187/article/details/127100662