MATLAB算法实战应用案例精讲-【回归算法】LightGBM算法（附Java、Python和R语言代码）

目录

前言

 为什么提出LightGBM算法

1.XGBoost的缺陷

2.LightGBM较XGBoost优化了哪些内容

 面试中常见的几个高频问题

1.LightGBM和XGBoost有什么区别？他们的loss一样么？ 算法层面有什么区别？

2.LightGBM有哪些实现，各有什么区别？

算法原理

​编辑算法思想

（1）直方图算法

（2）带深度限制的 Leaf-wise 算法

（3）单边梯度采样算法Gradient-based One-Side Sampling（GOSS）

（4）互斥特征捆绑算法Exclusive Feature Bundling（EFB）

（5）类别特征值的最优分割

（6）Lightgbm中的并行学习

（7）合并互斥特征merging features

参数定义 

（1）控制参数

（2）核心参数

（3）度量参数

（4）其他

参数调整

算法特点

优缺点

优点

缺点

应用案例

1. LightGBM模型在Python中的使用方法

2.信用卡交易欺诈预测

应用场景

在天文中的应用

实现代码

Python

Java

R语言

---

前言

LightGBM是微软旗下的Distributed Machine Learning Toolkit （DMKT）的一个项目，由2014年首届阿里巴巴大数据竞赛获胜者之一柯国霖主持开发。虽然其开源时间才仅仅2个月，但是其快速高效的特点已经在数据科学竞赛中崭露头角。Allstate Claims Severity竞赛中的冠军解决方案里就使用了LightGBM，并对其大嘉赞赏。

xgboost虽然是一种优秀的boosting框架，但是在使用过程中，其训练耗时过长，内存占用比较大。微软在2016年推出了另外一种boosting框架——lightgbm，在不降低准确度的的前提下，速度提升了10倍左右，占用内存下降了3倍左右。

 

 

 为什么提出LightGBM算法<