常用的机器学习模型算法

LogisticRegression（逻辑回归）：

• 是一种线性模型，用于解决二分类问题。它通过将特征的线性组合映射到一个sigmoid函数上，输出一个0到1之间的概率值，用于预测样本属于某个类别的概率。

DecisionTreeClassifier（决策树分类器）

• 是一种基于树的分类模型，通过在特征空间中划分出不同的区域来构建决策树，每个叶节点表示一个类别。它递归地将数据集划分为子集，直到子集内的样本属于同一类别或达到停止条件。

RandomForestClassifier（随机森林分类器）

• 是一种集成学习算法，它通过构建多个决策树（随机森林）来提高预测性能。随机森林通过随机选择特征和样本来构建每棵树，然后基于多棵树的投票结果进行分类。

AdaBoostClassifier（自适应增强分类器）：

• 是一种集成学习算法，它通过串行训练一系列弱分类器（通常是决策树），每个弱分类器都试图修正前一个分类器的错误，从而提升整体模型的准确性。

GradientBoostingClassifier（梯度提升分类器）：

• 同样是一种集成学习算法，它也是通过串行训练一系列决策树来提升模型性能，但不同于AdaBoost的是，Gradient Boosting 是通过最小化损失函数的梯度来逐步改进模型，从而减少残差。

XGBClassifier（XGBoost分类器）

• 正如之前提到的 XGBoost，是一种基于树的集成学习方法，旨在提高模型的准确性和效率。XGBClassifier 是 XGBoost 在分类任务上的实现，通过构建多个树并结合它们的预测结果来进行分类。

支持向量机回归：

• 支持向量机不仅可以用于分类，也可以用于回归。在支持向量机回归中，目标是找到一个超平面，使得数据点与该超平面的距离尽可能小，并且落在一个指定的间隔带内。支持向量机回归可以通过不同的核函数来适应各种类型的数据。

MLP神经网络回归：

• 多层感知器（MLP）神经网络是一种人工神经网络，由多个神经元层组成，每个神经元层与下一层全连接。MLP神经网络可以用于回归任务，通过前向传播和反向传播等算法来优化模型参数，使得模型能够对输入数据进行回归预测。