从方法到目标了解什么是机器学习？

一、什么是机器学习

1、简述

        机器学习是 人工智能（AI） 和计算机科学的一个分支，专注于利用数据和算法来模仿人类的学习方式，逐步提高其准确性。过去几十年来，存储和处理能力方面的技术进步催生了一些基于机器学习的创新产品，例如 Netflix 的推荐引擎和自动驾驶汽车。 机器学习是不断发展的数据科学领域的重要组成部分。通过使用统计方法，训练算法进行分类或预测，并揭示数据挖掘项目中的关键见解。这些见解随后推动应用程序和业务内的决策制定，理想情况下会影响关键增长指标。随着大数据的不断扩大和增长，市场对数据科学家的需求将会增加。他们将需要帮助识别最相关的业务问题以及回答这些问题的数据。

2、机器学习、深度学习、神经网络

        由于深度学习和机器学习往往可以互换使用，因此值得注意两者之间的细微差别。机器学习、深度学习和神经网络都是人工智能的子领域。然而，神经网络实际上是机器学习的一个子领域，而深度学习是神经网络的一个子领域。

        深度学习和机器学习的不同之处在于每种算法的学习方式。“深度”机器学习可以使用标记数据集（也称为监督学习）来通知其算法，但它不一定需要标记数据集。深度学习可以摄取原始形式的非结构化数据（例如文本或图像），并且可以自动确定区分不同类别数据的一组特征。这消除了一些所需的人为干预，并允许使用更大的数据集。正如麻省理工学院讲座中指出的那样，您可以将深度学习视为“可扩展的机器学习” 。

        经典的或“非深度”的机器学习更依赖于人类干预来学习。人类专家确定一组特征来理解数据输入之间的差异，通常需要更结构化的数据来学习。

        神经网络或人工神经网络 (ANN) 由节点层组成，其中包含输入层、一个或多个隐藏层和输出层。每个节点或人工神经元都连接到另一个节点，并具有相关的权重和阈值。如果任何单个节点的输出高于指定的阈值，则该节点将被激活，将数据发送到网络的下一层。否则，该节点不会将数据传递到网络的下一层。深度学习中的“深度”只是指神经网络的层数。由三层以上组成的神经网络（包含输入和输出）可以被视为深度学习算法或深度神经网络。只有三层的神经网络只是一个基本的神经网络。

        深度学习和神经网络被认为加速了计算机视觉、自然语言处理和语音识别等领域的进步。

3、机器学习的工作原理

        通常机器学习算法的学习系统分为三个主要部分。

1. 决策过程：通常，机器学习算法用于进行预测或分类。根据一些可以标记或未标记的输入数据，您的算法将生成有关数据中模式的估计。
2. 误差函数：误差函数评估模型的预测。如果有已知的例子，误差函数可以进行比较，以评估模型的准确性。
3. 模型优化过程：如果模型可以更好地拟合训练集中的数据点，则调整权重以减少已知示例与模型估计之间的差异。该算法将重复这个“评估和优化”过程，自主更新权重，直到达到准确度阈值。  

二、机器学习方法

        机器学习模型分为三个主要类别。

1、监督机器学习        

        监督学习，也称为监督机器学习，是通过使用标记数据集来训练算法来准确分类数据或预测结果来定义的。当输入数据输入模型时，模型会调整其权重，直到适当拟合为止。这是交叉验证过程的一部分，以确保模型避免 过度拟合 或 拟合不足。监督学习可帮助组织大规模解决各种现实问题，例如将垃圾邮件分类到与收件箱不同的文件夹中。监督学习中使用的一些方法包括神经网络、朴素贝叶斯、线性回归、逻辑回归、随机森林和支持向量机 (SVM)。

2、无监督机器学习

        无监督学习，也称为无监督机器学习，使用机器学习算法来分析和聚类未标记的数据集。这些算法无需人工干预即可发现隐藏的模式或数据分组。该方法能够发现信息的相似性和差异性，使其成为探索性数据分析、交叉销售策略、客户细分以及图像和模式识别的理想选择。它还用于通过降维过程减少模型中的特征数量。主成分分析 (PCA) 和奇异值分解 (SVD) 是两种常见的方法。无监督学习中使用的其他算法包括神经网络、k 均值聚类和概率聚类方法。

3、半监督学习

        半监督学习提供了监督学习和无监督学习之间的良好媒介。在训练过程中，它使用较小的标记数据集来指导从较大的未标记数据集中进行分类和特征提取。半监督学习可以解决监督学习算法没有足够标记数据的问题。如果标记足够数据的成本太高，它也会有所帮助。

4、强化机器学习

        强化机器学习是一种类似于监督学习的机器学习模型，但算法不是使用样本数据进行训练的。该模型通过反复试验来学习。一系列成功的结果将得到加强，以针对特定问题制定最佳建议或政策。

三、常见机器学习算法

        常用的机器学习算法有很多。

        下面列举了部分算法：

• 神经网络： 神经网络模拟人脑的工作方式，具有大量链接的处理节点。神经网络擅长识别模式，在自然语言翻译、图像识别、语音识别和图像创建等应用中发挥着重要作用。

• 线性回归： 该算法用于根据不同值之间的线性关系来预测数值。例如，该技术可用于根据该地区的历史数据预测房价。

• 逻辑回归： 这种监督学习算法对分类响应变量进行预测，例如问题的“是/否”答案。它可用于垃圾邮件分类和生产线上的质量控制等应用。

• 聚类算法： 使用无监督学习，聚类算法可以识别数据中的模式，以便对其进行分组。计算机可以通过识别人类忽略的数据项之间的差异来帮助数据科学家。时至今日已经发展出来若干聚类算法。机器学习笔记 - 机器学习中的聚类算法_分区聚类_坐望云起的博客-CSDN博客实质上是机器学习中的一种无监督学习方法。并不需要我们对数据进行标记。通常，它被用作在一组示例中找到有意义的结构、解释性基础过程、生成特征、进行分组的等。聚类是将总体或数据点划分为多个组的任务，以使同一组中的数据点与同一组中的其他数据点更相近。标胶流行的聚类算法：K-Means 算法、Mean-shift算法、DBSCAN 算法、OPTICS算法、高斯混合模型、凝聚层次算法、Affinity Propagation等等_分区聚类https://skydance.blog.csdn.net/article/details/123568556
• 决策树： 决策树可用于预测数值（回归）和将数据分类。决策树使用可以用树图表示的链接决策的分支序列。决策树的优点之一是它们易于验证和审计，与神经网络的黑匣子不同。机器学习笔记 - 决策树是如何工作的_决策树是怎么工作的_坐望云起的博客-CSDN博客我们经常使用决策树处理分类问题，近来的调查表明决策树也是最经常使用的数据挖掘算法。 它之所以如此流行，一个很重要的原因就是不需要了解机器学习的知识，就能搞明白决策树是如何工作的。 如果你以前没有接触过决策树，完全不用担心，它的概念非常简单。即使不知道它也可以通 过简单的图形了解其工作原理，图3-1所示的流程图就是一个决策树，长方形代表判断模块 （decision block），椭圆形代表终止模块（terminating block），表示已经得出结论，可以终止运行。 从判断模块引出的左右箭头称作分支..._决策树是怎么工作的https://skydance.blog.csdn.net/article/details/109591030
• 随机森林： 在随机森林中，机器学习算法通过组合多个决策树的结果来预测值或类别。
• KNN：K-NearestNeighbor分类算法是数据挖掘分类技术中最简单的方法之一。
• 朴素贝叶斯分类器：朴素贝叶斯分类器是基于贝叶斯定理的分类算法的集合。它不是单一算法，而是一系列算法，所有算法都有一个共同的原则，即每对被分类的特征都是相互独立的。

机器学习笔记 - 学习朴素贝叶斯概念及应用_朴素贝叶斯模型应用_坐望云起的博客-CSDN博客贝叶斯分类算法是一大类分类算法的总称；贝叶斯分类算法以样本可能属于某类的概率来作为分类依据；朴素贝叶斯分类算法是贝叶斯分类算法中最简单的一种。朴素的意思是条件概率独立性。朴素贝叶斯方法是一组监督学习算法，基于贝叶斯定理，并在给定类变量值的情况下，每对特征之间的条件独立性的“朴素”假设。尽管它们的假设显然过分简化，但朴素的贝叶斯分类器在许多实际情况下（在著名的文档分类和垃圾邮件过滤中）都表现良好。他们需要少量的训练数据来估计必要的参数。另一方面也是由于过于..._朴素贝叶斯模型应用https://skydance.blog.csdn.net/article/details/111020448

• 支持向量机：SVM 是一种强大的监督算法，最适合较小的数据集，但也适用于复杂的数据集。支持向量机（Support Vector Machine，缩写为 SVM）既可用于回归任务，也可用于分类任务，但一般来说，它们在分类问题上效果最好。

机器学习笔记 - 支持向量机(SVM)_svm分类器训练详细步骤_坐望云起的博客-CSDN博客支持向量机（Support Vector Machine，SVM）是一个功能强大并且全面的机器学习模型，它能够执行线性或非线性分类、回归，甚至是异常值检测任务。它是机器学习领域最受欢迎的模型之一，任何对机器学习感兴趣的人都应该在工具箱中配备一个。SVM特别适用于中小型复杂数据集的分类。通常SVM用于二元分类问题，对于多元分类可将其分解为多个二元分类问题，再进行分类，主要的应用场景有图像分类、文本分类、面部识别、垃圾邮件检测等领域。_svm分类器训练详细步骤https://blog.csdn.net/bashendixie5/article/details/123221239

四、机器学习三大任务

1、分类

        二元分类，一种监督机器学习任务，用于预测数据实例属于两个类（类别）中的哪一个。分类算法的输入是一组带标签的示例，其中每个标签都是 0 或 1 的整数。

        二元分类示例场景包括：

        决定是否将电子邮件标记为“垃圾邮件”。

        确定照片是否包含特定物品，例如狗或水果。

        ......

        多类分类，一种监督机器学习任务，用于预测数据实例的类别（类别）。分类算法的输入是一组带标签的示例。

        多类分类场景的示例包括：

        将航班分类为“早”、“准时”或“晚点”。

        将电影评论理解为“正面”、“中立”或“负面”。

        将酒店评论分类为“位置”、“价格”、“清洁度”等。

        ......

2、回归

        一种监督机器学习任务，用于根据一组相关特征预测标签的值。标签可以是任何实际值，而不是像分类任务中那样来自有限的值集。回归算法对标签对其相关特征的依赖性进行建模，以确定标签如何随着特征值的变化而变化。回归算法的输入是一组带有已知值标签的示例。回归算法的输出是一个函数，您可以使用它来预测任何新输入特征集的标签值。

        回归场景的示例包括：

        根据房屋属性（例如卧室数量、位置或大小）预测房价。

        根据历史数据和当前市场趋势预测未来股票价格。

        根据广告预算预测产品的销量。

        预测下期彩票的中奖号码，当然这个不靠谱。

        ......

3、聚类

        一种无监督机器学习任务，用于将数据实例分组为包含相似特征的集群。聚类还可用于识别数据集中的关系，而您可能无法通过浏览或简单观察从逻辑上推导出这些关系。聚类算法的输入和输出取决于所选的方法。您可以采用分布、质心、连通性或基于密度的方法。ML.NET 目前支持使用 K-Means 聚类的基于质心的方法。

        聚类的场景的示例包括：

        根据酒店选择的习惯和特点了解酒店客人的细分。

        确定客户群和人口统计数据，以帮助开展有针对性的广告活动。

        根据制造指标对库存进行分类。

        ......