• 深度学习准召


    准确率(Precision)和召回率(Recall)是两个用来评价一个模型的好坏的指标,它们有不同的意义:

    准确率(Precision):准确率是在所有被模型判断为正例的样本中,有多少是真正的正例。换句话说,它测量了模型的精度,即模型做出的正预测有多少是正确的。

    大白话:准确率告诉我们,当模型说某个样本是正例时,有多大概率它真的是正例。高准确率表示模型很少会错误地把负例错分成正例,但它可能会漏掉一些真正的正例
    召回率(Recall):召回率是在所有真正的正例中,有多少被模型成功地找出来。它衡量了模型的查全率,即模型有多大概率找到了所有的正例

    大白话:召回率告诉我们,模型有多大概率找出了所有的正例,不漏掉任何一个。高召回率表示模型很少会漏掉真正的正例,但它可能会把一些负例误认为正例
    这两个指标通常存在权衡关系,提高准确率可能会降低召回率,反之亦然。具体应用取决于任务的性质和需求:

    当需要确保不错过任何一个正例且可以容忍一些误报时,重点关注召回率。
    当需要确保模型的正预测尽可能准确时,重点关注准确率。
    不同的应用中,可以根据具体情况来选择合适的指标,并根据需求调整模型,以取得最合适的平衡。

    昇腾小知识:

    (国产化需求)

    AscendSpeed

    AscendSpeed是一个开源的分布式训练加速库,用于在昇腾芯片上开发大模型。它提供了一些优化特性,可以帮助开发者在昇腾上迁移模型或进行开发,以获得更好的性能。目前,AscendSpeed已经支持了LLaMA2、Baichuan、Bloom等主流大模型,并且已经正式开源。

    此外,AscendSpeed还通过Adapter方式支持Pytorch框架,开发者只需要下载社区版本的Pytorch和对应版本的Torch-NPU,即可在昇腾上进行模型开发。这样,开发者可以直接在PyTorch 2.1上基于昇腾进行模型开发。

    需要注意的是,AscendSpeed主要用于在昇腾芯片上开发大模型,并提供了一些优化特性,以获得更好的性能。它与DeepSpeed和Megatron-LM等分布式加速库有一些相似之处,但也有一些区别。如果开发者不想改动训练脚本,仍然想使用DeepSpeed和Megatron-LM,也是可以支持的,但需要通过Adapter的方式进行支持。

    AscendIE

    AscendIE是华为公司开发的一种深度学习推理引擎,用于在华为昇腾芯片上进行高效的模型推理。与TensorRT和OpenVINO类似,AscendIE旨在优化深度学习模型的推理性能,提高模型在昇腾芯片上的运行效率。

    TensorRT是由NVIDIA开发的推理引擎,专门用于优化和加速深度学习模型的推理过程。它通过网络层融合、精度校准和动态图优化等技术,提供了高性能和低延迟的推理能力,适用于在NVIDIA GPU上进行模型推理。

    OpenVINO是英特尔开发的一套深度学习推理工具库,旨在优化和加速深度学习模型的推理过程。它支持多种硬件平台,包括英特尔的CPU、集成显卡、神经计算棒等,提供了高性能和低功耗的推理能力。

    与TensorRT和OpenVINO类似,AscendIE也是一种专门用于优化和加速深度学习模型推理的引擎。它针对华为昇腾芯片进行了优化,提供了高性能和低功耗的推理能力。通过使用AscendIE,开发者可以在昇腾芯片上获得更好的模型推理性能和效率。

    需要注意的是,TensorRT、OpenVINO和AscendIE都是针对特定硬件平台进行优化的推理引擎。它们在优化技术、支持的硬件平台和开发者工具等方面可能有所不同。开发者在选择推理引擎时,应根据自己的硬件平台和需求进行评估和选择。

  • 相关阅读:
    性能测试工具 - LoadRunner
    Solana NFT开发指南
    Java进阶03 IO基础
    Flutter自定义对话框返回相关问题汇总
    《Java编程思想》读书笔记(四)
    大数据毕业设计Python+Spark知识图谱高考志愿推荐系统 高考数据分析 高考可视化 高考大数据 计算机毕业设计 机器学习 深度学习 人工智能
    【重识云原生】第四章云网络4.7.2节——virtio网络半虚拟化简介
    [博客园首发] 写连载博客,历时1410天出版书籍《物联网软件架构设计与实现》
    基于Java+SpringBoot+Vue前后端分离教学资源共享平台系统
    LeetCode 36
  • 原文地址:https://blog.csdn.net/weixin_44659309/article/details/134327134