码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 损失函数知识梳理


    提问
    定义?常见的几种损失函数?如何选择损失函数?

    参考资料
    常见的损失函数(loss function)总结
    损失函数(Loss Function)
    csdn博主基于上两篇笔记的总结

    分类方式

    基于距离度量的损失函数

    通常将输入数据映射到基于距离度量的特征空间上,如欧氏空间、汉明空间等。

    将映射后的样本看作空间上的点,采用合适的损失函数度量特征空间上样本真实值和模型预测值之间的距离。特征空间上两个点的距离越小,模型的预测性能越好。

    基于概率分布度量的损失函数

    将样本间的相似性转化为随机事件出现的可能性,即通过度量样本的真实分布与它估计的分布之间的距离,判断两者的相似度,一般用于涉及概率分布或预测类别出现的概率的应用问题中,在分类问题中尤为常用。

    交叉熵损失函数
    BCELoss 和 BCEWithLogitsLoss(二分类交叉熵损失函数)

    focal loss通俗讲解

    Mark:focal loss为什么有效,怎么解决数据不平衡问题?

    (感受到数学基础不扎实的暴击)

    Q&A

    1、我们以什么标准来设计损失函数,损失函数和学习率的关系?

    个人理解:我们希望设计的损失函数在靠近零点处的导数存在且较小,这样损失函数趋近 0 时,可以比较好的缓慢调整,从而损失函数趋于收敛变小。

    2、分类损失和回归损失有什么不同?

    3、IoU loss?

  • 相关阅读:
    仙人掌之歌——投石问路(3)
    JAVA设计模式-适配器模式
    Golang 区块链开发指南
    RSA 2048位算法的主要参数N,E,P,Q,DP,DQ,Qinv,D分别是什么意思 哪个是通常所说的公钥与私钥 -安全行业基础篇5
    OpenCV 中的轮廓-轮廓的层次结构
    如何进行LLM大模型推理优化
    计算机毕业设计Java的自助旅游导航系统(源码+系统+mysql数据库+lw文档)
    Docker基本操作
    JavaScript引用数据类型
    windows10编译高版本openssl
  • 原文地址:https://blog.csdn.net/lwqian102112/article/details/127963828
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号