码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 【机器学习】采用 EM 算法求解的模型有哪些,为什么不用牛顿法或梯度下降法?(面试回答)


    采用 EM 算法求解的模型有哪些,为什么不用牛顿法或梯度下降法?

    (1)概念

    EM算法称为期望最大化算法,分为两步,求期望和求极大值。

    (2)基本思想

    首先根据己经给出的观测数据,估计出模型参数的值;然后再依据上一步估计出的参数值估计缺失数据的值,再根据估计出的缺失数据加上之前己经观测到的数据重新再对参数值进行估计,然后反复迭代,直至最后收敛,迭代结束。

    EM的求解原理:在求解一个含有隐变量的概率模型时,目标是极大化观测数据关于参数的对数似然,而其中极大化的主要困难是还有未观测数据并有包含和的对数。EM算法就是通过迭代,不断求解下界极大化,而逐步求解对数似然函数极大化。

    (3)应用

    高斯混合模型(GMM)、k-means聚类、隐式马尔科夫算法(HMM)、LDA主题模型的变分推断

    (4)不用牛顿法和梯度下降法的原因

    由于求和的项数随着隐变量的数目指数上升,会给梯度计算带来麻烦.EM算法是一种非梯度化优化算法.

  • 相关阅读:
    “山大地纬杯”第十二届山东省ICPC大学生程序设计竞赛
    基于单片机的智能水位监控识别系统设计
    postgresql 之 数据目录内部结构 简介
    Spring Boot对接RocketMQ示例
    QPS\TPS指的是什么?怎样测试一个接口得QPS
    102.二叉树的层序遍历
    字符串题目
    【操作系统】调度算法的评价指标和三种调度算法
    springboot结合@Validated全局异常捕捉
    LeaRun.Java快速开发平台 高效代码自动化生成
  • 原文地址:https://blog.csdn.net/weixin_43935696/article/details/126372395
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号