码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • UNet详细解读(一)论文技术要点归纳


    UNet 论文技术要点归纳

    • UNet
      • 摘要
      • 简介
      • Over-tile策略
      • 网络架构
      • 训练
      • 数据增强
      • 小结

    UNet

    摘要

    2015年诞生,获得当年的ISBI细胞追踪挑战比赛第一名,在GPU上推理512x512的图像不到1秒钟,开创图像分割的先河。

    简介

    在当时,卷积神经网络是主流,但是仅限于图像分类任务,并且需要大量的数据集。对于医学图像,数据集的量很少。

    2012年 Ciresan提出的网络虽然获得了EM的第一名,但是有缺陷,因此作者提出了UNet,解决了这些问题。并且远远超出了之前的所有分割网络。

    Over-tile策略

    请添加图片描述

    对图中黄色部分像素点进行预测的时候,需要用到蓝色部分的上下文信息,但是这么做会出现两个问题。

    1.边界问题:进行镜像扩充。

    2.重叠问题:在卷积时只使用有效部分,在卷积的时候会使用到蓝色部分,但是传入到下一层的只有黄色部分。

    网络架构

    请添加图片描述

    左侧为收缩路径,由3X3卷积、Relu、最大池化组成,每次下采样后通道数量加倍,用于获取上下文信息。

    右侧为扩展路径,由3X3卷积、Relu、2X2上采样组成,每次下采样后通道数量减半,用于精确定位。

    • 输入是572x572的,但是输出变成了388x388,这说明经过网络以后,输出的结果和原图不是完全对应的,这在计算loss和输出结果都可以得到体现.

    • 蓝色箭头代表3x3的卷积操作,并且步长是1,不进行padding,因此,每个该操作以后,featuremap的大小会减2.

    • 红色箭头代表2x2的最大池化操作.如果池化之前特征向量的大小是奇数,那么就会损失一些信息 。输入的大小最好满足一个条件,就是可以让每一层池化操作前的特征向量的大小是偶数,这样就不会损失一些信息,并且crop的时候不会产生误差.

    • 绿色箭头代表2x2的反卷积操作.何为反卷积会在后面进行记录

    • 灰色箭头表示复制和剪切操作.

    • 输出的最后一层,使用了1x1的卷积层做了分类

    • 前半部分也就是图中左边部分的作用是特征提取,后半部分也就是图中的右边部分是上采样,也叫 encoder-deconder结构

    训练

    采用SGD优化器,动量设置为0.99,使用单张图片训练,使用了加权重的softmax损失函数,使得每个像素有自己的权重,也就是做了w*h个softmax。

    请添加图片描述

    数据增强

    主要使用了旋转平移不变性、弹性形变和dropout。

    小结

    Unet是一个分割网络,主要提出了两个策略:

    第一个是overlap-tile策略,解决了边缘区域没有上下文的问题;

    第二个是使用了加权损失以使得网络更加重视边缘像素的学习。

  • 相关阅读:
    2000-2021年上市公司劳动投资效率测算数据:劳动投资效率、冗余雇佣、雇佣不足(含原始数据和计算代码do文档)
    前端代码重复度检测
    Mall脚手架总结(五) —— SpringBoot整合MinIO实现文件管理
    第八章、python中的序列、迭代器、生成器及可迭代对象------迭代器(iterator)与生成器(generator)
    python 基础语法 (常常容易漏掉)
    杰理之 DAC详细配置【篇】
    redis深度历险 千帆竞发 —— 分布式锁
    Centos7 设置时间
    【知识图谱】Louvain、LPA等5类经典社区发现算法 Python 实战
    简单剖析程序的翻译过程!
  • 原文地址:https://blog.csdn.net/qq128252/article/details/127552073
  • 最新文章
  • 沪漂五周年了:我越来越迷茫了
    Agentic Skill Routing 实战:别再把所有 Skill 塞进 AI Agent 上下文
    MySQL-Seconds_behind_master的精度误差
    [MAF预定义ChatClient中间件-03]CachingChatClient——利用缓存省钱省时间
    AI的至暗历史:从万众期待到被政府撤资,AI的两次死亡徘徊
    Agent OS :五种驯服不确定性的范式
    PortSwigger SQL注入LAB11
    数据库即时编译JIT
    [Begin]AI Learn Data Day 0
    深度学习进阶(二十七)现代 LLM 的核心架构设计其二:SwiGLU
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号