码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • unicode/utf8/utf16/utf32笔记


    unicode表示的字符范围是0x0000~0x10FFFF,最多只需要有21位,但是为了字节对齐,所以最多需要32位(4字节)
    utf8/utf16/utf32都是表示unicode的一种编码方式。

    utf8和utf16是变长编码,utf32不变长。utf-8编码长度为1,2,3或4字节,utf16编码长度为2或4字节,utf32编码长度恒4字节

    utf8

    单字节编码的情况:
    字节最高位以0开头,剩下7位表示字符。字符范围0x00~0x7F (0-127)

    双字节编码的情况:
    首字节以110开头,第二个字节以10开头,剩下的11位表示字符。字符范围128~2047

    三字节编码的情况:
    首字节以1110开头,第二第三字节都以10开头,剩下16位表示字符。字符范围2048~65535

    四字节编码的情况:
    首字节以11110开头,第二第三第四字节都以10开头,剩下的21位表示字符。字符范围65536~2097151

    utf16

    最少2字节,所以无法兼容ASCILL

    思路:unicode码在0-0xFFFF的可以直接用2字节表示够了。但是因为unicode范围是0-0x10FFFF,所以大于0xFFFF的部分再用2字节就不够了(共有0x100000个,需要用20位数字),这部分考虑用4字节,前2字节和后2字节各用10位

    双字节编码的情况:
    双字节表示的值就等于unicode字符码值,即表示字符0-0xFFFF(0-65535)

    四字节编码情况:
    高2字节:1101 10xx | xxxx xxxx,编码后值区间就是D800~DBFF
    低2字节:1101 11xx | xxxx xxxx,编码后值区间就是DC00~DFFF
    字符范围65536-2097151
    eg: 四个字节 DB 00 DC 00 就表示unicode值=65536的字符

    utf32

    简单粗暴,直接用4个字节表示unicode码值。直接存储Unicode编号。无需经过字符编号向字符编码的转换步骤,提高效率,用空间换时间。

    utf8对比utf16

    在这里插入图片描述

  • 相关阅读:
    UniApp 自定义条件编译详细使用流程
    MySQL之事务和redo日志
    【前端之旅】响应式布局及Bootstrap框架
    【推荐系统】wide&deep模型、NeuralCF模型 笔记
    九.Redis 集群(cluster 模式)
    【Linux】使用pip3安装pexpect,解决报错:the ssl module in Python is not available
    a标签的下载
    UE5物体高亮显示(蓝图版)
    解决风控模型的过拟合与算法高效求解,来试试这种经典解决方法
    Linux定时任务调度
  • 原文地址:https://blog.csdn.net/weixin_42341040/article/details/133498841
  • 最新文章
  • 【JVM】编译执行与解释执行的区别是什么?JVM 使用哪种方式?
    用 Hashids 优雅解决 C 端自增 ID 暴露问题
    V8引擎 精品漫游指南--Ignition篇(上) 指令 栈帧 槽位 调用约定 内存布局 基础内容
    LLVM Pass快速入门(四):代码插桩
    milkup:桌面端 markdown AI续写和即时渲染
    基于项目工程构建SBOM(软件物料清单)的研究
    鸿蒙应用开发UI基础第二节:鸿蒙应用程序框架核心解析与实操
    .NET 中如何快速实现 List 集合去重?
    扣子Coze实战:从0到1打造抖音+小红书热点监控智能体
    浅谈数据访问层
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号