码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • unicode/utf8/utf16/utf32笔记


    unicode表示的字符范围是0x0000~0x10FFFF,最多只需要有21位,但是为了字节对齐,所以最多需要32位(4字节)
    utf8/utf16/utf32都是表示unicode的一种编码方式。

    utf8和utf16是变长编码,utf32不变长。utf-8编码长度为1,2,3或4字节,utf16编码长度为2或4字节,utf32编码长度恒4字节

    utf8

    单字节编码的情况:
    字节最高位以0开头,剩下7位表示字符。字符范围0x00~0x7F (0-127)

    双字节编码的情况:
    首字节以110开头,第二个字节以10开头,剩下的11位表示字符。字符范围128~2047

    三字节编码的情况:
    首字节以1110开头,第二第三字节都以10开头,剩下16位表示字符。字符范围2048~65535

    四字节编码的情况:
    首字节以11110开头,第二第三第四字节都以10开头,剩下的21位表示字符。字符范围65536~2097151

    utf16

    最少2字节,所以无法兼容ASCILL

    思路:unicode码在0-0xFFFF的可以直接用2字节表示够了。但是因为unicode范围是0-0x10FFFF,所以大于0xFFFF的部分再用2字节就不够了(共有0x100000个,需要用20位数字),这部分考虑用4字节,前2字节和后2字节各用10位

    双字节编码的情况:
    双字节表示的值就等于unicode字符码值,即表示字符0-0xFFFF(0-65535)

    四字节编码情况:
    高2字节:1101 10xx | xxxx xxxx,编码后值区间就是D800~DBFF
    低2字节:1101 11xx | xxxx xxxx,编码后值区间就是DC00~DFFF
    字符范围65536-2097151
    eg: 四个字节 DB 00 DC 00 就表示unicode值=65536的字符

    utf32

    简单粗暴,直接用4个字节表示unicode码值。直接存储Unicode编号。无需经过字符编号向字符编码的转换步骤,提高效率,用空间换时间。

    utf8对比utf16

    在这里插入图片描述

  • 相关阅读:
    【校招VIP】产品职位理解之专业名词
    多目标优化算法:基于非支配排序的蜣螂优化算法(Non-Dominated Sorting Dung beetle optimizer,NSDBO)
    百度智能云专有云多云管理平台解决方案荣获《可信云多云管理平台解决方案》权威认证
    动态规划算法学习二:最长公共子序列
    HTML+CSS个人静态网页设计
    Python 人工智能编程指南:基础、库和工具大全解析
    CAS虚拟化平台Linux虚拟机安装vGPU显卡驱动并获取许可
    oracle报错 ORA-02290: 违反检查约束条件问题
    Kubernetes v1.25 源码编译
    大数据技术生态介绍
  • 原文地址:https://blog.csdn.net/weixin_42341040/article/details/133498841
  • 最新文章
  • 沪漂五周年了:我越来越迷茫了
    Agentic Skill Routing 实战:别再把所有 Skill 塞进 AI Agent 上下文
    MySQL-Seconds_behind_master的精度误差
    [MAF预定义ChatClient中间件-03]CachingChatClient——利用缓存省钱省时间
    AI的至暗历史:从万众期待到被政府撤资,AI的两次死亡徘徊
    Agent OS :五种驯服不确定性的范式
    PortSwigger SQL注入LAB11
    数据库即时编译JIT
    [Begin]AI Learn Data Day 0
    深度学习进阶(二十七)现代 LLM 的核心架构设计其二:SwiGLU
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
小工具 小游戏
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1

京公网安备 11010502049817号