• iOS CVPixelBufferCreate 创建 CVPixelBufferRef 时屏幕拉伸或像素偏移(花屏)


    先说结论:

         CVPixelBufferCreate 创建的 CVPixelBufferRef 可能由以下的原因导致的:

    1.pixelFormatType 格式错误,换一下格式尝试

    2.width和height 非 32 的整数倍

    3.视频帧的宽高比非标准比例(4:3,16:9,1:1)

    另外说明,我没找到比较有权威的对应文档和教程,上面是我通过测试得出的结论,如果有错误,还请批评指正

    一、pixelFormatType 格式错误 

    kCVPixelFormatType_420YpCbCr8BiPlanarVideoRange 是nv12 的格式 yyyyuvuv

    kCVPixelFormatType_420YpCbCr8Planar 是i420的格式 yyyyuuvv

    需要注意的是,并不是每一个枚举值在iOS上都是支持的,可能存在不支持的情况

    二、width和height 非 32 的整数倍

    1. CVReturn result = CVPixelBufferCreate(kCFAllocatorDefault,
    2. 1920,
    3. 1080,
    4. kCVPixelFormatType_420YpCbCr8BiPlanarVideoRange, // NV12
    5. (__bridge CFDictionaryRef)(pixelAttributes),
    6. &pixelBuffer);

    像素的存储格式通常是一行一行存储的,当宽度为了实现32的整数倍做出调整时,从帧数据复制的时候,就要在多出的那部分做对应的填充。缩小也是一样的,要去放弃多余的数据

    比如原视频是 宽4 高4的视频,你调成宽8高8的时候

    yyyy                        yyyyyyyy (后面四个y是自己填充的)

    yyyy                        yyyyyyyy (后面四个y是自己填充的)

    uuuu     ->>             uuuuuuuu (后面四个u是自己填充的)

    vvvv                        vvvvvvvv (后面四个v是自己填充的)

    例子可能不太恰当,但是意思比较清楚的。后面会有代码举例

    三、视频帧的宽高比非标准比例(4:3,16:9,1:1)

    这个解决办法和上一条是一样的,去调整宽高,来实现比例的要求。

    例子:

    1. //例子是 I420 数据转成 NV12 的 CVPixelBufferRef
    2. //width 原视频的宽
    3. //height 原视频的高
    4. //buffer NSData 类型的原视频的帧数据。格式为I420
    5. NSDictionary *pixelAttributes = @{(NSString *)kCVPixelBufferIOSurfacePropertiesKey:@{}};
    6. //调整后的width
    7. int inner_width = 0;
    8. //调整后的height
    9. int inner_height = 0;
    10. //视频比例不是 16:9 , 4:3 , 1:1 ,宽高不是32的整数倍时,将宽高统一调整为1920和1080.
    11. //因为项目要求,所有视频都不会比1920x1080大,故这里只是放大,无需缩小
    12. if (width*1.0 / height*1.0 != 16.0/9 || width*1.0 / height*1.0 != 1.0 || width*1.0 / height*1.0 != 4.0/3 || width%32 != 0 || height%32 != 0 ) {
    13. inner_width = 1920;
    14. inner_height = 1080;
    15. }else{
    16. inner_width = width;
    17. inner_height = height;
    18. }
    19. CVPixelBufferRef pixelBuffer = NULL;
    20. CVReturn result = CVPixelBufferCreate(kCFAllocatorDefault,
    21. inner_width,
    22. inner_height,
    23. kCVPixelFormatType_420YpCbCr8BiPlanarVideoRange, // NV12
    24. (__bridge CFDictionaryRef)(pixelAttributes),
    25. &pixelBuffer);
    26. if (result != kCVReturnSuccess) {
    27. //CVPixelBufferRef 初始化失败
    28. NSLog(@"Unable to create cvpixelbuffer %d", result);
    29. }
    30. // 复制 buffer.bytes 数据
    31. uint8_t* pdata = (uint8_t*)buffer.bytes;
    32. CVPixelBufferLockBaseAddress(pixelBuffer, 0);
    33. // Y 数据填充
    34. unsigned char *yDestPlane = (unsigned char *)CVPixelBufferGetBaseAddressOfPlane(pixelBuffer, 0);
    35. for (int i = 0, k = 0; i < inner_height; i++) {
    36. for (int j = 0; j< inner_width; j++) {
    37. if (inner_width > width && j >= width) {
    38. // 扩大的那部分 width 用该行最后一个像素填充
    39. if (i >= height) {
    40. // 高度大于视频的实际高度,说明该行没有帧数据,则用实际视频帧的最后一行最后一个像素填充
    41. yDestPlane[k++] = pdata[height*width];
    42. continue;
    43. }
    44. yDestPlane[k++] = pdata[i*width + width];
    45. continue;
    46. }
    47. if (inner_height > height && i >= height) {
    48. // 高度大于视频的实际高度,说明改行没有帧数据,则用实际视频帧的最后一行最后一个像素填充
    49. yDestPlane[k++] = pdata[height * width];
    50. continue;
    51. }
    52. yDestPlane[k++] = pdata[i*width + j];
    53. }
    54. }
    55. // UV 数据填充
    56. unsigned char *uvDestPlane = (unsigned char *)CVPixelBufferGetBaseAddressOfPlane(pixelBuffer, 1);
    57. for (int i = 0, k = 0; i < inner_height / 2; i++) {
    58. for (int j = 0; j< inner_width / 2; j ++) {
    59. if (inner_width > width && j >= width/2) {
    60. if (i > height/2) {
    61. // 高度大于视频的实际高度,说明改行没有帧数据,则用实际视频帧的最后一行最后一个像素填充
    62. uvDestPlane[k++] = pdata[height *width/4 + width * height];
    63. uvDestPlane[k++] = pdata[height *width/4 + width * height * 5 / 4];
    64. }else{
    65. // 高度不高于视频的实际高度,说明改行有帧数据,则用实际视频帧的该行最后一个像素填充
    66. uvDestPlane[k++] = pdata[i *width/2 + width/2 + width * height];
    67. uvDestPlane[k++] = pdata[i *width/2 + width/2 + width * height * 5 / 4];
    68. }
    69. continue;
    70. }
    71. if (inner_height > height && i >= height/2) {
    72. // 高度大于视频的实际高度,说明改行没有帧数据,则用实际视频帧的最后一行最后一个像素填充
    73. uvDestPlane[k++] = pdata[height *width/4 + width * height];
    74. uvDestPlane[k++] = pdata[height *width/4 + width * height * 5 / 4];
    75. continue;
    76. }
    77. // 高度不高于视频的实际高度,说明改行有帧数据,则用实际视频帧像素填充
    78. uvDestPlane[k++] = pdata[i *width/2 + j + width * height];
    79. uvDestPlane[k++] = pdata[i *width/2 + j + width * height * 5 / 4];
    80. }
    81. }
    82. CVPixelBufferUnlockBaseAddress(pixelBuffer, 0);
    83. //pixelBuffer 构造完成,用于后续使用

  • 相关阅读:
    C++基础教程(转载)
    【vue基础】黑马vue视频笔记(五)
    【Vue】Vue对接SpringBoot接口完整代码
    s域和z域的频域响应分析
    西部是真的地广人稀啊,常用地市东西分布差异明显
    Linux下自动删除过期备份和自动异地备份的脚本
    校园报修维修小程序,微信小程序报修系统,微信小程序宿舍报修系统毕设作品
    clickhouse的另类表引擎
    AI智能识别如何助力PDF,轻松实现文档处理?
    交易方法论
  • 原文地址:https://blog.csdn.net/qq_36924305/article/details/136400401