解决GPUImagePicture接一个filter再与其他视频合并时会报错的问题(message from debugger: terminated due to memory issue 或...

在使用GPUImage将图片合成到视频中时,遇到这样一个场景:图片需要旋转一定角度后在blend到视频中。

用GPUImageUIElement可以实现这个需求,但是效率很低,因为需要把UIView或者CALayer转成纹理;
比较好的做法是用GPUImageAlphaBlendFilter直接将视频和图片合并到一起。
图片直接合成到视频中是很简单的:

    movieInput = GPUImageMovie(url: videoURL)
    pictureInput = GPUImagePicture(image: image0)
    pictureInput?.processImage()

    let blendFilter = GPUImageAlphaBlendFilter()
    blendFilter.mix = 1
    movieInput?.addTarget(blendFilter)
    pictureInput?.addTarget(blendFilter)
    blendFilter.addTarget(displayView)
    movieInput?.startProcessing()

但是当GPUImagePicture后面接了一个其他的filter之后,就有问题了,理论上的写法应该是这样:

    movieInput = GPUImageMovie(url: videoURL)
    pictureInput = GPUImagePicture(image: image0)
    pictureInput?.processImage()
    let transformFilter = GPUImageTransformFilter()
    transformFilter.affineTransform = CGAffineTransform(rotationAngle: 0.5)
    pictureInput?.addTarget(transformFilter)

    let blendFilter = GPUImageAlphaBlendFilter()
    blendFilter.mix = 1
    movieInput?.addTarget(blendFilter)
    transformFilter.addTarget(blendFilter)
    blendFilter.addTarget(displayView)
    movieInput?.startProcessing()

但实际上这样写会报错,代码跑个几秒钟之后就会挂掉,控制台显示:message from debugger: terminated due to memory issue

查来查去查到了GPUImage的issue上:https://github.com/BradLarson/GPUImage/issues/1551
作者自己也说这是个bug,而且目前他自己还没想出来什么好的解决办法。。。

不过有人给出了一个可行的解决方案:即把filter链改成如下的样子(从下往上看)

     GPUImageView

           |

           |

 GPUImageHardLightBlendFilter

   |                 |

   |                 |

   |    GPUImageGaussianBlurFilter

   |                 |

   |                 |

   |     GPUImageNormalBlendFilter

   |       |                   |    

   |       |(*)                |    

   |       |                   |    

 GPUImageMovie          GPUImagePicture

我试了一下,这个方案确实是可行的,但感觉效率也比较低,因为movie和picture一开始的这一次normalBlend是完全没有必要的,只是为了代码能跑通而已;

要想比较好的解决这个问题,还是得研究GPUImage的源码!
关键就在GPUImageFilter的- (void)renderToTextureWithVertices:(const GLfloat *)vertices textureCoordinates:(const GLfloat *)textureCoordinates;方法中。
要弄看懂这个方法需要有一点OpenGL的基础,简单来说:

其输入是firstInputFrameBuffer,其输出是outputFrameBuffer,即firstInputFrameBuffer经过这个filter后变成了outputFrameBuffer;
问题的关键也就在这儿,不管filter进行了什么什么操作,或者即使filter什么也没做,firstInputFrameBuffer和outputFrameBuffer也不是同一个对象!
这就是导致GPUImagePicture后面不能接其他filter的原因,
GPUImagePicture初始化的时候,会调用[outputFramebuffer disableReferenceCounting]
所以GPUImagePicture的outputFrameBuffer在调用lock或者unlock的时候,都是直接return的,
又因为GPUImagePicture的输入是一张图片,第一次processImage之后,纹理就一直存在了,之后就不用再次处理,也不用通知它后面的filter纹理准备好了(newFrameReadyAt方法),
所以当GPUImagePicture后面接了filter之后,filter的outputFrameBuffer不是GPUImagePicture的outputFrameBuffer,而是重新创建的,它并没有调用[outputFramebuffer disableReferenceCounting]方法,它lock或者unlock的时候还是有可能会出现framebuffer overrelease error的问题。

当GPUImagePicture与其他filter进行blend的时候,GPUImagePicture一般作为blendFilter的第二个输入源,而blendFilter大部分是继承自GPUImageTwoInputFilter,
GPUImageTwoInputFilter在- (void)newFrameReadyAtTime:(CMTime)frameTime atIndex:(NSInteger)textureIndex;方法中会判断是否两个输入源都准备就绪了,如果有就开始绘制,如果没有就继续等着,
如果输入是GPUImagePicture则会跳过这个判断,直接认为输入已经准备好了,直接开始绘制,
所以GPUImagePicture直接与其他视频blend不会有问题,而接了其他filter之后,因为这个filter的outputFrameBuffer不是GPUImagePicture的output,只是个普通的frameBuffer,所以它一直都不会准备好,
所以显示会一直空白,而且绘制完调用unlock的时候,可能会报错。

总的来说,这应该算是GPUImage库的问题,不过也可以用迂回的方式解决,上面提到的方案是可以的,我还试出来另外一种方案:

    movieInput = GPUImageMovie(url: videoURL)
    pictureInput = GPUImagePicture(image: image0)
    pictureInput?.processImage()
    let transformFilter = GPUImageTransformFilter()
    transformFilter.affineTransform = CGAffineTransform(rotationAngle: 0.5)
    pictureInput?.addTarget(transformFilter)
    let progressFilter = GPUImageFilter()
    movieInput?.addTarget(progressFilter)
    progressFilter.frameProcessingCompletionBlock = { [unowned self] input, time in
        self.pictureInput?.processImage()
    }

    let blendFilter = GPUImageAlphaBlendFilter()
    blendFilter.mix = 1
    progressFilter.addTarget(blendFilter)
    transformFilter.addTarget(blendFilter)
    blendFilter.addTarget(displayView)
    movieInput?.startProcessing()

即在movieInput的后面加一个filter,这个filter什么都不用做,只需要在这个filter的frameProcessingCompletionBlock回调中冲洗调用GPUImagePicture的processImage方法即可。

注意这里GPUImageMovie虽然也有frameProcessingCompletionBlock这个属性,但是其内部并没有调用,所以才需要一个progressFilter,继承GPUImageMovie实现frameProcessingCompletionBlock这个回调应该也是可以的。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,193评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,306评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,130评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,110评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,118评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,085评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,007评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,844评论 0 273
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,283评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,508评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,667评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,395评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,985评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,630评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,797评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,653评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,553评论 2 352

推荐阅读更多精彩内容