iOS 视频采集

前言

AVFoundation框架是iOS中很重要的框架,所有与音视频相关的软硬件控制都在这个框架里。本文主要介绍iOS媒体捕捉和视频采集。

媒体捕捉流程

媒体捕捉(网侵删).png

简单介绍

  • AVCaptureSession:媒体捕获会话(包括音频和视频),负责把捕获的音视频数据输出到输出设备中,一个AVCaptureSession可以有多个输入输出。
    在视频或音频捕捉时,客户端可以实例AVCaptureSession,添加适当的AVCaptureInputs、AVCaptureDeviceInput和输出。
  • AVCaptureInput和AVCaptureDevice:设备输入数据管理对象,可以根据AVCaptureDevice创建对应AVCaptureDeviceInput对象,该对象将会被添加到AVCaptureSession中管理。
  • AVCaptureOutput:设备输出数据管理对象。
  • AVCaptureVideoPreviewLayer和AVSampleBufferDisplayLayer,相机拍摄预览图层,是CALayer的子类,前者创建需要AVCaptureSession对象,后者可以直接创建,添加CMSampleBufferRef进行展示。

相关代码展示

- (void)configureCamera{
    /// 参数设置
    // 默认后置摄像头
    AVCaptureDevicePosition position = AVCaptureDevicePositionBack;
    // 帧率
    int frameRate = 25;
    // 显色方案
    OSType videoFormat = kCVPixelFormatType_32BGRA;
    // 分辨率高
    int resolutionHeight = 720;
    
    /// 创建AVCaptureSession对象
    AVCaptureSession *session = [[AVCaptureSession alloc] init];
    /// 设置分辨率
    session.sessionPreset = AVCaptureSessionPreset1280x720;
    /// 获取摄像头
    AVCaptureDevice *captureDevice;
    // 默认AVCaptureDevicePositionBack,后置摄像头
    AVCaptureDeviceDiscoverySession *deviceDiscoverySession =  [AVCaptureDeviceDiscoverySession discoverySessionWithDeviceTypes:@[AVCaptureDeviceTypeBuiltInWideAngleCamera] mediaType:AVMediaTypeVideo position:position];
    NSArray *devices = deviceDiscoverySession.devices;
    for (AVCaptureDevice *device in devices) {
        if (AVCaptureDevicePositionBack == device.position) {
            captureDevice = device;
        }else if (AVCaptureDevicePositionFront == device.position){
            captureDevice = device;
        }
    }
    /// 设置帧率和分辨率高度
    BOOL isSuccess = NO;
    for(AVCaptureDeviceFormat *vFormat in [captureDevice formats]) {
        CMFormatDescriptionRef description = vFormat.formatDescription;
        float maxRate = ((AVFrameRateRange*) [vFormat.videoSupportedFrameRateRanges objectAtIndex:0]).maxFrameRate;
        if (maxRate >= frameRate && CMFormatDescriptionGetMediaSubType(description) == videoFormat) {
            if ([captureDevice lockForConfiguration:NULL] == YES) {
                // 对比镜头支持的分辨率和当前设置的分辨率
                CMVideoDimensions dims = CMVideoFormatDescriptionGetDimensions(description);
                if (dims.height == resolutionHeight && dims.width == [self.class getResolutionWidthByHeight:resolutionHeight]) {
                    [session beginConfiguration];
                    if ([captureDevice lockForConfiguration:NULL]){
                        captureDevice.activeFormat = vFormat;
                        [captureDevice setActiveVideoMinFrameDuration:CMTimeMake(1, frameRate)];
                        [captureDevice setActiveVideoMaxFrameDuration:CMTimeMake(1, frameRate)];
                        [captureDevice unlockForConfiguration];
                    }
                    [session commitConfiguration];
                    isSuccess = YES;
                }
            }else {
                NSLog(@"%s: 失败",__func__);
            }
        }
    }
    
    NSError *error;
    
    //添加输入
    AVCaptureDeviceInput *input = [AVCaptureDeviceInput deviceInputWithDevice:captureDevice error:&error];
    if (error != noErr) {
        NSLog(@"配置设备输入失败:%@",error.localizedDescription);
        return;
    }
    [session addInput:input];
    
    //添加输出
    AVCaptureVideoDataOutput *videoDataOutput = [[AVCaptureVideoDataOutput alloc] init];
    if ([session canAddOutput:videoDataOutput]) {
        [session addOutput:videoDataOutput];
    }
    videoDataOutput.videoSettings = [NSDictionary dictionaryWithObject:[NSNumber numberWithInt:videoFormat]
                                                                forKey:(id)kCVPixelBufferPixelFormatTypeKey];
    //当此属性的值为YES时,接收方将立即丢弃捕获的帧,而处理现有帧的调度队列在captureOutput:didOutputSampleBuffer:fromConnection: delegate方法中被阻塞。当此属性的值为NO时,将允许委托在丢弃新帧之前有更多的时间处理旧帧,但应用程序的内存使用量可能会显著增加。默认值为“YES”。(机翻)
    videoDataOutput.alwaysDiscardsLateVideoFrames = NO;
    
    //创建一个队列接收数据
    dispatch_queue_t videoQueue = dispatch_queue_create("video_receive_queue", NULL);
    [videoDataOutput setSampleBufferDelegate:self queue:videoQueue];
    
    //创建接收对象
    AVCaptureVideoPreviewLayer *videoPreviewLayer = [[AVCaptureVideoPreviewLayer alloc] initWithSession:session];
    videoPreviewLayer.backgroundColor = [[UIColor blackColor] CGColor];
    CGRect frame = [videoPreviewLayer bounds];
    NSLog(@"previewViewLayer = %@",NSStringFromCGRect(frame));
    
    //设置尺寸和填充方式
    [videoPreviewLayer setFrame:[UIScreen mainScreen].bounds];
    [videoPreviewLayer setVideoGravity:AVLayerVideoGravityResizeAspect];
    
    if ([[videoPreviewLayer connection] isVideoOrientationSupported]) {
        [videoPreviewLayer.connection setVideoOrientation:AVCaptureVideoOrientationPortrait];
    }else{
        NSLog(@"不支持视频定向");
    }
    
    //需要在哪个view上展示
    UIView *showView = [[UIView alloc] init];
    [showView.layer insertSublayer:videoPreviewLayer atIndex:0];
    
}
//采集视频的回调,如果需要编码H264/H265,在这里操作
- (void)captureOutput:(AVCaptureOutput *)output didOutputSampleBuffer:(CMSampleBufferRef)sampleBuffer fromConnection:(AVCaptureConnection *)connection{
    /*
    //另一种展示方式
    AVSampleBufferDisplayLayer *previewLayer = [AVSampleBufferDisplayLayer layer];
    previewLayer.videoGravity =  AVLayerVideoGravityResizeAspectFill;
    [previewLayer enqueueSampleBuffer:sampleBuffer];
    //需要在哪个view上展示
    UIView *showView = [[UIView alloc] init];
    [showView.layer insertSublayer:previewLayer atIndex:0];
     */
}
///需要考虑横竖屏情况,这里暂未考虑
+ (int)getResolutionWidthByHeight:(int)height {
    switch (height) {
        case 2160:
            return 3840;
        case 1080:
            return 1920;
        case 720:
            return 1280;
        case 480:
            return 640;
        default:
            return -1;
    }
}

Tips:配置采集之前,记得申请摄像头权限,如果没有权限,需要自己做判断,这里省略。
Demo地址整理后奉上。
有其他不明白的,可以留言,看到就会回复。
如果喜欢,请帮忙点赞。支持转载,转载请附原文链接。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 196,540评论 5 462
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 82,640评论 2 374
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 143,643评论 0 326
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,672评论 1 267
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,525评论 5 358
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,387评论 1 275
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,809评论 3 387
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,450评论 0 255
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,743评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,787评论 2 314
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,560评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,406评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,824评论 3 300
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,048评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,335评论 1 253
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,784评论 2 342
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,997评论 2 337

推荐阅读更多精彩内容

  • 概述 音视频采集包括两部分:视频采集音频采集 在iOS开发中,是可以同步采集视频&音频的,使用方式也非常简单 相关...
    CoreCoder阅读 576评论 0 0
  • 前言 在直播和短视频行业日益火热的发展形势下,音视频开发(采集、编解码、传输、播放、美颜)等技术也随之成为开发者们...
    G_Jayson阅读 1,318评论 1 1
  • 前言 在直播和短视频行业日益火热的发展形势下,音视频开发(采集、编解码、传输、播放、美颜)等技术也随之成为开发者们...
    iOS亮子阅读 819评论 0 7
  • 概述 在直播应用中,视频的采集一般都是用AVFoundation框架,因为利用它我们能定制采集视频的参数;也能做切...
    iosmedia阅读 5,653评论 0 3
  • 概述 音视频采集是直播架构的第一环,是视频的来源其实视频的采集有多个应用场景:比如二维码开发 音视频采集包括两部分...
    黄晓坚阅读 510评论 1 0