视频直播架构

一、视频推流端(SDK软件工具)

    1.用户视频采集

         AVFoundation架构:是用来播放和创建实时的视听媒体数据的框架,同时提供Objective-C接口来操作这些视听数据,比如编辑,旋转,重编码。

   2. 视频处理框架 

        GPUImage架构:是一个基于OpenGL ES的一个强大的图像/视频处理框架,封装好了各种滤镜同时也可以编写自定义的滤镜,其本身内置了多达120多种常见的滤镜效果。

   3.视频编码解码

    FFmpeg架构:是一个跨平台的开源视频框架,能实现如视频编码,解码,转码,串流,播放等丰富的功能。其支持的视频格式以及播放协议非常丰富,几乎包含了所有音视频编解码、封装格式以及播放协议。

      X264架构:把视频原数据YUV编码压缩成H.264格式。

  4.视频封装格式

   TS : 一种流媒体封装格式,流媒体封装有一个好处,就是不需要加载索引再播放,大大减少了首次载入的延迟,如果片子比较长,mp4文件的索引相当大,影响用户体验为什么要用TS:这是因为两个TS片段可以无缝拼接,播放器能连续播放。

 FLV: 一种流媒体封装格式,由于它形成的文件极小、加载速度极快,使得网络观看视频文件成为可能,因此FLV格式成为了当今主流视频格式。

5.视频推流

 Librtmp:用来传输RTMP协议格式的数据。

RTMP:实时消息传输协议,Adobe Systems公司为Flash播放器和服务器之间音频、视频和数据传输开发的开放协议。

 二、服务器架构

 1.数据分发(CDN)

 CDN:(Content Delivery Network),即内容分发网络,将网站的内容发布到最接近用户的网络”边缘”,使用户可以就近取得所需的内容,解决 Internet网络拥挤的状况,提高用户访问网站的响应速度.

CDN工作原理:比如请求流媒体数据

  • 1.上传流媒体数据到服务器(源站)
  • 2.源站存储流媒体数据
  • 3.客户端播放流媒体,向CDN请求编码后的流媒体数据
  • 4.CDN的服务器响应请求,若节点上没有该流媒体数据存在,则向源站继续请求流媒体数据;若节点上已经缓存了该视频文件,则跳到第6步。
  • 5.源站响应CDN的请求,将流媒体分发到相应的CDN节点上
  • 6.CDN将流媒体数据发送到客户端
  • 回源:当有用户访问某一个URL的时候,如果被解析到的那个CDN节点没有缓存响应的内容,或者是缓存已经到期,就会回源站去获取搜索。如果没有人访问,那么CDN节点不会主动去源站拿.
  • 带宽:在固定的时间可传输的数据总量,比如64位、800MHz的前端总线,它的数据传输率就等于64bit×800MHz÷8(Byte)=6.4GB/s
  • 负载均衡: 由多台服务器以对称的方式组成一个服务器集合,每台服务器都具有等价的地位,都可以单独对外提供服务而无须其他服务器的辅助,通过某种负载分担技术,将外部发送来的请求均匀分配到对称结构中的某一台服务器上,而接收到请求的服务器独立地回应客户的请求。均衡负载能够平均分配客户请求到服务器列阵,籍此提供快速获取重要数据,解决大量并发访问服务问题。这种群集技术可以用最少的投资获得接近于大型主机的性能。
  • QoS(带宽管理):限制每一个组群的带宽,让有限的带宽发挥最大的效用。

2.架构选型

          Web层:Nginx+PHP-FPM,开发迅速,适合团队技术现状,但需要针对服务器,做一定的调优配置。

  • 缓存层:Redis主从库、SSDB大容量存储,会在各个业务块儿使用,增加系统性能。
  • 存储层:MySQL主从库存储重要业务数据,属性变化不大。MongoDB数据库存储字段不固定变更较多的数值明细记录。SSDB存储观看记录关注等列表较长,且性能要求较高的数据。分表分库上考虑用户注册量和主播播放频率,用户中心、主播播放时长采用了按用户ID Sharding和 按年Sharding两种策略。业务初期暂时没有分库需求。
  • 消息队列:实现业务解耦,使用当前较流行的Kafka队列。
  • 日志收集:syslog-ng日志收集系统。

三、视频拉流播放端

  • 直播协议选择
    • 即时性要求较高或有互动需求的可以采用RTMP,RTSP
    • 对于有回放或跨平台需求的,推荐使用HLS
  • 直播协议对比 :
直播协议对比.png
  • HLS:由Apple公司定义的用于实时流传输的协议,HLS基于HTTP协议实现,传输内容包括两部分,一是M3U8描述文件,二是TS媒体文件。可实现流媒体的直播和点播,主要应用在iOS系统
    • HLS是以点播的技术方式来实现直播
    • HLS是自适应码率流播,客户端会根据网络状况自动选择不同码率的视频流,条件允许的情况下使用高码率,网络繁忙的时候使用低码率,并且自动在二者间随意切
      换。这对移动设备网络状况不稳定的情况下保障流畅播放非常有帮助。
    • 实现方法是服务器端提供多码率视频流,并且在列表文件中注明,播放器根据播放进度和下载速度自动调整。
  • HLS与RTMP对比:HLS主要是延时比较大,RTMP主要优势在于延时低
    • HLS协议的小切片方式会生成大量的文件,存储或处理这些文件会造成大量资源浪费
    • 相比使用RTSP协议的好处在于,一旦切分完成,之后的分发过程完全不需要额外使用任何专门软件,普通的网络服务器即可,大大降低了CDN边缘服务器的配置要求,可以使用任何现成的CDN,而一般服务器很少支持RTSP。
  • HTTP-FLV:基于HTTP协议流式的传输媒体内容。
    • 相对于RTMP,HTTP更简单和广为人知,内容延迟同样可以做到1~3秒,打开速度更快,因为HTTP本身没有复杂的状态交互。所以从延迟角度来看,HTTP-FLV要优于RTMP。
  • RTSP:实时流传输协议,定义了一对多应用程序如何有效地通过IP网络传送多媒体数据.
  • RTP:实时传输协议,RTP是建立在UDP协议上的,常与RTCP一起使用,其本身并没有提供按时发送机制或其它服务质量(QoS)保证,它依赖于低层服务去实现这一过程。
  • RTCP:RTP的配套协议,主要功能是为RTP所提供的服务质量(QoS)提供反馈,收集相关媒体连接的统计信息,例如传输字节数,传输分组数,丢失分组数,单向和双向网络延迟等等。

1.解码

 * 1.1 解封装 *

  • demuxing(分离):从视频流、音频流,字幕流合成的文件(容器格式(FLV,TS))中, 分解出视频、音频或字幕,各自进行解码。

* 1.2 音频编码框架 *

  • fdk_aac:音频编码解码框架,PCM音频数据和AAC音频数据互转

  

 * 1.3 解码介绍 *

       硬解码:用GPU来解码,减少CPU运算

  •  优点:播放流畅、低功耗,解码速度快,
    * 缺点:兼容不好
  • 软解码:用CPU来解码
    • 优点:兼容好
      * 缺点:加大CPU负担,耗电增加、没有硬解码流畅,解码速度相对慢

2.播放

  • ijkplayer:一个基于FFmpeg的开源Android/iOS视频播放器
    • API易于集成;
    • 编译配置可裁剪,方便控制安装包大小;
    • 支持硬件加速解码,更加省电
    • 简单易用,指定拉流URL,自动解码播放.

3.聊天互动

    • IM:(InstantMessaging)即时通讯:是一个实时通信系统,允许两人或多人使用网络实时的传递文字消息、文件、语音与视频交流.
      • IM在直播系统中的主要作用是实现观众与主播、观众与观众之间的文字互动.
        * 第三方SDK *
    • 腾讯云:腾讯提供的即时通讯SDK,可作为直播的聊天室

    • 融云:一个比较常用的即时通讯SDK,可作为直播的聊天室
原文地址:https://www.cnblogs.com/wangshaojie/p/7132925.html