背景描述
我们经常在网络直播推流或者客户端拉流的时候，需要对获取到的H.264视频帧进行判断后处理，我们经常获取到各种不同的视频数据0x67 0x68 0x65 0x61，0x27 0x28 0x25 0x21，0x47 0x48 0x45 0x41，各种不同的编码芯片有时间出来的NAL Header规则不大一样，那么我们怎么来以统一的方式判断帧的类型呢：sps、pps、IDR、P
如下转自EasyDarwin开源贡献者Kim的博客：http://blog.csdn.net/jinlong0603/article/details/70170042
H264
H264在网络传输的是NALU，NALU的结构是：NAL头+RBSP，实际传输中的数据流如图所示：
其中NAL头占一个字节，其低5个bit位表示NAL type，具体如下表：
| 0 | 未使用 |
| 1 | 非IDR的片 |
| 2 | 片数据A分区 |
| 3 | 片数据B分区 |
| 4 | 片数据C分区 |
| 5 | IDR图像的片 |
| 6 | 补充增强信息单元（SEI） |
| 7 | 序列参数集(SPS) |
| 8 | 图像参数集(PPS) |
| 9 | 分界符 |
| 10 | 序列结束 |
| 11 | 码流结束 |
| 12 | 填充 |
| 13..23 | 保留 |
| 24..31 | 不保留 |
RBSP 为原始字节序列载荷。
NAL type为5，则此帧为I帧即关键帧，type为1时为非关键帧（P帧…)。
在实际的H264数据帧中，往往帧NAL type前面带有00 00 00 01 或 00 00 01分隔符，一般来说编码器编出的首帧数据为PPS与SPS，接着为I帧，然后是P帧…
EasyPusher/EasyRTMP 视频流推送
EasyPusher和EasyRTMP是通过调用摄像机SDK、拉取RTSP流、读mp4文件等方式获取到H264视频流及音频视频流到本地作为视频源，再以RTSP、RTMP方式推送给流媒体服务器。它们都是支持Windows、Linux、Android、iOS、ARM等全平台的视频流推送程序。
下面介绍下它们在获取到视频流到本地后如何区分I帧和P帧等，然后推送的：
//这段代码是从文件中读取h264数据，然后推送给服务器
unsigned char *ptr=new unsigned char [sample_size];
fread(ptr, sample_size, 1, g_fin);
//写一帧数据 --- 可以直接进行网络推送
//fwrite(ptr, sample_size, 1, fout);
EASY_AV_Frame avFrame;
memset(&avFrame, 0x00, sizeof(EASY_AV_Frame));
/*
*ptr的前4字节是帧分分割符00 00 00 01 ， 第5个字节是NAL type
*/
unsigned char naltype = ( (unsigned char)ptr[4] & 0x1F);
avFrame.pBuffer = (unsigned char*)ptr;
avFrame.u32AVFrameLen = sample_size;
avFrame.u32VFrameType = (naltype==0x05)?EASY_SDK_VIDEO_FRAME_I:EASY_SDK_VIDEO_FRAME_P;
avFrame.u32AVFrameFlag = EASY_SDK_VIDEO_FRAME_FLAG;
avFrame.u32TimestampSec = lTimeStamp/1000000;
avFrame.u32TimestampUsec = (lTimeStamp%1000000);如果视频源不是文件，而是IPCamera 或者RTSP流等，在他们的视频流回调中可能已经告知当前帧是I帧还是P帧，就省去了判断NAL type的步骤。
HI_S32 NETSDK_APICALL OnStreamCallback(HI_U32 u32Handle,/* 句柄 */
HI_U32 u32DataType, /* 数据类型，视频或音频数据或音视频复合数据 */
HI_U8* pu8Buffer, /* 数据包含帧头 */
HI_U32 u32Length, /* 数据长度 */
HI_VOID* pUserData /* 用户数据*/
)
{
HI_S_AVFrame* pstruAV = HI_NULL;
HI_S_SysHeader* pstruSys = HI_NULL;
if (u32DataType == HI_NET_DEV_AV_DATA)
{
pstruAV = (HI_S_AVFrame*)pu8Buffer;
if (pstruAV->u32AVFrameFlag == HI_NET_DEV_VIDEO_FRAME_FLAG)
{
if(fPusherHandle == 0 ) return 0;
if(pstruAV->u32AVFrameLen > 0)
{
unsigned char* pbuf = (unsigned char*)(pu8Buffer+sizeof(HI_S_AVFrame));
EASY_AV_Frame avFrame;
memset(&avFrame, 0x00, sizeof(EASY_AV_Frame));
avFrame.u32AVFrameLen = pstruAV->u32AVFrameLen;
avFrame.pBuffer = (unsigned char*)pbuf;
avFrame.u32VFrameType = (pstruAV->u32VFrameType==HI_NET_DEV_VIDEO_FRAME_I)?EASY_SDK_VIDEO_FRAME_I:EASY_SDK_VIDEO_FRAME_P;
avFrame.u32AVFrameFlag = EASY_SDK_VIDEO_FRAME_FLAG;
avFrame.u32TimestampSec = pstruAV->u32AVFramePTS/1000;
avFrame.u32TimestampUsec = (pstruAV->u32AVFramePTS%1000)*1000;
EasyPusher_PushFrame(fPusherHandle, &avFrame);
}
}
else
if (pstruAV->u32AVFrameFlag == HI_NET_DEV_AUDIO_FRAME_FLAG)
{
if(fPusherHandle == 0 ) return 0;
if(pstruAV->u32AVFrameLen > 0)
{
//不同IPCamera，这里数据头不一样，需要根据各自的SDK跳过对应的大小。有些可能没有自定义数据
unsigned char* pbuf = (unsigned char*)(pu8Buffer+sizeof(HI_S_AVFrame));
EASY_AV_Frame avFrame;
memset(&avFrame, 0x00, sizeof(EASY_AV_Frame));
avFrame.u32AVFrameLen = pstruAV->u32AVFrameLen-4;//去掉厂家自定义的4字节头
avFrame.pBuffer = (unsigned char*)pbuf+4;
avFrame.u32AVFrameFlag = EASY_SDK_AUDIO_FRAME_FLAG;
avFrame.u32TimestampSec = pstruAV->u32AVFramePTS/1000;
avFrame.u32TimestampUsec = (pstruAV->u32AVFramePTS%1000)*1000;
EasyPusher_PushFrame(fPusherHandle, &avFrame);
}
}
}
else
if (u32DataType == HI_NET_DEV_SYS_DATA)
{
pstruSys = (HI_S_SysHeader*)pu8Buffer;
printf("Video W:%u H:%u Audio: %u \n", pstruSys->struVHeader.u32Width, pstruSys->struVHeader.u32Height, pstruSys->struAHeader.u32Format);
}
return HI_SUCCESS;
}
有了数据源，只需要调用libEasyPusher或libEasyRTMP就可以完成RTSP、RTMP直播推送了！
下载
EasyDarwin服务器下载：https://github.com/EasyDarwin/EasyDarwin或者国内镜像http://git.oschina.net/easydarwin/EasyDarwin
EasyPusher 下载：https://github.com/EasyDarwin/EasyPusher
EasyRTMP 下载：https://github.com/EasyDarwin/EasyRTMP
获取更多信息
Copyright © EasyDarwin.org 2012-2017