基于ARM9的视频采集传输系统
发布时间:2008/5/29 0:00:00 访问次数:1119
0 引言
随着多媒体技术及宽带网络传输技术的发展,视频采集及传输系统作为远程视频监控、可视电话会议和工业自动控制领域的一项核心关键技术,近年来也得到了飞速的发展。本文所提出的系统是在新一代基于arm926ej-s微处理核的嵌入式开发平台上进行的,并将国际上流行的mpeg-4压缩编解码技术和流媒体传输技术相结合。该系统具有较强的实时性、可交互性及便携性。
1 系统开发硬件平台
本设计采用的开发平台是freescale i.mx家族的mc9328mx21,作为整个系统的核心微处理器,其arm926ej-s核提供了加速的java支持和高度整合的系统功能模块,如片上模块包括图像加速模块、lcd控制器、usb控制模块、cmos传感器接口及同步串口等,为开发者进行多媒体应用开发提供了丰富的外围接口。核心板上集成了64mb sdram以及16mbflash存储器,底板资源包括4个四线rs-232串口、1个10 mbit·s-1/100 mbit·s-1自适应以太网接口及音视频采集设备,为系统设计时的交叉编译及多媒体数据的处理提供了方便。
系统的关键外围设备、视频数据的采集所使用的cmos图像传感器ov9640,与传统的ccd图像传感器相比,具有功耗低、体积小、集成度高等优点,并且ov9640支持vga、qvga、cif等多种解析度,支持的数据格式包括ycrcb 4:2:2、grb 4:2:2和rgb:rawdata这3种,图像帧传输速率达30帧/s。传感器通过csi模块进行图像数据的采集,然后通过专用总线传输至prp(emma pre-processor),在prp中调整图像大小并转换成合适的颜色空间。prp的输出分成2个通道,通道1输出rgb565格式数据作为lcd的显示,通道2输出yuv420格式数据进行mpeg或者jpeg编码。
mc9328mx21的csi模块有一个8位输入端口,如果传感器的传输超过8位数据,图像传感器通常作为从设备通过i2c端口控制。底层的协议是i2c,高层的协议则由传感器确定。在这里,图像传感器的主时钟由mc9328mx21提供。
2 系统的软件系统设计
2.1 搭建交叉编译环境
由于嵌入式系统选用的是开源的基于arm微处理器的系统内核arm-linux,而在开发板上没有足够的资源运行开发调试工具,所以必须首先搭建好交叉编译调试环境。首先,需要通过在编译时指定target=arm-linux生成适合arm平台的binutils,它包括了ld、ar和as等一些生成和处理二进制文件的工具。然后,编译生成gcc(gnu compiler collection),它能够支持多种高级语言,如c,c++等,需要注意的是,在编译gcc时需要arm-linux内核头文件的支持,所以首先需要配置内核#make menuconfig arch=arm来生成对应arm内核的头文件,这样就可以在配置编译gcc时通过with-headers选项指定编译所需头文件。最后,还需要编译生成许多用户层应用都要用到的函数库glibc,所有动态链接的程序都要用到它,在编译时需要注意的是打开--enable-add-ons选项,这个开关将打开glibc的附加包,因为我们需要用到linu-xthreads。这样,一个嵌入式arm-linux下的交叉编译环境就已搭建成功。
2.2 编译制作内核及文件系统
通过make menuconfig配置内核选项,其中的一些关键设置包括指定system type时打开arm926t cpuidle、i-cache 0n和d-cache,并且由于在进行应用软件开发时需要arm-linux内核支持frame buffer技术,所以还需要打开console drivers中的frame-buffer sup-port。然后,make boot就可以编译生成定制好的内核映像文件image,将制作好的系统内核和文件系统通过宿主机的tftp服务烧写进开发板的flash存储器。这样就完成了板上可独立运行的操作系统的设计。
2.3 视频数据的采集、编码和传输的实现
这部分的工作是整个设计的核心。mpeg-4在1999年初正式成为国际标准,与之前的标准相比,它更加重视多媒体系统的交互性和灵活性,主要针对视频会议、可视电话的超低比特率编码等多媒体应用。目前在嵌入式系统中,mpeg-4编解码主要都是通过专用芯片实现的,其实现方法与mpeg-1、mpeg-2的硬件实现方法类似,将编码算法固化在芯片的硬件电路中,所以导致它在使用中存在以下缺点:
a) 性价比不高。由于现在mpeg-4编码技术还在不断发展中,还没有一个真正成熟的算法支持,所以市场上推出的mpeg-4编码芯片都是在标准基础上进行了修改和简化,在性能上与h.263等编码芯片上没有明显的优势,所以其性价比不高。
b) 可移植性差。由于各厂商所生产的编码芯片都在固化时加入了自己对编码算法的改进和优化,所以在解码端必须使用对应的专用解码器,这就导致出现了兼容性的问题。
c) 无可扩展性。随着对mpeg-4编解码标准的研究,必然提出许多新的算
0 引言
随着多媒体技术及宽带网络传输技术的发展,视频采集及传输系统作为远程视频监控、可视电话会议和工业自动控制领域的一项核心关键技术,近年来也得到了飞速的发展。本文所提出的系统是在新一代基于arm926ej-s微处理核的嵌入式开发平台上进行的,并将国际上流行的mpeg-4压缩编解码技术和流媒体传输技术相结合。该系统具有较强的实时性、可交互性及便携性。
1 系统开发硬件平台
本设计采用的开发平台是freescale i.mx家族的mc9328mx21,作为整个系统的核心微处理器,其arm926ej-s核提供了加速的java支持和高度整合的系统功能模块,如片上模块包括图像加速模块、lcd控制器、usb控制模块、cmos传感器接口及同步串口等,为开发者进行多媒体应用开发提供了丰富的外围接口。核心板上集成了64mb sdram以及16mbflash存储器,底板资源包括4个四线rs-232串口、1个10 mbit·s-1/100 mbit·s-1自适应以太网接口及音视频采集设备,为系统设计时的交叉编译及多媒体数据的处理提供了方便。
系统的关键外围设备、视频数据的采集所使用的cmos图像传感器ov9640,与传统的ccd图像传感器相比,具有功耗低、体积小、集成度高等优点,并且ov9640支持vga、qvga、cif等多种解析度,支持的数据格式包括ycrcb 4:2:2、grb 4:2:2和rgb:rawdata这3种,图像帧传输速率达30帧/s。传感器通过csi模块进行图像数据的采集,然后通过专用总线传输至prp(emma pre-processor),在prp中调整图像大小并转换成合适的颜色空间。prp的输出分成2个通道,通道1输出rgb565格式数据作为lcd的显示,通道2输出yuv420格式数据进行mpeg或者jpeg编码。
mc9328mx21的csi模块有一个8位输入端口,如果传感器的传输超过8位数据,图像传感器通常作为从设备通过i2c端口控制。底层的协议是i2c,高层的协议则由传感器确定。在这里,图像传感器的主时钟由mc9328mx21提供。
2 系统的软件系统设计
2.1 搭建交叉编译环境
由于嵌入式系统选用的是开源的基于arm微处理器的系统内核arm-linux,而在开发板上没有足够的资源运行开发调试工具,所以必须首先搭建好交叉编译调试环境。首先,需要通过在编译时指定target=arm-linux生成适合arm平台的binutils,它包括了ld、ar和as等一些生成和处理二进制文件的工具。然后,编译生成gcc(gnu compiler collection),它能够支持多种高级语言,如c,c++等,需要注意的是,在编译gcc时需要arm-linux内核头文件的支持,所以首先需要配置内核#make menuconfig arch=arm来生成对应arm内核的头文件,这样就可以在配置编译gcc时通过with-headers选项指定编译所需头文件。最后,还需要编译生成许多用户层应用都要用到的函数库glibc,所有动态链接的程序都要用到它,在编译时需要注意的是打开--enable-add-ons选项,这个开关将打开glibc的附加包,因为我们需要用到linu-xthreads。这样,一个嵌入式arm-linux下的交叉编译环境就已搭建成功。
2.2 编译制作内核及文件系统
通过make menuconfig配置内核选项,其中的一些关键设置包括指定system type时打开arm926t cpuidle、i-cache 0n和d-cache,并且由于在进行应用软件开发时需要arm-linux内核支持frame buffer技术,所以还需要打开console drivers中的frame-buffer sup-port。然后,make boot就可以编译生成定制好的内核映像文件image,将制作好的系统内核和文件系统通过宿主机的tftp服务烧写进开发板的flash存储器。这样就完成了板上可独立运行的操作系统的设计。
2.3 视频数据的采集、编码和传输的实现
这部分的工作是整个设计的核心。mpeg-4在1999年初正式成为国际标准,与之前的标准相比,它更加重视多媒体系统的交互性和灵活性,主要针对视频会议、可视电话的超低比特率编码等多媒体应用。目前在嵌入式系统中,mpeg-4编解码主要都是通过专用芯片实现的,其实现方法与mpeg-1、mpeg-2的硬件实现方法类似,将编码算法固化在芯片的硬件电路中,所以导致它在使用中存在以下缺点:
a) 性价比不高。由于现在mpeg-4编码技术还在不断发展中,还没有一个真正成熟的算法支持,所以市场上推出的mpeg-4编码芯片都是在标准基础上进行了修改和简化,在性能上与h.263等编码芯片上没有明显的优势,所以其性价比不高。
b) 可移植性差。由于各厂商所生产的编码芯片都在固化时加入了自己对编码算法的改进和优化,所以在解码端必须使用对应的专用解码器,这就导致出现了兼容性的问题。
c) 无可扩展性。随着对mpeg-4编解码标准的研究,必然提出许多新的算