万兆网络流量处理系统性能优化技术研究

来源 :中国科学院计算技术研究所 | 被引量 : 0次 | 上传用户:robinlaikankan
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
网络流量测量是研究网络行为、进行网络规划和网络管理的基础,网络流量的采集与分析是网络流量测量的核心技术。随着主干网链路速率由1000Mbps提升到10Gbps,链路速率的增长已远超过了服务器处理性能的增长。传统流量采集和处理系统在数据捕获、缓冲、拷贝等环节存在较大瓶颈,已无法满足万兆主干网链路数据的线速采集和处理的要求。高速网络流量环境对流量采集环节提出了更高的要求,除了在处理速率、延迟、丢包率有所保证之外,还应尽量减少数据采集过程对主机的计算及存储资源的消耗,并且能够有效结合后端并行处理结构,提升系统处理性能。如何对传统网络流量处理系统进行改进和优化,使之具备针对万兆流量的线速采集和处理能力,具有十分重要的现实意义和应用价值。本文在分析传统流量采集和处理系统存在的性能瓶颈的基础上,研究了万兆主干网链路下的数据采集与处理技术。通过硬件加速、设计底层高速传输通道、并行优化等手段,对现有系统进行了性能优化。主要研究内容包括:   ㈠设计了一种通用PC平台下的万兆链路数据采集和预处理软硬件系统。重点研究了底层高速数据传输通道的实现,对数据传输的各环节进行优化,提出了基于自适应轮询的数据包捕获算法、大容量缓冲区申请和同步算法、内存双映射方法等。性能测试结果表明,网络数据采集平台在IP报文长度大于128byte(包括128byte)的时候可以保持10Gbit/s的线速处理,在数据包长度非常小(64byte)的情况下,仍然能够保持万兆以上(11.5Gbps)的数据包传输速率。与现有通用PC下的网络流量捕获系统相比,采集能力有了明显提高,并且对主机CPU占用、中断次数均保持在较低的水平。   ㈡针对当前主流多核服务器,设计了一种基于流(stream)的并行处理结构,提升数据包处理性能。主要思想是通过硬件预处理单元对网络数据流进行归并,将归并后的数据流通过改进后的底层多路传输通道发送到多个核上并行处理。性能测试结果表明:在四核服务器上,采用基于流的软硬件并行处理结构后,相比软件单线程方法可获得大约四倍的加速,性能提升非常明显。
其他文献
优化问题研究的是在众多方案中寻找最优方案,即在满足一定的约束条件下,寻找一组参数值,使得系统某些性能指标达到最大或最小。它广泛的存在于工业,农业,国防,交通,通信等领
运动障碍是中风的主要后遗症。中风后的运动功能随着时间推移会得到不同程度的恢复。大量脑功能影像研究已证实运动功能的康复过程与脑功能重组或代偿过程密切相关。但这种功
近年来,随着计算机网络应用范围的扩展,网络流量迅速增加,网络开始变得更加拥挤,这严重影响了网络的传输速率。一方面用户要求通信网络能提供高效的端到端服务质量的支持,另
随着嵌入式技术的发展,各种嵌入式数字电子设备在居民生活中得到了普及和广泛应用,如数字音频、数字电视机顶盒、数字电视等,对应的嵌入式软件也被大量的开发。嵌入式软件测试工
随着通信技术的飞速发展,网络规模也越来越大,传统的依靠手工来管理网络已经成为历史。网络拓扑结构是现在网络自动化管理的前提和基础,鉴于网络拓扑结构具有一定的动态性,要想通
随着Internet和WWW的流行,Browser/Server(B/S)系统设计和开发技术已经被越来越多的领域所采用,已成为现今系统的主要开发方法。一般的B/S系统都具有多层体系结构,同时简化了客
WEB搜索系统的基本任务,是找出满足用户信息需求的文档。然而,用户提交的查询往往很短,表达能力有限,因此影响了检索结果的精度。查询重构(又称查询扩展)技术是解决该问题的重要
图像融合是通过综合多幅图像数据互补得到新的一幅图像,在这幅图像中能反应多重原始图像中的信息,得到探测目标的相对精确可靠的解译和相对完整一致的信息描述的过程。图像融合
随着Internet技术的发展,在网络上除了传输信息流外,还传输资金流,如何保障网上交易双方的资金安全,是网上交易活动的关键。这就要求在交易过程中,需要保证交易双方敏感信息的安全
显著区域的检测是图像处理、模式识别、计算机视觉及认知科学等领域中近年来的研究热点之一,在理论研究和实际应用中都有重要意义。本文深入研究了当前国内外主要的显著区域检