在现代宽带通信系统中，小型化技术的进展与通信技术的发展息息相关。作为射频前端的重要组成部分，滤波器和天线的研究与应用在无线通讯系统小型化、平面化、模块化和可靠性发展的迫切需求下越来越重要。近年来，射频电路与系统已经成为更复杂、更多的功能和信号转换的密集空间。因此，结构紧凑又互不干扰的无源电路成为研究的热点。宽带平衡电路与单端口输入的电路相比，具有较好的共模抑制功能和抗干扰特性。本论文针对微波无源电路小型化研究的难点问题，在扩展完善平面宽带滤波器的小型化设计理论，结合新型微带电路和天线探索实现集成和去耦的设计方法等方面开展了具有较大创新性的研究工作。本论文的主体内容及创新性工作可以概括如下:　　1.基于信号干扰的小型化差分电路:提出了基于信号干扰概念的平衡差分电路的理论模型和设计公式，针对通信系统对超宽带和陷带的需求，运用平行耦合线和部分耦合线，设计分析了两个紧凑的超宽带差分滤波器结构，同时利用槽线DGS改善共模抑制。另外，基于信号干扰概念和多端口网络理论方法，分析设计了一种结构紧凑的超宽带差分功分网络，设计出的结构由于差模通带两边都有传输零点，所以实现了较好的边缘选择特性，同时共模抑制得到较大的提高。上述研究进一步扩展了信号干扰概念在差分电路结构中的小型化设计。　　2.宽带滤波器设计的小型化方法:提出基于频率变换的小型化方法。针对宽带滤波器设计的特殊需求，结合短路和开路分支线，将一个宽带频率响应分成上下半频带，并将两者分离。在此基础上，运用1/4波长传输线分支和信号干扰概念，分别改善了带内和带外特性，使得通带内有三个谐振模式和更高的上阻带抑制，进一步扩展了信号干扰在宽带电路设计中的应用。对所设计的三种小型化宽带滤波器结构和以往宽带滤波器结构的特性进行了对比，结果表明所设计的三种宽带滤波器结构在电路尺寸和谐波抑制特性等方面都得到了显著提升，在高性能宽带通信系统中具有较好的应用前景。　　3.小型化贴片滤波器与天线的集成:研究了三种微波无源滤波器和天线的集成方式。首先分析设计了一个具有滤波特性的平面单极子天线，利用CPWG馈电结构改变高频时接地面上的电流分布，使超宽带天线的高频端具有陡峭的边缘选择特性。在四分之一波长贴片谐振器的基础上，提出了一种在贴片长边加载短路点的准四分之一波长贴片谐振器，并给出这种谐振器短边尺寸的计算公式;分析设计了两种不同馈电方式的双频耦合贴片滤波器结构，并在耦合缝隙下方开槽以改善谐波抑制。另外，分别研究了提出的耦合滤波器与贴片天线和槽线天线的集成设计。以上滤波器与天线集成方式的设计与分析，进一步扩展了无源电路结构之间的组合在无线通信系统中的多功能小型化应用。　　4.基于信号干扰的小型化及宽带去耦网络:介绍了近距离放置多天线的应用背景，由此带来的去耦问题成为目前研究的重要方向。总结并分析了目前已有的去耦方法，并提出通过信号干扰的概念来实现去耦。根据耦合天线和去耦网络的S参数进行分析，得到去耦网络导纳与耦合天线导纳的关系。利用无源电路中常见的滤波器和耦合器结构，提出基于滤波器和耦合器的去耦网络，分别实现了窄带和宽带的去耦特性，改善了同时激励耦合天线的辐射方向图。以上去耦网络结构的设计，为多天线系统去耦的设计提供了新的设计方案与结构模型，也为其后续的应用奠定了良好的基础。