随着无线通信技术的不断发展和成熟,正交频分复用OFDM（Orthogonal Frequency Division Multiplexing）技术受到了人们的广泛关注。在OFDM系统中,高速的数据流通过串并转换,使每个子载波上的数据符号持续时间相对增加,有效地减少了无线信道时间弥散带来的符号间干扰ISI（Inter-symbol Interference）,为支持未来高速率的无线数据业务提供了可能。但是传统的OFDM系统对频偏和相位噪声比较敏感,自适应调制技术增加了系统的复杂度,而基于小波理论的OFDM系统不但降低了系统的复杂度,而且提高了抗干扰能力。本文主要从以下几方面做了研究:首先,通过对小波滤波器组及两通道滤波器组的研究,提出了一种基于小波包的正交频分复用（OFDM）系统的实现方法,并论述了系统的可实现性。而且通过Matlab仿真分析了基于小波包的OFDM系统中不同小波基的性能,并且对四种小波的性能进行了两两比较,实验仿真证明了该系统的误码率性能优于传统OFDM系统。其次,通过对小波提升算法的研究,提出了一种基于小波提升算法的正交频分复用（OFDM）系统的实现方法。并针对Jakes衰落信道,重点研究了不同小波基对LWT-OFDM系统性能的影响,分析了LWT-OFDM系统中选用最佳小波基的原则,实验仿真证明了该系统的误码率性能优于传统OFDM系统。最后,针对正交频分复用系统,利用信道冲激响应的稀疏性,提出了一种基于近似l₀范数的信道估计算法。该算法用近似函数的最优解来求得最小化l₀范数,从而得到信道的最稀疏解。仿真结果表明:在相同条件下,与基于l₁范数的信道估计算法比较,该算法的收敛速度快,估计值信噪比高,且均方误差小。