硅基光子学是目前最有潜力去解决集成电子学链路遇到的固有带宽和功率密度瓶颈的平台,是集成光子学领域最热门的研究方向之一。但硅基光子学的持续发展也碰到一些困难和挑战。首先,光学器件的尺寸始终受到衍射极限的限制,在光电混合集成中与小尺寸的电子学器件间存在尺寸失配的问题。其次,硅拥有中心对称的晶体结构,不支持二阶非线性效应,同时硅里面还存在载流子效应,这些因素限制了硅在非线性光学信号处理中的多样性和处理速度。由于可以把光场限制在突破衍射极限的亚波长区域内,表面等离子体光子学(Plasmonics)器件成为了解决第一个挑战的优良候选,同时在Plasmonics结构中存在的强局域场增强可以增强光与物质的相互作用,从而可以提高非线性效应的效率和降低功耗。对于第二个挑战,硅基有机物混合集成受到了越来越多的关注,把高非线性和没有载流子效应的的有机聚合物材料集成到硅基光子学平台上作为有源材料,可以进一步提高非线性器件的效率。在本论文中,我们同时把表面等离子体激元和有机物非线性材料集成到硅基光子学平台上,构成硅基表面等离子体有机物结构,并研究了这种混合结构的非线性特性。这种结构结合了三者的优势,可以在短距离内和低泵浦功率下实现高效的光学非线性过程,在非线性集成光子学中有很大的应用前景。本论文的研究主要集中在表面等离子体狭缝波导(PSW)和混合表面等离子体波导(HPW)这两种波导结构上,具体研究内容如下：(1)提出并详细推导了一种全矢量的适用于损耗波导的非线性耦合波方程,并用它来分析硅基表面等离子体波导中的各种非线性效应。(2)在PSW中,论文首先研究了增强的二次谐波(SHG)效应,理论上预测的归一化SHG效率高达105 W-1cm-2,比以前报道的结果高出了四个数量级。然后通过在PSW的两边施加一个控制电压,进一步研究了SHG过程的电控特性,这种电控SHG效应可以应用于新型的高速电光调制器。此外还研究了PSW中的非线性光整流(OR)效应,当一个强度调制的光信号进入波导中时,通过OR效应可以在波导两侧的电极之间产生一个电信号,电信号的频率正好是输入光信号的调制频率,且产生电信号的大小与光载波波长的相关性很小,有望应用于高速宽带的光探测和光解调。(3)在HPW中,我们同样研究了高效率的从中红外到近红外的SHG转换,对于100 mW的泵浦功率和120 μm的波导长度,二次谐波效率可以达到8.8%。然后利用微环谐振器的谐振增强,把效率进一步了提高两个数量级,这种结构有望应用于中红外和近红外之间高效率的片上波长转换。此外,我们还研究了对称HPW中的高效光参量放大过程,并基于这种相敏放大过程实现了相移键控信号的相位再生。(4)最后本论文还在实验中设计、制作并测试了PSW以验证OR效应,目前取得了一些初步成果,比如在超净间里制作了低损耗高质量的线性波导,PSW的测试损耗与理论损耗值很接近,然后成功把二阶非线性聚合物材料均匀悬涂到片子上,现在正在测试波导的非线性特性。