马氏信源作为信息论中的一种特殊信源，在信息论中一直具有重要地位，在解决人口增长问题、实际生活中的服务系统等领域起着重要的作用，信息论中的相对熵在群决策问题、图象算法问题、计算机系统中都起着重要的作用。然而在实际生活中，很多的信源不只是一重的，是二重甚至是多重的，这就有必要对二重马氏信源进行研究。故本文尝试将信息论中的结论推广到非齐次马氏链上，主要采用马氏链的极限定理和强大数定律这两个理论。　　本文首先介绍了本课题的研究背景，近期国内外作者的研究成果，并对本文的组织结构进行了简单规划，同时介绍了相关的概念、定理和性质；　　然后，本文利用鞅差序列的一个定理进而得到了非齐次马氏信源二元函数的极限定理（杨卫国），Csiszar I在信息论中证明了关于随机变量序列的一个极限定理，而该定理的推论就是相对熵。本文主要利用非齐次马氏信源二元函数的极限定理，将信息论中的定理推广到非齐次马氏链上。　　然而，我们发现在现实生活中，要想描述一类实际问题，往往要用到非齐次二重马氏链，而杨卫国利用鞅差序列的定理给出了非齐次马氏信源三元函数的一个极限定理，故而本文利用该定理将信息论中的定理继续进行推广。　　其次，Loève在概率论中给出了对独立随机变量序列的一个强极限定理进行了研究，而Shiryaev则利用Kolmogorov三级数定理对独立随机变量序列的一个新的强极限定理进行了证明，本文给出一个具体的例子，通过这个例子说明Shiryaev给出的是一个新的类型的定理。　　最后，对文章进行了归纳总结，并指出了在研究过程中可能存在的一些不足，同时也对以后的需要改进的方向进行简单介绍。