本论文主要从理论上研究了电荷转移型绝缘体Cs2AgF4、Mott绝缘体KCuF3和正交LaMnO3.三种强关联电子材料的晶格畸变、轨道序和磁性，旨在阐明这些材料中晶格、轨道和自旋自由度的相互作用对体系的影响。此外，还探讨了新型高温超导母体材料LaOFeAs的条纹反铁磁自旋密度波的起源问题。其主要内容如下：　　 首先，在第一章中简要介绍了过渡金属化合物中的轨道序、磁性理论和晶格畸变等，并提出了本论文的研究内容及其科学意义。　　 接下来，在第二章中利用发展的团簇自洽场方法，考虑电子和晶格相互作用，研究了层状Cs2AgF4材料铁磁性的起源。研究结果表明非简谐的晶格畸变稳定了交错的X2-22/y2-22轨道序和铁磁基态，同时自洽地得到了与实验一致的晶格畸变、磁耦合强度Jx，y和磁矩大小等很好的结果。　　 在第三章中研究了KCuF3轨道序和一维磁性的起源问题。基于一个自旋-轨道-晶格哈密顿量，通过本文发展的团簇自洽场方法自洽地确定了KCuF3体系的基态晶格畸变，磁结构和轨道序结构。得到了在实验中发现共存的两种稳定晶格结构。笔者发现在只考虑超交换作用的情况下，由于内在的阻挫，体系的基态是高度简并的；而Jahn-Teller畸变，特别是非简谐效应，使体系处于稳定的轨道有序相。同时Cu的磁矩明显的减至0.56μB，磁耦合强度表现出很强的各向异性，Jz/Jxy≈18。两种相沿c-轴方向不同的轨道关联导致了不同的磁转变温度。这些结果与实验非常的一致，表明在KCuF3体系中非简谐的Jahn-Teller效应对稳定轨道有序基态起了重要的作用。　　 在第四章中在团簇自洽场方法框架下，基于一个电，电和电-晶格互作用竞争机制的有效哈密顿量，重新研究了LaMn03体系的轨道序和磁性。在点电荷近似下，建立了一个包含Jahn-Teller畸变和GdFeO3-型畸变共同贡献的正交晶场。然后分离出Jahn-Teller畸变和GdFeO3-型畸变各自的贡献，并研究了它们之间的相互作用。结果表明GdFeO3-型畸变增强了Jahn-Teller畸变，这与实验符合。还发现磁耦合强度Jx，y，J和磁各向异性Jz/Jx，y都与实验值非常一致。进一步的，笔者的模型在考虑到GdFeO3-型畸变的贡献时能够正确地描述出R(La-Ho)MnO3-系列化合物在实验上磁耦合强度的一些基本趋势。　　 在第五章，主要研究了LaOFeAs体系与磁性相关的性质。在平均场近似下基于两带Hubbard模型来研究层状铁基母体材料LaOFeAs的自旋密度波的起源。通过对多种磁有序态能量的比较，发现条纹反铁磁序是最稳定的磁基态。这些结果表明这种条纹反铁磁自旋密度波主要起源于费米面嵌套和库仑相互作用。在弱库仑作用下得到了与实验相符的较小磁矩，此时体系基态处于金属相。相反地，在强库仑作用下，基态是较大磁矩的绝缘态。说明从巡游电子图象来理解自旋密度波不稳定性是合适的，但同时表明体系在发生自旋密度波相变前并非是一个简单金属，电子间关联效应依然是需要考虑的。　　 最后，本文总结并提出了在过渡金属化合物材料中值得进一步探索的一些物理问题。