团簇的尺寸介于原子和宏观体系之间，其微观的结构特点和奇异的物理化学性质为新材料的创造和发展开辟了一条新的途径，因此，团簇成为了实验和理论研究的对象。通过计算原子团簇的结构和电子性质能帮助验证实验上观察的新颖结构。碳硼化合物不但具有特殊的结构和电子性质，而且具有巨大的应用价值和广泛的应用前景，因此它们成为了不同技术应用的好的候选者，例如，可作为核裂变反应的控制棒、核聚变反应器的靶板、航空器中碳纤维材料、抗原子态氧的保护涂层及在超硬材料方面都有广泛的应用前景。所以近年来关于不同尺寸硼碳团簇的合成及理论研究引起了科学家们极大的兴趣。本论文分为四个部分：第一部分为在B3LYP/6-31G（d）水平上寻找B₄C团簇稳定存在的构型，对它们进行详细的分析；并对不同构型之间的转化进行了研究。第二部分为在B3LYP/6-311+G（d）水平上寻找B₅C和C₅B团簇稳定存在的构型；并对它们不同构型之间的转化进行了研究。第三部分为在B3LYP/6-311G^**水平上对B_nC和B_nC₂（n=3-10）小团簇进行较为详细的研究，并对它们最稳定的线形和环形结构进行结合能、垂直电离能（VDE）、绝热电离能（ADE）、垂直电子亲和势（VEA）和绝热电子亲和势（AEA）分析。第四部分为寻找P₆、P₆⁺、P₆^-和P_n（n=2-10）稳定存在的构型并对它们进行了详细的分析。第一部分：采用密度泛函理论Becke-3LYP方法，在6-31G（d）水平上对B₄C团簇的几何构型进行优化和振动频率分析，得到14种稳定存在的构型，平面五元环状且含有2个三元硼环的结构最稳定。通过对14种稳定构型的详细分析，结果表明内含三元硼环的结构在能量方面具有优势。根据MO和NBO分析，三中心键和离域的π电子在五元环状结构的稳定性中起着重要的作用。异构体11、12、13、14的核独立化学位移（NICS）均为负值，这表明它们均有芳香性特征。根据理论分析，在B3LYP/6-311+G（3df）水平上，异构体4很易转变为异构体7，仅仅需要翻越0.31kJ.mol^-1的势垒，故异构体4是无法成功获得的。3个五元环状结构（异构体12、13、14）之间可以相互转变，在B3LYP/6-31G（d）水平上，异构体14转变为异构体13和异构体13转变为异构体12的势垒分别为70.99和68.51kJ.mol^-1。第二部分：在B3LYP/6-311+G（d）水平上对B₅C和C₅B团簇的各种可能构型进行优化频率分析，我们分别得到B₅C和C₅B团簇的稳定构型并对它们进行了详细的分析。B₅C最稳定的结构是具有C_2v对称性的平面六元环形结构，而C₅B团簇最稳定的构型是B原子在第三个位置的直线型结构。B₅C团簇的各种构型中含有三元硼环的结构在能量方面具有优势，而C₅B团簇中含有三元碳环的结构在能量方面具有劣势。B₅C团簇中，如果给异构体2额外的能量≥43.83 kJ.mol^-1，它将会转变为更加稳定的异构体1。C₅B团簇中，如果给异构体5额外的能量≥19.66 kJ.mol^-1，它就能越过势垒转变为异构体2；同样如果给异构体7额外的能量≥20.57 kJ.mol^-1，它也能越过势垒转变为异构体2。第三部分：在B3LYP/6-311G^**水平上对B_nC和B_nC2（n=3-10）小团簇进行了较为详细的研究，寻找稳定存在的构型。并在相同水平上对B_nC和B_nC₂团簇最稳定的线形和环形结构进行结合能、垂直电离能（VDE）、绝热电离能（ADE）、垂直电子亲和势（VEA）和绝热电子亲和势（AEA）分析。对于B_nC和B_nC₂团簇，其最稳定的构型分别是n+1和n+2元环形结构。对于硼碳团簇，当n比较小时，含三元硼环的结构在能量方面具有优势的假设是合理的；然而当n比较大时，此假设不成立。B_nC和B_nC₂团簇最稳定环形结构中大都含有离域的π轨道和三中心键，这是它们稳定存在的重要原因。第四部分：通过对P₆、P₆⁺、P₆^-同分异构体的研究，确定P₆、P₆⁺、P₆^-稳定存在的构型并对它们进行了详细的分析。P₆、P₆⁺、P₆^-团簇最稳定的构型均是在四面体P₄上增加2个二配位的磷原子。同时我们对P_n（n=2-10）进行了研究，含有两个四面体结构的P₁₀，正四面体结构的P₄及楔状结构的P₈单原子结合能较大，它们是P_n（n=2-10）团簇中最稳定三种构型。由此我们推想四面体结构的P₄、楔状结构的P₈在能量方面具有优势，是组成大分子磷原子团簇的重要结构基元，是设计大分子磷原子团簇模型的重要候选子结构。