源于与中子星物理、中低能重离子碰撞物理的密切相关，近年来，有限同位旋密度核物质的研究受到越来越多的关注。有限同位旋密度核物质包括不对称的核子物质，即质子、中子数目不同的核子系统，和具有有限同位旋化学势的夸克物质。根据BCS理论，在弱吸引的费米子体系，费米面附近的粒子将形成库珀对，使费米海失稳，体系的基态是库珀对凝聚的超导/超流态，史称BCS超导/超流。在有限同位旋密度核物质超导/超流的研究中有两个问题引起广泛的兴趣。一是著名的BCS-BEC过渡，即低温时，弱耦合体系松散的费米子库珀对随着耦合强度的增加，逐渐地变为紧束缚的玻色分子，并实现玻色-爱因斯坦凝聚（BEC）。虽然BCS极限和BEC极限对应的物理图像大相径庭，理论研究表明，从BCS态到BEC态是一个连续的过渡，称为BCS-BEC过渡。第二个有趣的问题是费米面错位效应引起的相变。当参与配对粒子的费米面出现差异，这一方面使配对难度增加，破坏典型的BCS超导/超流，另一方面又为各种奇异的超导/超流态创造条件，如无能隙的Sarma态，非均匀的LOFF态，相分离态等。本文正是围绕这两个问题展开讨论。在不对称核子物质的研究中，我们全面地考虑同位旋I=0道的质子-中子库珀对和I=1道的质子-质子和中子-中子库珀对的共存与竞争，讨论了不对称核子体系在有限密度和不对称度条件下的BCS-BEC过渡以及从核子超流态到正常态的相变。另一方面，我们也研究了有限同位旋密度夸克物质中的π超流相变，即随着同位旋化学势的升高，夸克体系的同位旋对称性自发破缺，形成π超流夸克物质。综合分析正常夸克物质、经典的BCS态以及费米面不对称的Sarma态和LOFF态之间的竞争，我们给出了有限密度时π超流相图，并讨论了各种超流态对致密星体质量-半径关系的影响。此外，我们首次提出了夸克层次BCS-BEC过渡的实验信号——玻色子散射。具体到π超流夸克物质，π π散射可以是实验上观测BCS-BEC过渡的敏感信号，对应的散射振幅随着BCS-BEC过渡由大变小，并在BEC极限处减小至零。