从Pardoux和Peng[58]的基础性工作以来,倒向随机微分方程（BSDE）和正倒向随机微分方程（FBSDE）由于其良好的结构和在随机控制、偏微分方程、金融数学等领域的广泛应用而备受关注.本文将致力于对有限维和无穷维FBSDE,与正倒向系统相关的偏微分方程（PDE）、随机最优控制和随机对策问题的研究.Antonelli和Hamadene[2]研究过一类带连续单调系数的FBSDE,这类方程的唯一性无法得到.我们利用Jia和Yu[44]的技巧证明这类方程的解的唯—性与解关于正向部分的初始值和倒向部分的终端值的连续依赖性是等价的,推广了[44]的结果.我们考虑一类完全耦合的无穷维FBSDE.作为Guatteri[36]的延续,研究这类方程的解在Malliavin空间中的正则性,证明解的Malliavin导数满足一个线性的正倒向系统.通过研究解的Malliavin导数与Gateaux导数的关系得到解变量Z的两种表示,并期待这个结果对研究对应的偏微分方程能起到一定作用.不过我们只得到了两种特殊情形下的结果:Y_T不依赖于X_T,即Y_T≡ξ的情形和σ不依赖于y,z,即σ=σ（t,x）的情形.FBSDE可以给出一类拟线性抛物形PDE的概率解释.在光滑系数假定下PDE存在经典解,否则需要考虑其弱解.我们研究一类推广的拟线性抛物形PDE,证明在利普希茨连续和单调系数条件下这类PDE存在唯一的局部Soblev弱解,并且该解对应着一个部分耦合的FBSDE的局部解.这个结果推广了[56]的结果。与以前的相关文献不同的是,该PDE的系数b中含有变量u,对应的FBSDE的系数b中含有变量y.倒向重随机微分方程（BDSDE）可以给出一类拟线性抛物形随机偏微分方程（SPDE）的概率解释.在光滑系数条件下SPDE有经典解,否则只可能有弱解.我们研究一类拟线性抛物形SPDE,其中系数f关于变量y局部单调,关于变量z局部利普希茨连续.证明这类方程存在唯一的Soblev弱解,并且其对应着一个BDSDE的解.该结果推广了[10]的结果.这部分的两个结果发展了拟线性抛物形PDE和SPDE的弱解理论.连续控制理论已经在工程和金融等领域得到了广泛应用,但因为要不断向系统施加控制而显得不够现实.有时系统状态需要瞬间改变,此时连续控制不再适用而脉冲控制就显得必要且有效.我们将脉冲控制理论与随机最优控制和随机对策理论结合,考虑带脉冲的随机最优控制和随机对策问题.首先研究三类正倒向系统的随机最优控制问题,其中控制变量由连续控制变量和脉冲控制变量组成.考虑最优控制满足的必要条件,即庞特里亚金最大值原理;并且探索充分最优性条件.就我们所知,这是对带脉冲控制正倒向系统的随机最优控制问题的首次研究.带脉冲的确定性对策问题已经被很多学者研究过,然而带脉冲的随机微分对策问题似乎尚没有人研究.我们考虑一类带脉冲的的随机微分对策问题.用动态规划原理证明该对策问题存在最优值,且通过一个验证定理给出了对策的一组最优策略.以下是本文的结构和主要结论.第一章:简要介绍本文中所讨论问题的背景及总体思路.第二章:证明[2]中提出的带连续单调系数的FBSDE的解的唯一性与解关于参数的连续依赖性是等价的.定理2.1.2.假设条件2.1.1成立,则下面关于FBSDE（2.1）的解的两个论断是等价的.（i）唯一性:FBSDE（2.1）存在唯一解.（ii）关于（x,ξ）的连续依赖性:对任意的（?）和（?）,如果当p→∞时有x_p→x,而当q→∞时有E|ξ_q-ξ|²→0,则当p,q→∞时,其中,（?）与（?）是FBSDE（2.1）分别对应于（x,ξ）与（x_p,ξ_q）的任意解.第三章:考虑一类完全耦合的无穷维FBSDE.首先研究这类方程的解在Malliavin空间中的正则性.定理3.2.5.设条件3.1.1和3.1.2成立.假设（?）并属于D^1,2（K）,则存在正数T₀≤T^*使得对任意的T≤T₀,FBSDE（3.1）在区间[0,T]上的唯一温和解（X,Y,Z）满足下面的性质:（i）X∈L^1,2（H）,Y∈L^1,2（K）,Z∈L^1,2（L₂（Ξ,K））.（ii）存在（DX,DY,DZ）的一个版本使得对几乎所有的s∈[0,T),{D_sX_t,t∈(s,T]}是L₂（Ξ,H）中的连续可料过程,满足过程（?）属于空间并且,对几乎所有的s<t,下面的线性正倒向系统成立:其中定义（?）.通过研究解的Malliavin导数与Gateaux导数的关系,我们得到定理3.3.2.解过程Z有两个版本:（?）.第四章:首先考虑一类推广的拟线性抛物形PDE,其特点是系数b中包含解变量u.通过与一类部分耦合的FBSDE相联系来研究这类PDE的Sobolev弱解.定理4.1.6.假设条件4.1.1成立,则（i）PDE（4.2）存在局部Sobolev弱解u.并且对几乎所有的s∈[t,T],x∈R^d,a.s.其中,（?）是FBSDE（4.1）的唯一局部解.（ii）PDE（4.2）在利普希茨连续函数类中至多存在一个Sobolev弱解.然后研究一类拟线性抛物形SPDE,其中系数f关于变量y局部单调,关于变量z局部利普希茨连续.通过与一类BDSDE系统相联系得到该SPDE的Sobolev弱解.定理4.2.19.假设条件4.2.18和（4.11）式成立,则SPDE（4.14）存在唯一的Sobolev弱解u.并且对几乎所有的s∈[t,T],x∈R^d,a.s.其中,（?）是BDSDE（4.16）的唯一解.第五章:研究带脉冲的随机最优控制和随机微分对策问题.首先研究三类带脉冲的正倒向系统的随机最优控制问题,得到必要最优条件和充分最优条件,也给出了对这三类问题的比较.在第一个随机最优控制问题中,连续控制域和脉冲控制域均为凸集.通过凸变分容易得到如下的最大值原理:定理5.2.4.设（u,ξ）是随机最优控制问题（5.3）-（5.4）的最优控制,（?）是最优的系统轨线,（?）是伴随方程的解.则有其中,（?）是如下定义的哈密尔顿函数:由于假设系统参数关于变量u连续可微,下面的充分最优性定理也容易得到.定理5.2.6.设条件5.2.1成立;假定（?）与（?）为凸函数;且存在（?）与（?）使得（?）具有如下特殊形式:用（?）表示（u,ξ）∈φ对应的伴随方程的解.如果（u,ξ）满足（5.7）和（5.8）两式,则它一定是随机最优控制问题（5.3）-（5.4）的最优控制.在第二个最优控制问题中,假定脉冲控制域为凸集而连续控制域非凸,且扩散项系数σ不含控制变量.对连续控制变量使用针状变分,对脉冲控制变量使用凸变分可得如下最大值原理:定理5.3.7.设（u,ξ）是随机最优控制问题（5.3）-（5.4）的最优控制,（?）是最优的系统轨线,（?）是伴随方程的解.则有其中,（?）是如下定义的哈密尔顿函数:假定连续控制域U为凸集,借助Clarke广义梯度的性质可以得到如下的充分最优性定理:定理5.3.9.设条件5.3.3和5.3.8成立;假定（?）与（?）为凸函数;且存在（?）与（?）使得（?）具有如下特殊形式:用（?）表示（u,ξ）∈φ对应的伴随方程的解.如果（u,ξ）满足（5.19）和（5.20）两式,则它一定是最优控制问题（5.13）-（5.14）的最优控制.在第三个最优控制问题中,假定脉冲控制域为凸集而连续控制域非凸,并且扩散项系数σ中含有连续控制变量v.这种情况下针状变分不再适用,而松弛控制的方法可以在一定条件下解决这个问题.首先用松弛控制变量q_t代替连续控制变量v_t得到一个最优松弛-脉冲控制问题.基于松弛控制具有的良好性质,这个新问题的必要最优条件和充分最优条件不难得到.而在一定条件下,原最优控制问题是此最优松弛-脉冲控制问题的特殊情形;这样便可很容易得到期望的结论.定理5.4.3.设条件5.4.1和5.4.2成立,则随机最优控制问题（5.24）-（5.25）的最优控制（u,ξ）满足其中,（?）是如下定义的哈密尔顿函数:定理5.4.4.设条件5.4.1和5.4.2成立;假设（?）与（?）为凸函数;且存在（?）与（?）使得（?）具有如下特殊形式:设（?）是（u,ξ）∈φ对应的伴随方程的解.如果（u,ξ）满足（5.26）和（5.27）两式,则它一定是随机最优控制问题（5.24）-（5.25）的最优控制.最后考虑一个带脉冲的随机对策问题.通过动态规划原理证明该对策存在值.定理5.6.4.假设条件5.6.1和5.6.2成立,则V_-=V₊是对应拟变分不等式（5.36）在BUC（Rⁿ）中的唯一粘性解,从而该对策存在值.还通过一个验证定理得到了该对策的最优策略.定理5.6.12.设条件5.6.1和5.6.2成立.设v∈BUC（Rⁿ）是对应的拟变分不等式的经典解.如果v对应的QVI-控制（u^*（·）,ξ^*（·））是容许控制,则”恰好是该对策问题的值函数,从而（u^*（·）,ξ^*（·））是对策的一组最优策略.