Pontryagin,Boltyanski,Gamkrelidze 和 Mischenko[46]研究了确定性系统的最大值原理,给出了最优控制满足的必要条件。随后,Kushner[33,34]利用Girsanov方法得到了连续参数下随机系统的最优控制的必要条件,Haussmann[50]给出了在扩散系数不依赖于控制的情形下更一般的随机最大值原理。后来又有很多学者进一步研究了 Pontryagin型的随机最大值原理,即主要在控制域为凸集的假设下得到相应的随机最大值原理。Peng[44]首次给出了克服这一困难的方法,得到了在控制域不一定为凸集且扩散项系数可以依赖于控制情形的随机最大值原理,称为Peng的随机最大值原理。Buckdahn,Djehiche和Li[13]研究了一类平均场随机微分方程（SDE）的随机控制问题,得到了 Peng的随机最大值原理。Buckdahn,Li和Ma[15]进一步研究了方程系数依赖于状态变量的分布时的Peng的随机最大值原理。随机最大值原理,尤其是平均场情形下的随机最大值原理,大部分工作都是假设系数满足Lipschitz条件。本文的创新之处是弱化Lipschitz条件,研究单调性条件下,平均场情形的相应的Pontryagin和Peng的随机最大值原理。这种推广,不局限于假设漂移项系数关于状态变量满足单调性条件,同时也假设其关于分布也满足单调性条件。本文的第一部分首先研究了单调性条件下平均场随机受控系统的随机最大值原理,其中随机受控系统形式如下:（?）（1）使得以下代价泛函最小的控制u（·）称为最优控制:J（u（·））=E[∫T0f（t,xu（t）,E[xu（t）],u（d））dt+h（xu（T）,E[xu（T）]）].（2）我们的目的是研究最优控制u（·）满足的条件。我们假设方程（1）的漂移项系数关于变量x,y均满足单调性条件,即:（b（t,x1,y,u）-b（t,x2,y,u））（x1-x2）≤α|x1-x2|2,α>0,（b（t,x,y1,u）-b（t,x,y2,u））（y1-y2）≤β|y1-y2|2,β>0.为了研究此条件下的随机最大值原理,本文证明了单调性条件下平均场随机微分方程（1）解的存在唯一性和各种估计,这是本文的难点之一。然后假设控制域为凸集,利用凸扰动的技巧,给出了一种局部形式的Pontryagin型的随机最大值原理,并举例说明。进一步,当控制域不一定为凸集时,利用1990年Peng[44]所提出的方法,我们考虑二阶变分方程和相关二阶伴随方程,证明了 Peng的随机最大值原理,同时给出了一个例子。本文的第二部分研究了当平均场随机微分方程系数依赖于状态变量分布时的随机最大值原理。考虑如下受控的随机微分系统:（?）（3）此时方程系数不仅依赖于状态变量,还依赖于它的分布。给出以下代价泛函:（?）（4）记u*是使得以上代价泛函最小的最优控制。我们假设方程（3）的漂移项系数关于变量x,μ分别满足以下单调性条件:（b（t,x1,μ,u）-b（t,x2,μ,u））（xi-x2）≤α|x1-x2|2,α>0,（b（t,x,PY1,u）-b（t,x,PY2,u））E[Y1-Y2]≤β(W1（PY1,PY2）2,,β>0.首先证明此条件下方程（3）的解的存在唯一性以及所需估计。然后,利用凸扰动和对偶的技巧,证明了 Pontryagin型的随机最大值原理。最后,在控制域不一定为凸集的假设下,利用针状变分得到了所需估计并证明了 Peng的随机最大值原理。本部分的难点主要在于需要对相关函数关于测度求导并得到相关的各种估计。不同于经典情形的是,这里的伴随方程是满足单调性条件的平均场倒向随机微分方程（BSDE）,本文也证明了其解的存在唯一性。