随着计算机网络和通信技术的飞速发展，网络环境已经从早期相对静态的、面向特定组织和用户群体的封闭网络，转变为可公共访问的、面向大量动态用户的开放网络，其主要应用领域包括电子商务、分布式计算、文件共享P2P系统、信息过滤等。开放网络在促进了网络实体间的相互协作与资源共享的同时，由于网络的开放性、动态性、异质性、广域性、实体关系对等自治性、资源共享自愿性，以及陌生实体之间交互的可能性增加，交互内容也更加纷繁复杂，使网络安全面临新的挑战。目前在开放网络中缺乏有效的机制来提高系统的可用性，这表现为大量欺诈行为的存在以及不可靠的服务质量。如何在开放网络环境中建立并维护信任关系以提高整个网络的可用性，从而保证整个网络的良性发展已成为开放网络研究领域的主要课题之一。 在开放网络环境中，对任何具有一定规模的分布式应用来说，在一般情形下，实体之间不再相互熟悉，也不再隶属于同一管理机构和组织，不再属于同一安全认证域。实体间信任假设不复存在，实体间的信任关系往往很难通过传统的基于身份认证、访问控制的信任机制建立。而且传统的安全技术只解决了由服务请求方的恶意行为造成的安全威胁，没有解决由服务提供方的恶意行为造成的安全威胁。本文旨在借助社会学、经济学相关研究成果，通过在开放网络中建立并维护信任关系，以达到降低服务的安全风险，促进参与者间的信息交换与合作，抑制和消除开放网络中的恶意行为，提高服务的质量和可靠性(不追求绝对可靠的网络服务)，提高整个系统的可用性，从而推动应用的良性发展的目的。 本文首先归纳总结了开放网络的主要特征及由此给安全问题带来的挑战。分析了社会学、经济学、心理学等学科对信任的定义，在总结计算机科学领域对信任的研究成果基础上，给出了信任的一种定义，归纳总结了信任的主要特征与分类，给出了基于推荐的定量描述，阐述了与信任相关或相近概念与信任的关系。本文给出的信任定义能更深刻、全面地反映了开放网络中信任的主观性，不确定性、动态性和应用相关性等本质特征，对今后开放网络环境中的信任问题研究具有指导意义。 其次，针对信任的主观性特征，参考社会学的人际关系信任推荐模型，在P2P系统中建立直接信任推荐机制，首次引入了主观Bayes方法进行推荐证据推理，提出了基于主观Bayes方法的信任模型，并通过模拟仿真实验加以验证。理论分析及仿真实验说明，该模型是在概率论的基础上推导而来的，具有坚实的理论基础和合理的语义解释，能够有效处理信任的主观性特征，能够同时处理证据肯定存在、证据肯定不存在以及证据不确定情况下的推荐证据推理。 然后，针对信任的不确定性特征，在Grid与P2P混合计算环境中建立直接信任推荐机制，引入D-S(Dempster-Shafer)证据理论对推荐证据进行综合处理，提出了基于推荐证据推理的信任模型，并通过模拟仿真实验加以验证。分析及仿真实验说明，基于推荐证据推理的信任模型能够有效处理信任的不确定性问题，可以简单有效地解决混合计算环境中的信任问题，具有良好的工程可行性。 接着，对基于主观Bayes方法的信任模型和基于推荐证据推理的信任模型进行了有效性、收敛性、安全性、实体行为敏感性和负载均衡等仿真实验，并与其他信任模型进行了对比。仿真实验表明上述模型能够有效地抑制网络中的恶意行为，同时具有较好的收敛性，安全性和节点行为敏感性，对信任机制可能带来的负载不均衡问题给出的对策能有效地解决负载不均衡问题。 接下来，针对目前信任模型中采用的事前估计，事后调整的处理机制所带来的服务提供方的被动地位问题，首次在网格计算环境中引入信号博弈理论，提出了基于信号博弈的信任模型并对模型进行求解，证明了给出的解组成该模型的纯策略完美贝叶斯分离均衡。该模型采用基于事前预防，事后奖惩的处理机制，在该机制中服务提供方将是主动的。分析表明该模型可以使服务提供方主动摈弃恶意欺骗的动机，服务请求方不必参考其他实体的评价即可做出正确的选择，从而极大地简化计算并降低通信开销，为信任问题提出了新的解决方案。 最后，分析了信任模型在实际应用中面临的主要挑战，给出了基于分布式哈希表的Chord改进方法，设计了一个能满足匿名要求的信任信息分布式存储方案。在此基础上给出了一个基于推荐模型的分布式全局信任计算协议和信任管理原型系统，给出了协议的原语、语义以及节点信任计算算法，最后对协议的安全性进行了分析。该虚型系统对今后信任管理系统的设计与实现具有一定的应用参考价值。