近来电子技术和无线通信技术领域的发展促进了由大量低能耗、廉价和体积小的节点组成的大规模无线传感器网络的应用。在很多应用领域，无线传感器网络使用资源受限的节点来感知、收集和传播信息。随着传感器网络的广泛传播以及无线通信技术的引入，它的安全问题成为了人们关注的焦点，尤其是在军事目标跟踪和安全监测的领域。广播认证是无线传感器网络安全体系中的一个重要组成部分。基站经常需要合理地广播指令和数据给传感器节点，因为网络中大量传感器节点的存在和无线通信的广播特性。由于传感节点计算能力、存储空间、能源等受到限制，使得在传统网络中使用的认证技术不能直接应用于无线传感网络中。本文主要对基于公钥体制的广播认证协议及其DoS（Denial of Service）攻击进行深入研究,并取得以下研究成果:(1)本文提出一种基于身份的短签名广播认证协议ISSBAP（Identity-based ShortSignature Broadcast Authentication Protocol），它拥有目前最短的签名长度160 bits，计算量相比其它公钥签名低的多，还能提供认证多个基站的广播消息的功能。基于MICA2DOT平台对它的通信和计算能量消耗进行分析，以及对该协议的其它性能的分析，得出该协议引入的能量消耗小，满足广播认证的一些重要性质。(2)针对现有的一种基于短周期公钥的广播认证协议ShortPK中存在的公钥分发过程过于复杂和通信能量消耗过大的不足，提出一种改进后的广播认证协议Improved-ShortPK。它采用Bloom Filter技术来对公钥进行分发和认证。通过对改进后的协议进行性能分析，得知该协议比ShortPK协议引入的能量开销更小，公钥分发过程更简单。(3)当将数字签名应用到广播认证时，网络很容易受到DoS攻击。针对这种情况，提出一种基于弱认证和信誉等级的协议WARGS（Weak Authentication and Reputation Grade-basedScheme）来防御此类DoS攻击。该协议针对分簇的无线传感器网络模型，利用中国剩余定理和单向函数来完成弱认证，同时还引入信誉管理机制来对节点的信誉进行分级。仿真实验表明，与P. Ning和R. Wang等提出的方案相比，本协议在安全性、有效性和防御广播认证中的DoS攻击能力等方面，均具有较好的优势。