NVIDIA公司设计的基于GPGPU的通用并行计算架构CUDA已经在各个领域得到广泛的应用。本文针对GPGPU设备外部的并行设计了基于CUDA的简化并行编程方案。首先,本文针对大批量数据场景提出了GPGPU设备间并行编程简化方案,以辅助本文提出的多地址空间封装技术能够独立地运行于集群环境中。此外,本文提出的GPGPU设备间并行编程解决方案引入了数据复用技术,对视频处理任务场景提供了优化。其次,本文针对CUDA并行编程中内存管理与多地址空间架构具有较高耦合度这一问题,提出了多地址空间封装技术来简化CPU与GPGPU设备间的并行编程。基于多地址空间封装技术,本文提出了源码转换技术,以进一步简化CUDA编程中的内存管理,允许编程者对于内存相关变量采取只声明不维护的编码方式。在实验中,本文将多地址空间封装技术与CUDA的统一虚拟寻址技术进行了对比,实验结果表明：当计算所需数据位于其它设备中时,在执行访存密集型任务时,多地址空间封装技术占有性能优势；在执行计算密集型任务时,统一虚拟寻址技术占有性能优势。最后,本文还通过从NPP库中选取的三个具有代表性的算法再次验证了上述结论,并在实验中测量了多地址空间封装技术的额外开销,实验结果表明其额外开销仅为0.04%至0.07%。