移动互联网技术的不断发展以及网络应用软件的普及,使得人们已经习惯在社交媒体,技术博客等各种新兴网络平台上发表自身的观点和看法。大家各抒己见促进了社会的进步。但随之而来也有很多问题,比如网络暴力,性别歧视等,这些问题给人们的生活带来了不可忽视的影响。因此,对网络中带有恶意的评论进行识别是很有意义的工作。但随着全球化进程的不断加快以及全球网民数量的不断增加,互联网当中的语言开始变得多种多样,有些软件中还包括多种语言。如果对于互联网中的每一种语言都建立相应的模型进行评论识别,显然不论从语料的搜集上,还是从模型的创建和应用上都有一定的困难。所以,使用跨语言模型对多语言网络评论进行识别是很有必要的。本文研究多语言网络评论分类问题,主要工作包括改进跨语言模型中提取文本特征的方法以及评估不同文本分类算法的分类效果,具体而言包括如下几点:1.本文对近年来四种较有代表性的跨语言模型进行理论方面的阐述,并对四种模型的分类效果做出对比实验。四种模型分别为m BERT、XLM、Unicoder、XLM-R。在理论叙述的基础上,本文又对四种模型进行了实验分析。实验结果表明,XLM-R模型的准确率及AUC值最高。因此后续研究以XLM-R模型作为主体。2.针对XLM-R模型如何获取更多文本特征的问题,本文提出对其网络结构进行改造的方法。具体是将XLM-R模型的第10、11、12层（后三层）进行拼接,构造出XLM-R-3模型。实验结果表明,XLM-R-3模型的准确率和AUC值高于初始模型及其它拼接模型。之后将XLM-R-3模型作为词嵌入层,与不同的传统分类算法相结合。实验结果表明,XLM-R-3与支持向量机结合时准确率及AUC值最高。3.本文使用深度学习分类算法对特征进行进一步提取。文中以XLM-R-3模型作为输入层,分别结合卷积神经网络和循环神经网络及其变体。最终提出XLM-R-3-BGA模型。该模型使用XLM-R-3与双向GRU网络进行结合,以双向GRU作为主体网络,提取文本的上下文特征,最后使用注意力机制,将重点词语重点突出,从而进行评论分析。实验结果表明,本文提出的XLM-R-3-BGA模型的准确率和AUC值高于初始模型及其他结合模型。4.跨语言模型与单语言模型的分类效果对比。本文使用谷歌翻译将英文翻译为西班牙文与意大利文。之后使用跨语言模型分别与西班牙文,意大利文的BERT模型进行对比。实验结果表明,跨语言模型的准确率和AUC值高于单语言模型。