|
|
|
题名
|
作者
|
年代
|
出处
|
被引量
|
| 1 | 基于注意力机制的多通道CNN和BiGRU的文本情感倾向性分析显示文摘近年来,卷积神经网络(convolutional neural network,CNN)和循环神经网络(recurrent neural network,RNN)已在文本情感分析领域得到广泛应用,并取得了不错的效果.然而,文本之间存在上下文依赖问题,虽然CNN能提取到句子连续词间的局部信息,但是会忽略词语之间上下文语义信息;双向门控循环单元(bidirectional gated recurrent unit,BiGRU)网络不仅能够解决传统RNN模型存在的梯度消失或梯度爆炸问题,而且还能很好地弥补CNN不能有效提取长文本的上下文语义信息的缺陷,但却无法像CNN那样很好地提取句子局部特征.因此提出一种基于注意力机制的多通道CNN和双向门控循环单元(MC-AttCNN-AttBiGRU)的神经网络模型.该模型不仅能够通过注意力机制关注到句子中对情感极性分类重要的词语,而且结合了CNN提取文本局部特征和BiGRU网络提取长文本上下文语义信息的优势,提高了模型的文本特征提取能力.在谭松波酒店评论数据集和IMDB数据集上的实验结果表明:提出的模型相较于其他几种基线模型可以提取到更丰富的文本特征,可以取得比其他基线模型更好的分类效果. | 程艳 尧磊波 张光河 唐天伟 项国雄 陈豪迈 冯悦 蔡壮 | 2020 | 计算机研究与发展2020，57，12： | 37 |
| 2 | 基于RNN和Transformer模型的自然语言处理研究综述显示文摘现今是高度信息化、智能化的社会,人们的生活早已离不开人工智能,如停车厂的车牌识别、美颜相机的智能滤镜以及机器人、语言翻译等。而在这些智能系统的背后,是人工智能在起着关键的作用,深度学习是人工智能的深层次理论,而本文所研究的自然语言处理则是深度学习的一个主要方向,也是机器学习的重要组成部分。自然语言处理简称NLP(natural language processing),NLP是人工智能方向中专门研究人类语言的,它的研究范围包括各个国家的所用语言,并应用于机器翻译、观点提取、语音识别、自动摘要、文本分类等多个方面。N L P的主要神经网络模型包括RNN(recurrent neural network)、LSTM(long short-term memory)、GRU(gate recurrent unit)、Transformer等。通过结合RNN、LSTM以及Transformer模型来对自然语言处理研究的发展进行说明和探讨。 | 李华旭 | 2021 | 信息记录材料2021，22，12： | 18 |
| 3 | 基于深度学习的文本分类综述显示文摘随着互联网的不断发展,网络上的文本数据日益增多,如果能对这些数据进行有效分类,那么更有利于从中挖掘出有价值的信息,因此文本数据的管理和整合显得十分重要。文本分类是自然语言处理任务中的一项基础性工作,主要应用于舆情检测及新闻文本分类等领域,目的是对文本资源进行整理和归类。基于深度学习的文本分类,在对文本数据处理中,表现出较好的分类效果。本文对用于文本分类的深度学习算法进行详细阐述,按照深度学习的不同算法进行分类,并分析各种算法的特点,最后对深度学习算法在文本分类领域的未来研究方向进行总结。 | 贾澎涛 孙炜 | 2021 | 计算机与现代化2021，，7： | 16 |
| 4 | 融入自注意力机制的深度学习情感分析方法显示文摘文本情感极性分析是自然语言处理的热点领域,近年来基于中文语料的情感分析方法受到了学术界的广泛关注。目前大部分基于词向量的循环神经网络与卷积神经网络模型对于文本特征的提取和保留能力不足,为此文中引入了多层自注意力机制,提出了一种结合双向门控循环单元(BGRU)和多粒度卷积神经网络的中文情感极性分析方法。该方法首先使用BGRU获取文本的序列化特征信息,然后使用自注意力机制进行初步特征筛选,将处理后的特征信息导入含有不同卷积核的卷积神经网络;再使用自注意力机制对获得的局部特征进行动态权重的调整,注重关键特征的抽取;最后经Softmax获得文本情感极性。实验结果证明,模型在两种中文语料数据集上都体现了较好的分析处理性能,其中在ChineseNLPcorpus的online;hopping;0;ats数据集上取得了92.94%的情感分类准确性,在中科院谭松波学者整理的酒店评论数据集上取得了92.75%的情感分类准确度,相比目前的主流方法,其性能均有显著的提升。 | 胡艳丽 童谭骞 张啸宇 彭娟 | 2022 | 计算机科学2022，49，1： | 12 |
| 5 | 基于ELMo和Bi-SAN的中文文本情感分析显示文摘目前情感分析模型通常使用word2vec、GloVe等方法生成静态词向量,并且传统的卷积或循环深度模型无法完整地关注上下文,提取特征不充分,影响情感判断。针对上述问题,提出基于ELMo(embedding from language model)和双向自注意力网络(bidirectional self-attention network,Bi-SAN)的中文文本情感分析模型。首先通过ELMo语言模型训练得到融合词语本身和上下文信息的词向量,解决了一词多义的问题;同时使用预训练的skip-gram算法代替随机初始化的ELMo模型的嵌入层,提高模型的收敛速度;之后使用Bi-SAN提取特征,由于自注意力机制,Bi-SAN可以完整地关注每个词的上下文,提取特征更为全面。同现有的多个情感分析模型对比,该模型在酒店评论数据集上和NLPCC2014 task2中文数据集取得了更高的F 1值,验证了模型的有效性。 | 李铮 陈莉 张爽 | 2021 | 计算机应用研究2021，38，8： | 11 |
| 6 | 面向中文新闻文本分类的融合网络模型显示文摘针对神经网络文本分类模型随着层数的加深,在训练过程中发生梯度爆炸或消失以及学习到的词在文本中的语义信息不够全面的问题,该文提出了一种面向中文新闻文本分类的融合网络模型。该模型首先采用密集连接的双向门控循环神经网络学习文本的深层语义表示,然后将前一层学到的文本表示通过最大池化层降低特征词向量维度,同时保留其主要特征,并采用自注意力机制获取文本中更关键的特征信息,最后将所学习到的文本表示拼接后通过分类器对文本进行分类。实验结果表明:所提出的融合模型在中文新闻长文本分类数据集NLPCC2014上进行实验,其精度、召回率、F1-score指标均优于最新模型AC-BiLSTM。 | 胡玉兰 赵青杉 陈莉 牛永洁 | 2021 | 中文信息学报2021，35，3： | 10 |
| 7 | 基于ERNIE和双重注意力机制的微博情感分析显示文摘针对传统词向量无法在上下文中表示词的多义性,以及先验的情感资源未能在神经网络中得到充分利用等问题,提出一种基于知识增强语义表示(Enhanced Representation through Knowledge Integration,ERNIE)和双重注意力机制(Dual Attention Mechanism,DAM)的微博情感分析模型ERNIE-DAM.首先利用现有的情感资源构建一个包含情感词、否定词和程度副词的情感资源库;其次采用BLSTM网络和全连接网络分别对文本和文本中包含的情感信息进行编码,不同的注意力机制分别用于提取文本和情感信息中的上下文关系特征和情感特征,并且均采用ERNIE预训练模型获取文本的动态特征表示;最后将上下文关系特征和情感特征进行拼接融合,获取最终的特征向量表示.实验结果表明,新模型在COAE2014和weibo_senti_100k数据集上的分类准确率分别达到了94.50%和98.23%,同时也验证了将情感资源运用到神经网络中的有效性. | 沈彬 严馨 周丽华 徐广义 刘艳超 | 2022 | 云南大学学报(自然科学版)2022，44，3： | 10 |
| 8 | 融合关键对象识别与深层自注意力的Bi-LSTM情感分析模型显示文摘在线评论文本通常涉及多个评价对象,对象的表达方式有显式和隐式之分,针对不同对象的情感倾向可能不会完全一致.关键评价对象是评论中最受关注的对象,其相应的情感语义对整条评论的情感观点起主导作用.本文构建了融合关键对象识别与深层自注意力机制的Bi-LSTM模型,以提升短文本情感分类的效果.使用CNN处理文本,基于卷积层输出结果识别关键评价对象,并在此基础上完成深层自注意力的学习.将对象信息与文本信息进行融合,利用注意力机制强化的Bi-LSTM模型得到评论文本的情感分类结果.在酒店评论数据集上进行实验,与之前基于深度学习的模型相比,本文方法在精确率、召回率和F-score评价指标方面均有更好的表现. | 李磊 吴旭辉 刘继 | 2021 | 小型微型计算机系统2021，42，3： | 10 |
| 9 | 基于注意力机制和BiGRU融合的文本情感分析显示文摘针对简单的神经网络缺乏捕获文本上下文语义和提取文本内重要信息的能力,设计了一种注意力机制和门控单元(GRU)融合的情感分析模型FFA-BiAGRU。首先,对文本进行预处理,通过GloVe进行词向量化,降低向量空间维度;然后,将注意力机制与门控单元的更新门融合以形成混合模型,使其能提取文本特征中的重要信息;最后,通过强制向前注意力机制进一步提取文本特征,再由softmax分类器进行分类。在公开数据集上进行实验,结果证明该算法能有效提高情感分析的性能。 | 杨青 张亚文 朱丽 吴涛 | 2021 | 计算机科学2021，48，11： | 8 |
| 10 | 结合LDA与Self-Attention的短文本情感分类方法显示文摘在对短文本进行情感分类任务的过程中,由于文本长度过短导致数据稀疏,降低了分类任务的准确率。针对这个问题,提出了一种基于潜在狄利克雷分布(LDA)与Self-Attention的短文本情感分类方法。使用LDA获得每个评论的主题词分布作为该条评论信息的扩展,将扩展信息和原评论文本一起输入到word2vec模型,进行词向量训练,使得该评论文本在高维向量空间实现同一主题的聚类,使用Self-Attention进行动态权重分配并进行分类。通过在谭松波酒店评论数据集上的实验表明,该算法与当前主流的短文本分类情感算法相比,有效地提高了分类性能。 | 陈欢 黄勃 朱翌民 俞雷 余宇新 | 2020 | 计算机工程与应用2020，56，18： | 7 |
| 11 | 基于BERT的复合网络模型的中文文本分类显示文摘针对自然语言在语句结构上有着较强的前后依赖关系,提出一种基于BERT的复合网络模型进行中文新闻分类。首先利用BERT的基于注意力机制的多层双向transformer特征提取器获得字词以及句子之间更加全局的特征关系表达。然后将所得数据输入门结构更加简单的双向门控循环神经网络层将特征增强的同时减少时间代价,加强数据特征的选取精确度。最后将不同权重的文本特征信息输入softmax函数层进行新闻分类。通过在cnews新浪新闻数据集上进行实验,获得97.21%的F1值,结果表明所提特征融合模型较其他模型分类效果更好。 | 方晓东 刘昌辉 王丽亚 殷兴 | 2020 | 武汉工程大学学报2020，42，6： | 6 |
| 12 | 融合注意力机制和Bi-LSTM的旅游评价情感分析模型显示文摘旅游评价情感分析对了解游客偏好具有重要意义,然而现有的旅游评价情感分析模型较少突出游客情感描述的核心内容。为了更加精确地分析游客评价的情感倾向,提出一种结合词性注意力机制和双向长短期记忆神经网络(Bi-directional Long Short-Term Memory,Bi-LSTM)的旅游评价情感分析模型。该模型采用BiLSTM捕获上下文语义信息并充分利用句子中词语的词性与情感极性词之间的关系,无需依赖人工组织的情感领域词典,并使用词性注意力机制关注情感描述内容核心部分。实验结果表明,该旅游评价情感分析模型具有更高的准确率、精确度、召回率和F1得分,分别达91.84%、90.63%、92.33%、91.47%,比自注意力机制(Self Attention Mechanism,SAM)与Bi-LSTM结合的情感分析方法分别提高4.3%、1.02%、5.12%、3.08%。 | 陈玉娇 陈崇成 吕贵杰 黄正睿 | 2022 | 软件导刊2022，21，2： | 5 |
| 13 | 基于深度学习的短文本分类方法研究综述显示文摘从CNN、RNN、CNN-RNN、GCN及其他深度学习方法五方面,全面分析了深度学习在短文本分类应用中的研究现状,比较了各自的优缺点,总结了常用的标签数据集。结果表明:目前深度学习在短文本分类中的应用研究主要集中在高效算法改进以及文本信息拓展两方面;对模型检验中构建标签数据集的研究也处于起步阶段,大多是针对影评、商品评论、新闻等特定领域的,还需不断完善;基于深度学习的短文本分类方法研究,今后在理论研究方面将重点关注算法改进、信息拓展以及二者的相互融合,在实践中探索某些分类效果较好的特定领域应用。 | 淦亚婷 安建业 徐雪 | 2023 | 计算机工程与应用2023，59，4： | 5 |
| 14 | 融合Bert和BiLSTM的中文短文本分类研究显示文摘中文短文本具有长度短及上下文依赖强的特点,针对新闻主题文本用词不够规范、语义模糊、特征稀疏等问题,提出首先在词向量表示阶段引入Bert(双向Transformers编码器)生成融合字、文本及位置的词向量作为训练文本的词表征进行文本语义增强,然后将得到的词向量输送到BiLSTM(双向长短期记忆网络)网络中提取上下文关系特征,最后使用Softmax分类器进行文本分类,模型准确率达0.9391。通过与其他主流方法进行对比和实验验证,实验结果表明,文章提出的方法在进行新闻短文本分类时有良好效果。 | 郝婷 王薇 | 2023 | 软件工程2023，26，3： | 5 |
| 15 | 基于BGRU和自注意力机制的情感分析显示文摘自然语言处理领域的一个研究热点是对社交网络产生的文本数据进行情感分析。由于循环神经网络结构复杂且存在记忆丢失、梯度弥散问题影响分类的准确率;而注意力机制需要依赖较多的参数,无法关注更多文本的内部序列关系。针对此问题,提出基于BGRU和自注意力机制的情感分析。模型首先将文本用GloVe向量化,之后使用BGRU提取文本的上下文信息,再通过自注意力机制动态调整特征的权重,最后用分类器得到情感分类的结果。提出的模型在IMDB英文语料库上进行多组对比实验,结果表明,该方法在文本分类中的准确率达到91.23%。 | 孙敏 李旸 庄正飞 钱涛 | 2020 | 江汉大学学报(自然科学版)2020，48，4： | 5 |
| 16 | 基于LSTM的气液两相流液相流量测量方法显示文摘气液两相流参数测量的准确性和实时性对火力发电、化工、石油等工业生产具有重要意义。为提升气液两相流液相流量测量速度和精度,通过对电阻层析成像(electrical resistance tomography,ERT)技术和长短时记忆(long and short time memory,LSTM)神经网络的研究,提出了一种基于LSTM神经网络的气液两相流流量测量方法。利用16电极ERT系统分别采集了弹状流、泡状流两种流型对应的阵列电阻值,并将其作为LSTM神经网络的输入,电磁流量计采集的液相流量值作为理想输出,通过网络训练得到了2种流型下的液相流量测量模型。仿真实验结果表明:利用该方法在弹状流和泡状流下的均方根误差分别为5.359 m^(3)/h和4.088 m^(3)/h,平均引用误差低于3%,测量精度和速度优于BP神经网络,能够实现对两种流型下液相体积流量的准确测量。 | 仝卫国 曾世超 李芝翔 朱赓宏 | 2021 | 仪表技术与传感器2021，，11： | 4 |
| 17 | 基于并行双向门控循环单元与自注意力机制的中文文本情感分类显示文摘在基于深度学习的文本情感分类研究领域中,目前传统的模型主要是序列结构,即采用单一的预训练词向量来表示文本从而作为神经网络的输入,然而使用某一种预训练的词向量会存在未登录词和词语语义学习不充分的问题。针对此问题,提出基于并行双向门控循环单元(gated recurrent unit,GRU)网络与自注意力机制的文本情感分类模型,利用两种词向量对文本进行表示并作为并行双向GRU网络的输入,通过上下两个通道分别对文本进行上下文信息的捕捉,得到表征向量,再依靠自注意力机制学习词语权重并加权,最后对两个通道的输出向量进行向量融合,作为输入进入全连接层判别情感倾向。将本文模型与多个传统模型在两个公共数据集上进行实验验证,结果表明本文模型在查准率、查全率、F1值和准确率等性能指标上相比于双向门控循环单元网络模型、双向长短时记忆网络模型和双向门控循环单元网络与自注意力机制的单通道网络模型均有所提升。 | 崔昕阳 龙华 熊新 邵玉斌 杜庆治 | 2020 | 北京化工大学学报(自然科学版)2020，47，2： | 4 |
| 18 | 结合金融领域情感词典和注意力机制的细粒度情感分析显示文摘针对在金融领域实体级情感分析任务中缺乏足够的标注语料,以及通用的情感分析模型难以有效处理金融文本等问题,该文构建一个百万级别的金融领域实体情感分析语料库,并标注5000余个金融领域情感词作为金融领域情感词典。同时,基于该金融领域数据集,提出一种结合金融领域情感词典和注意力机制的金融文本细粒度情感分析模型(FinLexNet)。该模型使用两个LSTM网络分别提取词级别的语义信息和基于情感词典分类后的词类级别信息,能有效获取金融领域词语的特征信息。此外,为了让文本中金融领域情感词获得更多关注,提出一种基于金融领域情感词典的注意力机制来为不同实体获取重要的情感信息。最终在构建的金融领域实体级语料库上进行实验,取得了比对比模型更好的效果。 | 祝清麟 梁斌 徐睿峰 刘宇瀚 陈奕 毛瑞彬 | 2022 | 中文信息学报2022，36，8： | 4 |
| 19 | 改进BERT的中文评论情感分类模型显示文摘为了改善现有基于深度学习网络的中文评论情感分类方法,同时提高中文评论情感分类的正确率和效率,基于Tensorflow框架,对传统BERT模型进行改进,以Nlpcc2013和Nlpcc2014公开的微博评论数据集为实验数据,分别从两个数据集中清洗抽取出3 949条和14 163条情感极性明显的评论,将数据输入改进后的RoBERTa模型中,提取语义后利用Sigmoid函数进行情感正负极性分类。实验结果表明,该模型的算法准确率、精确率、召回率和F1值较高,在Nlpcc2013数据集上分别达87.85%、88.36%和89.67%,比传统的BERT模型在各项数据上分别提高了1.52%、0.47%、2.58%、1.52%;在Nlpcc2014数据集上各项指标比BERT模型分别提高了1.30%、0.54%、2.32%、1.44%。研究表明,该模型在中文评论情感分类处理上表现优异,相较以往的深度学习网络模型效果更好。 | 范安民 李春辉 | 2022 | 软件导刊2022，21，2： | 3 |
| 20 | 融合主题模型与自注意力机制的短文本情感分析方法显示文摘短文本信息被越来越多的商业分析所重视,企业能够从文本数据中挖掘出用户情感信息从而做出更有价值的商业决策。现有的文本分析模型对于特征模糊、数据稀疏的短文本数据难以准确挖掘上下文语境信息。针对该问题,提出了一种融合主题模型与自注意力机制的短文本情感分析方法。采用主题模型对稀疏文本进行特征扩展,输入Word2vec训练主题词向量,由双向长短期记忆网络(Bi-LSTM)挖掘短文本上下文特征,经过自注意力机制进行权重重分配,最后由Softmax得到情感极性的分类概率。通过该算法与多种常见模型进行对比实验,在情感判断准确率上优于其他模型。 | 陈莉媛 毋涛 | 2021 | 国外电子测量技术2021，40，11： | 3 |
您所在的机构暂未开通此部分的功能，请联系管理员