当前位置>主页 > 期刊在线 > 信息技术 >

信息技术23年4期

基于Word2Vec及TextRank算法的长文档摘要自动生成研究
朱玉婷,刘乐,辛晓乐,陈珑慧,康亮河
(甘肃农业大学,甘肃 兰州 730070)

摘  要:近年来,如何从大量信息中提取关键信息已成为一个急需解决的问题。针对中文专利长文档,提出一种结合Word2Vec 和 TextRank 的专利生成算法。首先利用 Python Jieba 技术对中文专利文档进行分词,利用停用词典去除无意义的词;其次利用 Word2Vec 算法进行特征提取,并利用 WordCloud 对提取的关键词进行可视化展示;最后利用 TextRank 算法计算语句间的相似度,生成摘要候选句,根据候选句的权重生成该专利文档的摘要信息。实验表明,采用 Word2Vec 和 TextRank 生成的专利摘要质量高,概括性也强。


关键词:Jieba 分词;关键词提取;Word2Vec 算法;TextRank 算法



DOI:10.19850/j.cnki.2096-4706.2023.04.009


基金项目:甘肃省农业大学盛彤笙科技创新基金(GSAU-STS-2021-15);国家自然基金(32060437);甘肃农业大学省级大学生创新创业训练计划项目(202216018)


中图分类号:TP391.1                                         文献标识码:A                               文章编号:2096-4706(2023)04-0036-04


Research on Abstract Automatic Generation of Long Document Based on the Word2Vec + TextRank Algorithm

ZHU Yuting, LIU Le, XIN Xiaole, CHEN Longhui, KANG Lianghe

(Gansu Agricultural University, Lanzhou 730070, China)

Abstract: In recent years, how to extract critical information from large amounts of information has become a problem which needs to be solved urgently. For Chinese patent long documents, a patent generation algorithm combining Word2Vec and TextRank is proposed. Firstly, Python Jieba technology is used to segment words in Chinese patent documents, and meaningless words are removed by using the stop dictionary. Secondly, the Word2Vec algorithm is used for feature extraction, and the extracted keywords are visually displayed by WordCloud. Finally, the TextRank algorithm is used to calculate the similarity between sentences, generate abstract candidate sentences, and generate abstract information of the patent documents according to the weight of candidate sentences. Experiments show that patent abstracts generated by Word2Vec and TextRank are of high quality and have strong generalization.

Keywords: Jieba word segmentation; keyword extraction; Word2Vec algorithm; TextRank algorithm


参考文献:

[1] 赵明辉,张玲玲,顾基发 . 基于网络评论文本挖掘的技术预见方法研究 [J]. 科技管理研究,2022,42(16):176-181.

[2] 熊谦,唐文哲 . 基于文本挖掘的水利工程建设管理信息化专利分析 [J]. 清华大学学报:自然科学版,2023,63(2):223-232.

[3] LUHN H P. The Automatic Creation of Literature Abstracts [J]. IBM Journal of Research and Development,1958,2(2):159-165.

[4] 刘志明,于波,欧阳纯萍,等 . 基于主题的 SE-TextRank 情感摘要方法 [J]. 情报工程,2017,3(3):97-104.

[5] SALTON G,YU C T. On the Construction of Effective Vocabularies for Information Retrieval [J].ACM SIGPLAN Notices, 1975,10(1):48-60.

[6] HU P,HE T T,JI D H,et al. A Study of Chinese Text Summarization Using AdaptiveClustering of Paragraphs [C]//the Fourth International Conference on Computer and Information Technology. Wuhan:IEEE,2004:1159-1164.

[7] 王永成,王晓峰 . 国家信息基础结构与全息检索 [J]. 电子出版,1997(4):57-59.

[8] KCHAOU D,BOUASSIDA N,BEN-ABDALLAH H. UML Models Change Impact Analysis Using a Text Similarity Technique [J]. IET Software,2017,11(1):27-37.

[9] LI W,XIAO X Y,LYU Y J,et al. Improving Neural Abstractive Document Summarization with Structural Regularization [C]//Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing.Brussels:Association for Computational Linguistics,2018:4078-4087.

[10] 程园,吾守尔 • 斯拉木,买买提依明 • 哈斯木 . 基于综合的句子特征的文本自动摘要 [J]. 计算机科学,2015,42(4):226-229.

[11] 徐 飞, 彭佳佳, 刘 军, 杨 博 . 基于多特征融合的TextRank 新闻自动摘要模型 [J/OL]. 计算机系统应用:1-8[2023-01-29].https://www.cnki.net/KCMS/detail/detail.aspx?dbco de=CAPJ&dbname=CAPJLAST&filename=XTYY20221114019& v=MTkxNjlBemxxMkEwZkxUN1I3cWRaT1p1RkNEa1c3dk5KR m89UFRuU2Q3RzRITlBOcm81QlpPb0dZd2s3dkJBUzZqaDRU. 

[12] 利润霖,龙昌敏,李雯芸,等 . 基于 TextRank 算法的项目标签智能化生成技术研究 [J]. 信息技术,2022(8):77-82.

[13] 李秀秀,陈海山 . 基于机器学习的新闻文本分类研究 [J].电脑编程技巧与维护,2021(12):132-135.

[14] 丁敬达,陈一帆,刘超,等 . 基于共词和 Word2Vec 加权向量的文献 - 主题语义匹配分析方法 [J]. 图书情报工作,2022,66(12):108-116.

[15] 罗婉丽,张磊 . 结合拓扑势与 TextRank 算法的关键词提取方法 [J]. 计算机应用与软件,2022,39(1):334-338.


作者简介:朱玉婷(2001—),女,汉族,甘肃平凉人,本科在读,研究方向:数据挖掘;刘乐(2004—),女,汉族,甘肃庆阳人,本科在读,研究方向:图像处理;辛晓乐(2000—),女,汉族,甘肃临夏人,本科在读,研究方向:机器视觉;陈珑慧(2000—),女,汉族,甘肃庆阳人,本科在读,研究方向:数据应用;康亮河(1987—),女,汉族,甘肃会宁人,助教,硕士,研究方向:人工智能算法研究。