国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

python實現textrank關鍵詞提取

2020-02-15 21:58:48
字體:
來源:轉載
供稿:網友

用python寫了一個簡單版本的textrank,實現提取關鍵詞的功能。

import numpy as np import jieba import jieba.posseg as pseg  class TextRank(object):      def __init__(self, sentence, window, alpha, iternum):     self.sentence = sentence     self.window = window     self.alpha = alpha     self.edge_dict = {} #記錄節點的邊連接字典     self.iternum = iternum#迭代次數    #對句子進行分詞   def cutSentence(self):     jieba.load_userdict('user_dict.txt')     tag_filter = ['a','d','n','v']     seg_result = pseg.cut(self.sentence)     self.word_list = [s.word for s in seg_result if s.flag in tag_filter]     print(self.word_list)    #根據窗口,構建每個節點的相鄰節點,返回邊的集合   def createNodes(self):     tmp_list = []     word_list_len = len(self.word_list)     for index, word in enumerate(self.word_list):       if word not in self.edge_dict.keys():         tmp_list.append(word)         tmp_set = set()         left = index - self.window + 1#窗口左邊界         right = index + self.window#窗口右邊界         if left < 0: left = 0         if right >= word_list_len: right = word_list_len         for i in range(left, right):           if i == index:             continue           tmp_set.add(self.word_list[i])         self.edge_dict[word] = tmp_set    #根據邊的相連關系,構建矩陣   def createMatrix(self):     self.matrix = np.zeros([len(set(self.word_list)), len(set(self.word_list))])     self.word_index = {}#記錄詞的index     self.index_dict = {}#記錄節點index對應的詞      for i, v in enumerate(set(self.word_list)):       self.word_index[v] = i       self.index_dict[i] = v     for key in self.edge_dict.keys():       for w in self.edge_dict[key]:         self.matrix[self.word_index[key]][self.word_index[w]] = 1         self.matrix[self.word_index[w]][self.word_index[key]] = 1     #歸一化     for j in range(self.matrix.shape[1]):       sum = 0       for i in range(self.matrix.shape[0]):         sum += self.matrix[i][j]       for i in range(self.matrix.shape[0]):         self.matrix[i][j] /= sum    #根據textrank公式計算權重   def calPR(self):     self.PR = np.ones([len(set(self.word_list)), 1])     for i in range(self.iternum):       self.PR = (1 - self.alpha) + self.alpha * np.dot(self.matrix, self.PR)    #輸出詞和相應的權重   def printResult(self):     word_pr = {}     for i in range(len(self.PR)):       word_pr[self.index_dict[i]] = self.PR[i][0]     res = sorted(word_pr.items(), key = lambda x : x[1], reverse=True)     print(res)  if __name__ == '__main__':   s = '程序員(英文Programmer)是從事程序開發、維護的專業人員。一般將程序員分為程序設計人員和程序編碼人員,但兩者的界限并不非常清楚,特別是在中國。軟件從業人員分為初級程序員、高級程序員、系統分析員和項目經理四大類。'   tr = TextRank(s, 3, 0.85, 700)   tr.cutSentence()   tr.createNodes()   tr.createMatrix()   tr.calPR()   tr.printResult()             
發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 昌平区| 资源县| 宜春市| 桃源县| 岑溪市| 桃江县| 佳木斯市| 常宁市| 朝阳市| 云霄县| 铁岭县| 陆川县| 涪陵区| 古蔺县| 贞丰县| 昭觉县| 奉新县| 申扎县| 上犹县| 平度市| 永年县| 阳东县| 伊金霍洛旗| 旬邑县| 古丈县| 晋城| 星子县| 蒲江县| 普兰县| 克拉玛依市| 东兰县| 石台县| 南平市| 昌平区| 揭阳市| 定远县| 晋宁县| 墨竹工卡县| 平原县| 成武县| 铜鼓县|