自然语言的内容有很多,今天本文所介绍的自然语言处理部分是“文本摘要”和“关键词提取”,很多朋友都应该有自己的博客,在做博客的时候,经常会发一些文章,这些文章发出去了,有的很容易被搜索引擎检索,有的则很难,那么有没有什么方法,让博客对搜索引擎友好一些呢?这里有一个好方法:
那就是填写网页的Description还有Keywords。难道每次都需要我们自己去填写么?还是说有一些奇淫巧技可以尝试。
本文将会通过Python的jieba和snownlp进行关键词提取和文本摘要实现。
准备资源
下载以下资源:
代码语言:javascript复制https://github.com/fxsjy/jieba
https://github.com/isnowfy/snownlp
下载之后,新建文件夹,将这些文件中对应的文件拷贝:
拷贝之后,建立文件index.py
代码语言:javascript复制# -*- coding: utf8 -*-
import json
import jieba.analyse
from snownlp import SnowNLP
def FromSnowNlp(text, summary_num):
s = SnowNLP(text)
return s.summary(summary_num)
def FromJieba(text, keywords_type, keywords_num):
if keywords_type == "tfidf":
return jieba.analyse.extract_tags(text, topK=keywords_num)
elif keywords_type == "textrank":
return jieba.analyse.textrank(text, topK=keywords_num)
else:
return None
def main_handler(event, context):
text = event["text"]
summary_num = event["summary_num"]
keywords_num = event["keywords_num"]
keywords_type = event["keywords_type"]
return {"keywords": FromJieba(text, keywords_type, keywords_num),
"summary": FromSnowNlp(text, summary_num)}
超简单的代码有没有!
上传文件
在SCF网页上面建立一个项目:
提交方法选择上传zip:
然后我们压缩文件,并改名为index.zip:
测试
测试之前可以适当调整一下我们的配置:
然后进行input模板的输入:
模板可以是:
代码语言:javascript复制{
"text": "前来参观的人群络绎不绝。在“两弹历程馆”里,讲解员龚照怡正在给参观的学生介绍:“这是我国第一颗核航弹的模型,长3米、直径1.5米左右,后面就是它爆炸时产生的蘑菇云。”学生们一边听一边认真记录。记者看到,馆内利用声、光、电等手段,通过实物、模型、影像资料和场景复原,展现“两弹”研制工作的艰辛历程。“算盘、计算尺这些文物都是激励后人艰苦奋斗的好教材。我们让文物‘回家’,让观众看到当年科研人员住什么样的房子,用什么样的用具,了解在那么艰苦的环境下,他们是怎样研制‘两弹’的,怎么样让中国挺起了民族的脊梁。”四川省梓潼两弹城红色旅游开发有限公司副总经理贾鲁蓉告诉记者,作为爱国主义教育基地,这里目前存有2万多份图片资料、500多万字文字资料、3000余件实物。在“两弹历程馆”的不远处是“将军楼”。1983年5月20日,时任国防部部长张爱萍将军来到长卿山视察中物院,看到科学家们在大山沟里艰苦卓绝地工作,即兴赋诗一首:“二十二年难忘情,崎岖道路信踏平。屡建奇功震寰宇,更创奇迹惊鬼神。”",
"summary_num": 5,
"keywords_num": 5,
"keywords_type": "tfidf"
}
然后点击测试:
应用
至此,我们完成了简单的关键词提取功能和简单的抽取式文本摘要过程,当然,这部分依旧是一个简单的抛砖引玉,因为摘要这里还有声称是文本摘要,而且抽取式摘要也可能会根据不同的文章类型,有着不同的特色方法,所以我这里只是通过一个简单的Demo来实现一个小功能,帮助大家做一个简单的SEO优化,大家可以在做博客的时候,增加keywords或者description字段,然后每次从sql获得文章数据的时候,将这两个部分放到meta中,会大大的提高页面被索引的概率哦~!