爬虫小案例:联想词汇搜索
数据来源:http://ictclas.nlpir.org/nlpir/ (一个很牛逼的网站,上面有非常多的处理语言的功能(如分词标注、情感分析、相关词汇))
当然这个网站还有其他的功能,像“分词标注”,就是把你输入的文本切成一个个的词,并且把这些词的词性都标出来;
还有“情感分析”的功能,就是分析你输入的文本里面“乐”、“恶”、“怒”、“哀”等情绪的占比是多少......
可是,这些功能的意义在哪呢?
在人工智能领域里,有一个很重要的领域,叫自然语言处理(NLP)。NLP致力于让计算机听懂人的话,理解人的话,在此基础上,人与计算机才有对话的可能。
而这个处理语言的网站的主要功能(如分词标注、情感分析、关键词提取、相关词汇等),就是NLP中的核心的底层技术。
我们所理解的siri、小爱同学、微软小冰,这些可以和人交流的对话系统,也是建构在NLP之上的。
无论最后建成的大楼有多么宏伟,都不可缺少坚实的地基。而对词语的基本处理,就是人工智能的一种“地基”,所以大家不要小觑这个网站中对语言处理的基本功能。
import requests url = 'http://ictclas.nlpir.org/nlpir/index6/getWord2Vec.do' headers = { 'referer':'http://ictclas.nlpir.org/nlpir/', 'user-agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36 OPR/65.0.3467.78 (Edition Baidu)' } data = { 'content':input('请输入联想词汇:') } print('正提交请求...') res = requests.post(url, headers=headers, data=data) if res.status_code == 200: # 分析 vjsons =res.json()['vjson'] words = [] for value in vjsons.values(): word = [] for i in value: word.append(i.split(',')[0]) words.append(word) print('可以联想到的词汇有:') for i in words: print(i) else: print('服务器请求失败!')