微博情感分析实战代码
原理
比如这么一句话：“这手机的画面极好，操作也比较流畅。不过拍照真的太烂了！系统也不好。”
① 情感词
要分析一句话是积极的还是消极的，最简单最基础的方法就是找出句子里面的情感词，积极的情感词比如：赞，好，顺手，华丽等，消极情感词比如：差，烂，坏，坑爹等。出现一个积极词就+1，出现一个消极词就-1。
里面就有“好”，“流畅”两个积极情感词，“烂”一个消极情感词。那它的情感分值就是1+1-1+1=2. 很明显这个分值是不合理的，下面一步步修改它。
② 程度词
“好”，“流畅”和‘烂“前面都有一个程度修饰词。”极好“就比”较好“或者”好“的情感更强，”太烂“也比”有点烂“情感强得多。所以需要在找到情感词后往前找一下有没有程度修饰，并给不同的程度一个权值。比如”极“，”无比“，”太“就要把情感分值4，”较“，”还算“就情感分值2，”只算“，”仅仅“这些就0.5了。那么这句话的情感分值就是：41+12-14+1=3
③ 感叹号
可以发现太烂了后面有感叹号，叹号意味着情感强烈。因此发现叹号可以为情感值+2. 那么这句话的情感分值就变成了：41+12-1*4-2+1 = 1
④ 否定词
明眼人一眼就看出最后面那个”好“并不是表示”好“，因为前面还有一个”不“字。所以在找到情感词的时候，需要往前找否定词。比如”不“，”不能“这些词。而且还要数这些否定词出现的次数，如果是单数，情感分值就-1，但如果是偶数，那情感就没有反转，还是1。在这句话里面，可以看出”好“前面只有一个”不“，所以”好“的情感值应该反转，*-1。
因此这句话的准确情感分值是：41+12-14-2+1-1 = -1
⑤ 积极和消极分开来
再接下来，很明显就可以看出，这句话里面有褒有贬，不能用一个分值来表示它的情感倾向。而且这个权值的设置也会影响最终的情感分值，敏感度太高了。因此对这句话的最终的正确的处理，是得出这句话的一个积极分值，一个消极分值（这样消极分值也是正数，无需使用负数了）。它们同时代表了这句话的情感倾向。所以这句评论应该是”积极分值：6，消极分值：7“
⑥ 以分句的情感为基础
再仔细一步，详细一点，一条评论的情感分值是由不同的分句加起来的，因此要得到一条评论的情感分值，就要先计算出评论中每个句子的情感分值。这条例子评论有四个分句，因此其结构如下（[积极分值, 消极分值]）：[[4, 0], [2, 0], [0, 6], [0, 1]]
以上就是使用情感词典来进行情感分析的主要流程了，算法的设计也会按照这个思路来实现。
算法设计
第一步：读取评论数据，对评论进行分句。
第二步：查找对分句的情感词，记录积极还是消极，以及位置。
第三步：往情感词前查找程度词，找到就停止搜寻。为程度词设权值，乘以情感值。
第四步：往情感词前查找否定词，找完全部否定词，若数量为奇数，乘以-1，若为偶数，乘以1。
第五步：判断分句结尾是否有感叹号，有叹号则往前寻找情感词，有则相应的情感值+2。
第六步：计算完一条评论所有分句的情感值，用数组（list）记录起来。
第七步：计算并记录所有评论的情感值。
第八步：通过分句计算每条评论的积极情感均值，消极情感均值，积极情感方差，消极情感方差。
实战
1.先用爬虫将想要的文本爬下来
#先引入库
import requests
from bs4 import BeautifulSoup
url=r"https://m.weibo.cn/status/4089673821592515"
data=requests.get(url,'r')#获取原网页
soup=BeautifulSoup(data.text,'html.parser')
#找到所有的文本数据
tt=soup.find_all('meta')
data=[]
for i in tt:
data.append(i.string)#用data数组保存所有的文本数据
2.对文本进行分词和去停词操作
from collections import defaultdict
import os
import re
import jieba
import codecs
#jieba分词后去除停用词
def seg_word(sentence):
seg_list = jieba.cut(sentence)#分词
seg_result = []
for i in seg_list:
seg_result.append(i)#保存分词后的结果
stopwords = set()
with open('C:\\Users\\杨俊jimore\\Desktop\\数据集\\文本情感分析\\情感极性词典\\stopwords.txt','r',encoding='utf-8') as fr:
for i in fr:
stopwords.add(i.strip())#stopwords保存的就是停用词集合
return list(filter(lambda x :x not in stopwords,seg_result))#去除停用词
3.找出文本中的情感词、否定词和程度副词
#找出文本中的情感词、否定词和程度副词
def classify_words(word_list):
#读取情感词典文件
sen_file = open('C:\\Users\\杨俊jimore\\Desktop\\数据集\\文本情感分析\\情感极性词典\\BosonNLP_sentiment_score.txt','r+',encoding='utf-8')
#获取词典文件内容
sen_list = sen_file.readlines()
#创建情感字典
sen_dict = defaultdict()
#读取词典每一行的内容，将其转换成字典对象，key为情感词，value为其对应的权重
for i in sen_list:
if len(i.split(' '))==2:
sen_dict[i.split(' ')[0]] = i.split(' ')[1]
#读取程度副词文件
degree_file = open('C:\\Users\\杨俊jimore\\Desktop\\数据集\\文本情感分析\\情感极性词典\\程度副词.txt','r+',encoding='utf-8')
degree_list = degree_file.readlines()
degree_dict = defaultdict()
for i in degree_list:
degree_dict[i.split(',')[0]] = i.split(',')[1]
sen_word = dict()
not_word = dict()
degree_word = dict()
#分类
for i in range(len(word_list)):
word = word_list[i]
if word in sen_dict.keys():
# 找出分词结果中在情感字典中的词
sen_word[i] = sen_dict[word]
elif word in not_word_list:
# 分词结果中在否定词列表中的词
not_word[i] = -1
elif word in degree_dict.keys():
# 分词结果中在程度副词中的词
degree_word[i] = degree_dict[word]
#关闭打开的文件
sen_file.close()
not_word_file.close()
degree_file.close()
#返回分类结果
return sen_word,not_word,degree_word
4.计算情感词的分数
#计算情感词的分数
def score_sentiment(sen_word,not_word,degree_word,seg_result):
#情感词的位置下标集合
sentiment_index_list = list(sen_word.keys())
#权重初始化为1
if len(sentiment_index_list)>0 and len(not_word.keys())>0 and sentiment_index_list[0]>list(not_word.keys())[0]:
W=-1
else:
W = 1
score = 0
#情感词下标初始化
sentiment_index = -1
#遍历分词结果
for i in range(0,len(seg_result)):
#如果是情感词
if i in sen_word.keys():
#权重*情感词得分
score += W*float(sen_word[i])
#情感词下标加一，获取下一个情感词的位置
sentiment_index += 1
if sentiment_index < len(sentiment_index_list)-1:
#判断当前的情感词与下一个情感词之间是否有程度副词或否定词
for j in range(sentiment_index_list[sentiment_index],sentiment_index_list[sentiment_index+1]):
#更新权重，如果有否定词，权重取反
if j in not_word.keys():
W *= -1
elif j in degree_word.keys():
W *= float(degree_word[j])
#定位到下一个情感词
if sentiment_index < len(sentiment_index_list)-1:
i = sentiment_index_list[sentiment_index+1]
return score
5.计算得分
#计算得分
def sentiment_score(sentence):
#1.对文档分词
seg_list = seg_word(sentence)
print(seg_list)
#2.将分词结果转换成字典，找出情感词、否定词和程度副词
sen_word,not_word,degree_word = classify_words(seg_list)
print(sen_word)
print(not_word)
print(degree_word)
#3.计算得分
score = score_sentiment(sen_word,not_word,degree_word,seg_list)
return score
6.将爬取的数据进行计算
score=[]
for i in data:
score.append(sentiment_score(i))#score里面存的就是每一条数据的得分
#正数代表积极，否则就是消极
