自然语言处理与情绪智能

自然语言处理（NLP）

基础：语言模型

ChatGPT能力

语言理解和生成能力

抽象能力

强大的学习和泛化能力

自然语言处理

交叉学科：计算机科学、人工智能/机器学习、语言学等

自然语言理解：理解文字的含义

自然语言生成：用文字表达特定的意图和思想

利用计算机对自然语言进行各种加工处理、信息提取及应用的技术，实现人与机器之间的自然语言交互

自然语言的歧义性 -> 自然语言处理困难

词法、句法、篇章、语义

image-20240809124830834

image-20240809125002752

image-20240809155244938

image-20240809155305385

image-20240809155340448

NLP任务类型

文本分类

  • 输入：文本 \(x\)
  • 输出：文本 \(x\) 所属的标签 \(y\)

\[\mathcal{Y} = \mathrm{CLS}(\mathrm{ENC}(\mathcal{X})) \]

image-20240809164738741

文本匹配

  • 输入：文本 \(x_a\) 和文本 \(x_b\)
  • 输出：文本 \(x_a\) 和文本 \(x_b\) 的关系标签 \(y\)

\[\mathcal{Y} = \mathrm{CLS}(\mathrm{ENC}(\mathcal{X_a},\mathcal{X_b})) \]

image-20240809164809562

序列化标注

  • 输入：文本 \(x\)
  • 输出：文本 \(x\) 中每个单词 \(x_i\) 的标签 \(y_i\)

\[y_1,...,y_n = \mathrm{DEC}(\mathrm{ENC}(x_1,...,x_n)) \]

image-20240809164854990

机器阅读理解

  • 输入：文本 \(x_p\) 和问题 \(x_q\)
  • 输出：根据文本 \(x_p\) 生成问题 \(x_q\) 对应的答案

\[y_k,...,y_{k+l} = \mathrm{DEC}(\mathrm{ENC}(\mathcal{X_p},\mathcal{X_q})) \]

image-20240809164958877

序列到序列

  • 输入：文本 \(x\)
  • 输出：文本 \(x\) 对应的文本 \(y\)

\[y_1,...,y_m = \mathrm{DEC}(\mathrm{ENC}(x_1,...,x_n)) \]

image-20240809165013228

情绪智能

人机交互与情绪智能

image-20240809165521483

研究价值：

  • 建立分析与理解人类情感的理论和方法。

  • 推动自然语言处理技术的发展。

  • 促进交叉学科研究：情感、认知、社会之间的复杂关系。

应用价值：

  • 个人：情绪支持、消费策略等
  • 企业：企业决策、广告营销、产品改进等
  • 国家：舆情分析、情绪管理、政策制定等
  • 国际：舆论对抗、情绪操纵等

研究动机：

  • 已有工作忽略了文本中的感性评价（用户）和理性评价（商品）。
  • 感性评价和理性评价从不同角度影响文本的情感极性。

基于用户&商品注意力的情感分类框架[AAAI 2018]

image-20240809170541559

image-20240809170647352

面向属性的观点词抽取[NAACL 2019]

  • 面向属性的观点词抽取：给定属性词，从文本中抽取属性对应的观点词。
  • 研究细粒度情感分析中重要属性词-观点词对应关系。
  • 观点词可以作为属性情感的原因，提供决策依据。

image-20240809171103741

统一的细粒度观点抽取框架[EMNLP 2020]

细粒度观点词抽取

  • 从文本中抽取所有的观点三元词组<方面目标，观点词，情感极性>。
  • 流水线方案存在错误传播问题。
  • 涉及多个元素抽取、配对任务，很难端到端求解。

image-20240809171753202

解决方案：网格标注方案（Grid Tagging Scheme, GTS）：将抽取、分类等不同形式的子任务转换为统一的词对标注任务。

  • 抽取：属性词抽取、观点词抽取。
  • 分类：情感分类、属性词和观点词的配对分类。

image-20240809172613151

面向目标的多模态情感分类[COLING 2022]

任务定义：给定一对文本和图片以及文本中待分析的目标对象，判断目标对象的情感极性。

image-20240809173152908

研究动机：

  • 文本不一定包含情感信息，有时需要从图片获得精确的情感区域来帮助判断情感极性。
  • 在小规模训练数据集上，很难获得精确的情感对齐信息。

知识增强的多模态情感分类框架

  • Adjective Noun Pairs（ANP）[Borth et al., 2013]：利用大规模视觉知识提取工具抽取图片中的形容词-名词对。
  • 名词能帮助对其文本中的目标对象，形容词能帮助判断目标对象的情感极性。

image-20240809173455085

image-20240809174011991

大模型性格控制[2024]

研究动机

  • 不同大模型展示出不同的合成性格，有时表现出冒犯性和攻击性。
  • 模型架构、训练数据、训练方法对大模型合成性格的影响不得而知，无法控制。

image-20240809174301437

image-20240809175310635

image-20240809175335582

image-20240809175556267

研究展望1：多模态情感理解与推理

  • 多个对象的情感分别是什么？
  • 他们的情感是否有关联？
  • 他们的情感是如何影响并相互转化的？

研究展望2：情感/个性化对话与生成

  • 生成带有情感/个性化的对话回复
  • 个性化Chatbot
  • 医疗：同理心回复，抑郁康复
  • ......

研究展望3：情绪激发

  • 将目标对象的情绪激发至特定的状态。
  • 教育：激发学习兴趣
  • 医疗：抑郁康复
  • 商业：广告营销
  • 军事：情绪操纵
  • ......
posted @ 2024-08-25 18:25  imyhy  阅读(145)  评论(0)    收藏  举报