人工智能中的符号嵌入问题(Symbol Grounding Problem,又称符号奠基问题,符号接地问题)
符号嵌入问题(Symbol Grounding Problem)是认知科学、心灵哲学和人工智能中的一个关键问题。它探讨的是符号(或词语)是如何在一个系统中获得意义的。换句话说,抽象符号(如单词或概念)是如何代表现实世界中的对象、行为或经验的?
关键概念
-
符号表示:指的是将意义编码为抽象符号的理念,例如单词、数字或图像。例如,“猫”这个词是代表猫这一概念的符号。
-
嵌入:嵌入是指这些符号如何获得其意义的过程。在人类的认知中,我们通过将词语与感官经验(如视觉、听觉、触觉)和行为相联系,来学习词语的意义。
-
问题的本质:挑战在于,人工系统(如机器人或AI)如何将抽象符号(例如“苹果”)与感官或物理体验(例如苹果的外观、咬苹果的动作)进行映射。如果AI只是使用符号,而没有与世界进行感官互动,它就无法“嵌入”这些符号的实际意义。
哲学背景
符号嵌入问题的根源在于哲学家约翰·塞尔(John Searle)在1980年提出的中文房间(Chinese Room)论证。在这个思想实验中,塞尔设想有一个人被关在一个房间里,按照规则操控中文符号,却并不理解它们的意义。这个人能生成中文回复,但并不真正理解语言。这表明了符号的操控(语法)和理解其意义(语义)之间的区别。
主要的研究方法
-
具身认知:这一理论认为,意义是通过我们的身体经验来嵌入的。它认为,机器人或AI必须以一种感官、具身的方式与世界互动,才能真正理解并嵌入符号。例如,一个机器人通过触摸、看到和与物体互动,才能更好地理解该物体的概念。
-
联结主义:在联结主义模型(如神经网络)中,符号可以通过网络中激活模式来进行嵌入。这些模型并不明确地定义符号的意义,而是通过训练大量数据,学习感官输入与概念之间的关联。
-
混合系统:一些研究者建议结合符号推理和感知处理。这些系统试图将传统AI(符号式)的抽象推理与现实世界的感知输入(具身式或联结式)融合。
-
通过感知来嵌入语言:该思想认为,语言和符号只有在与现实世界的感官经验相连接时,才能获得完整的意义。例如,机器人可以通过感知一个球形物体,抓住它并滚动它,来学习“球”这个词。
重要贡献
-
哈纳德的提案:斯蒂文·哈纳德(Stevan Harnad,1990)提出了解决符号嵌入问题的具体方案。他提出,符号可以通过在感官体验中创建联系来进行嵌入,使系统能够识别这些符号所代表的对象或概念。这种方法被称为传感-运动嵌入(sensorimotor grounding)。
-
人工智能与机器人学:在AI中,如何将符号嵌入现实世界的体验是实现真正理解的关键挑战。例如,机器人不仅需要识别物体,还需要通过与物理世界的互动来理解这些物体的功能、语境和意义。
-
语言模型:最近在大规模语言模型(如GPT)中的工作,旨在通过将词语与大量数据(包括图像、声音和其他感官输入)联系起来来解决符号嵌入问题。然而,符号的真正嵌入仍然是AI中的一项困难和未解的挑战。
当代问题
-
符号式与子符号式:符号AI(使用明确规则和符号)与子符号AI(使用分布式表示,如神经网络)之间的争论是符号嵌入问题讨论的核心。传统的AI系统侧重于符号推理,但没有感官输入的情况下,将符号嵌入现实世界仍然是困难的。
-
语言模型的局限性:大规模语言模型虽然在生成符合上下文的文本方面表现出色,但它们并不真正“理解”意义。在人类意义的真正嵌入方面,它们仍然依赖于模式匹配,而不是与现实世界的直接经验。
进一步阅读
- 《符号嵌入问题》(The Symbol Grounding Problem)——斯蒂文·哈纳德(Stevan Harnad,1990)——该主题的开创性论文。
- 《具身认知》(Embodied Cognition)——劳伦斯·夏皮罗(Lawrence Shapiro)——讨论了具身方法如何嵌入意义。
- 《中文房间》(The Chinese Room)——约翰·塞尔(John Searle)——探讨了语法操作与语义理解之间的区别。
- 《人工智能:现代方法》(Artificial Intelligence: A Modern Approach)——斯图尔特·罗素(Stuart Russell)和彼得·诺维格(Peter Norvig)——包含了有关符号推理和嵌入的相关讨论。
应用与影响
- 机器人学:符号嵌入对机器人能够以类人方式有效地与世界互动至关重要。
- 自然语言处理(NLP):为了使AI真正理解和生成有意义的语言,它需要将符号与感官或现实世界的经验联系起来,而不仅仅是基于统计相关性。
- 认知科学:符号嵌入问题有助于揭示我们理解人类认知的挑战,特别是我们如何将意义附加到单词和概念上。
结论
符号嵌入问题仍然是实现真正智能系统的根本挑战。通过将符号与现实世界的经验进行嵌入,使符号获得意义,是实现更先进的AI、机器人技术,甚至更深刻理解人类认知的关键。、
A summary of the main approaches for grounding large language models
Table I:A summary of the main approaches for grounding large language models
General approach | Description | Main strengths | Weaknesses | |||||||||||||
Knowledge graphs |
|
|
|
|||||||||||||
|
|
|
|
|||||||||||||
|
|
|
|
|||||||||||||
Active exploration |
|
|
|
|||||||||||||
Generative AI |
|
|
|
|||||||||||||
External knowledge |
|
|
|
如果这篇文章帮助到了你,你可以请作者喝一杯咖啡
