导航

Chain of Thought(思维链)

Posted on 2023-04-13 15:14  蝈蝈俊  阅读(1758)  评论(0编辑  收藏  举报

"思维链"(Chain of Thought)是指一系列有逻辑关系的思考步骤或想法,这些步骤或想法相互连接,形成了一个完整思考过程。它是指导我们思考和解决问题的一种方法,可以帮助我们更好地理解问题、分析问题和解决问题。

一个有效的思维链应该具有以下特点:

  • 逻辑性:思维链中的每个思考步骤都应该是有逻辑关系的,它们应该相互连接,从而形成一个完整的思考过程。
  • 全面性:思维链应该尽可能地全面和细致地考虑问题,以确保不会忽略任何可能的因素和影响。
  • 可行性:思维链中的每个思考步骤都应该是可行的,也就是说,它们应该可以被实际操作和实施。
  • 可验证性:思维链中的每个思考步骤都应该是可以验证的,也就是说,它们应该可以通过实际的数据和事实来验证其正确性和有效性。

在日常生活和工作中,我们经常需要使用思维链来解决各种问题和挑战。通过构建有效的思维链,我们可以更好地分析问题、制定解决方案和实现目标。

下面是实际我们会碰到的使用思维链的案例。

为什么销售额下降了?

问题:

为什么销售额下降了?

用思维链思考:

  1. 收集数据并分析趋势,确定销售额的下降是否是一个短期或长期趋势。
  2. 确定是否有竞争对手或市场变化,导致销售额下降。
  3. 检查销售策略和营销活动,确定是否需要做出调整或改进。
  4. 检查产品或服务质量,确定是否需要改进质量或增加新的产品或服务。
  5. 确定是否需要提高员工培训和能力,以提高销售和客户服务。
  6. 制定计划并实施改进措施,跟踪结果和调整策略。

如何提高员工满意度?

问题:

如何提高员工满意度?

用思维链思考:

  1. 了解员工的需求和期望,通过调研和反馈等方式收集员工意见和建议。

  2. 确定是否存在工作压力、不公平待遇或缺乏晋升机会等问题,通过制定政策和改进措施来解决这些问题。

  3. 提供培训和发展机会,帮助员工提高技能和能力,并增加晋升机会。

  4. 提供灵活的工作时间和工作安排,以适应员工的工作和生活需求。

  5. 提供有竞争力的薪资和福利待遇,包括健康保险、退休计划、带薪休假等。

  6. 通过员工表彰和奖励机制,激励和鼓励员工工作更出色。

  7. 持续关注员工满意度和反馈,不断改进和调整策略。

如何优化网站SEO?

问题:

如何优化网站SEO?

用思维链思考:

  1. 研究关键词和搜索语句,确定用户在搜索引擎上使用的关键词和搜索语句。

  2. 优化网站结构和内容,以适应用户搜索的关键词和搜索语句。

  3. 确定网站的速度和安全性,优化网站的速度和安全性,以提高用户体验和搜索排名。

  4. 通过社交媒体和其他渠道分享内容,增加网站的曝光率和流量。

  5. 确定网站的目标受众,以制定个性化的内容和营销策略,增加网站的受众和转化率。

  6. 持续关注和跟踪网站数据和分析结果,不断改进和调整策略。

机器学习中引入思维链

在机器学习中引入思维链概念,是22年1月发表的这篇论文开始的:“Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
https://arxiv.org/abs/2201.11903

简单地说,机器学习中的思维链就是让大语言模型(LLM)将一个问题拆解为多个步骤,最后给出答案,而不是让LLM直接给出答案。

直接给答案的出错率更高,或者问题分析的不够好,拆解步骤后,则会表现很优秀。

上面论文给出的例子,随着人类的调教,现在ChatGPT上已经无法复现了。

复杂的数学和科学问题

这些问题需要精确的计算和公式,所以 ChatGPT 可能会给出不确定或错误的答案。

下面是一个数字计算的例子,可以看到当数字大到一定程度,ChatGPT会计算错误。

甚至用“让我们一步一步地思考(Let's do it step by step)”来这样的魔法Prompt都不行:

不过我们从上面可以看到,数字乘法已经被用竖式乘法做了思维链调教了,但是这个调教只调教到百位的相乘,继续计算就ChatGPT自己预估了,这是导致它计算错误的原因。

我们把Prompt改成让用python来做这个计算,计算结构的准确性就提升了。


这里我们不用详细的思维链,只是提示用Python来实现思路,这显示了ChatGPT在不断的进步。

不过我碰到过这样仍然计算不对的。

用“MathPrompter: Mathematical Reasoning using Large Language Models
” 这篇论文的方法,则可以计算正确:

https://arxiv.org/abs/2303.05398

采用合适的思维链步骤,就可以提升ChatGPT做数学运算的准确率。

未来展望

思维链其实用一套思维的方法论来,执导思考问题,分析问题,继而找出解决问题的方法和行动策略。

有个认知是随着科技进步,未来可能并不需要思维链了,原因:

思维链过程实际上是一个复杂空间结构下的路径搜索问题。
类似一个“下棋”过程搜索,不同的路径(策略)对应着不同的Cot提示。
如果这样的话,我们完全可以通过强化学习的技术,将最终输出作为目标,让模型自动的学习目标计划、分解、追踪过程,类似一个更加复杂的alphaGo技术。

这也是说未来prompt engineering工作会消亡。

随着大型AI模型的不断进步,简单的思维链已经无需输入,仅需适当提示即可。然而,复杂的思维链需要主动寻求多方面的信息输入、持续反馈以及不断调整认知。在人工智能的感知能力和协作能力实现突破之前,我们仍需要依靠人类来解决这些问题。当这些突破最终实现时,奇点时刻将随之到来。许多预测认为这个时间大约将在2045年左右。

在奇点时刻之前,人类需要不断地提高自身的认知、沟通和协作能力,以便在面临复杂问题时能够与人工智能进行有效的互动。同时,我们还需关注AI技术的伦理和安全问题,确保其发展方向符合人类的利益。只有在这些方面取得平衡,我们才能真正实现与人工智能的和谐共生,迈向一个崭新的未来。