全本于2015年7月14日思考强人工智能

全本的这个系列的漫谈将不固守于彭罗斯分析（注意，彭罗斯并没说强人工智能不可能，而是说基于算法的强人工智能不可能），而只遐想人工智能的乐观可能性和大致路径。

全本以后关于人工智能的哲学讨论，不特殊指出，“人工智能”均指强人工智能。

一些零碎意见。

【终极问题】

全本认为当今人类/宇宙的终极科学（哲学）问题是两个问题：

1. 物理实在的本体论问题
2. 智能的极限问题

这两个问题很有可能是关联甚至同一的。而在这个位置上，科学（包括数学）和哲学将结合归并在一起。这个终极问题组的存在对于人工智能可能性问题的提示是诡秘的（甚至包括对人工智能的可能性本身的提示）。

【大致路线图】

人类在走向智能奇点一个可能大致的路线图：

当前（弱人工智能及其各种应用）--> 伪奇点（丛林）--> 真奇点？

在这个可能的伪基点区域中，可能会发生很多现在无法想象的事情。而伪奇点在时空上也没有明显边界。即便当前阶段（会有很长一段历史时期）如何过渡进入伪奇点丛林，也无法想象。

伪奇点中人类的境遇和真奇点以后的人类命运目前当然也没有定论。

和几乎所有这里的问题一样，这个路线完全只是一个遐想。具体如何的路线，当然取决于智能奇点跨越的实质结构。

【实用主义机】

实用主义机器（为了纪念美国实用主义哲学家约翰·杜威，全本又称之为“杜威机”）广义上说是一种特殊的人工智能，它不在所有方面去和人类比拟并超越（典型比如艺术审美、人类道德、社会建制等等），而在自身体系语境下达到超越人类智能及其演进的一类人工智能机制。这种达到超越最终是有具体表现的，包括比如物理上的战争、淘汰和胜出；当然很显然地，也一般针对共有物理环境（全域上讲即本宇宙）。

实用主义机不可避免地需要具备强人工智能的一些可设想的基本要素（注意：以下每一项都是极难的，是目前人类科技完全无法把握的；更要命的，这些项目可能是同一的），如：

- 存在动因
- 环境/问题适应能力；对对手建模
- 自我修复和进化能力
- 数理洞察力（全本要则）

实用主义机很可能是极小化的强（超）人工智能实现，但是否如此这没有严格论证。

总的来说，实用主义机的上述特征表明不排除这可能是一种和人类敌对的“异形机”。

【拟人人工智能和超人人工智能或实用主义机孰易孰难问题】

这个全本没有想法。这个问题也是个人工智能话题式的模糊问题，这其中有一个陷阱就是拟人的程度如何界定。当然这里全本设想一般的拟人是指达到人类的思维模式，甚至复制人类的思维模式，而达到人的永生的一种已经被设想过的“奇点”。从而还有以下的忧虑。

【拟人方法和人则方法忧虑】

“拟人方法忧虑”又称仿生忧虑。全本忧虑，纯粹拟人方法（比如机械复制/制造大规模人工神经网络）可能不是一个有希望的途径。但对综合拟人方法的方法不置可否。顺带提一下，这个问题有点像飞机和鸟的关系，但要复杂得多。

另一个概念是人则方法，意思是说其设计目的是为了解决人的问题。总体上说，目前人类所有已知正在进行的人工智能都是人则方法。人则方法某种程度上看比拟人方法更没有强人工智能方面的前途。

【人机整合（平衡）】

一种可能的未来发展途径是人（脑）和边缘算法的高度整合互动进化，作为人机平衡（为了纪念骇客帝国中的类似概念锡安平衡）的一个实例。但目前看来这个更像是一种否定机器智能的观点，但很具有可能性。

【再论人机平衡】

全本又称之为“霍金平衡（僵持）”。是说即便一个远非完备但大致一致、足够充裕的“万有理论”前提下，可以以其为物理（知识）基础（加相对充分的数学知识）构造机器，而在人类也难以完成更深一步的洞察的前提下，达到机器与人类的力量平衡或某种意义上的相当。这机器很可能（大可以）是一个杜威机。

【自由意志】

强人工智能的哲学/科学讨论不乏关于自由意志，同其他问题一样也争得不可开交。因为“自由意志”本身是什么，起什么作用，是人也没搞明白的哲学问题。全本从实用主义机的观点看，拿人的行为来思考又会陷入困境，但是一种类似欲望/本能动因的东西是需要的。类似于人类，“生存和发展”，可能是一个候选者。至于如何生存和发展和其他可能选项，不得而知。

【已经在讨论的一些可能的机器】

快速机：和人一样思考，但速度比人快；

并行机：和人一样思考，但大规模并行，人类也无法赶上；

聪明机：各方面比人聪明。

全本认为这上面的有些科学家设想的三种机器人，虽然讨论一下无伤大雅，但没有太大意义。因为这三个很可能是这些科学家在对人工智能现在的和将来的实质和本质理论不太明了的情况下提出的简单臆想。属于比较图样图森破，上台拿衣服的。

【作为造机器的人】

 有文提出，人也许是（宇宙中）能造出人工智能的最笨的自然生物，全本不反对，至少不置可否。

【人工智能与人与动物的关系】

有文提出，超人人工智能和人的关系也许和人和动物的关系类似，全本不反对，至少不置可否（全本的这个态度将在人工智能的很多论题上使用，说明只要不要在这个问体上过于纠结浪费时间，这个论断没有很明显地违反什么已反复论证的实质性的东西）。

【彭罗斯迭代】

基于彭罗斯对哥德尔定律的阐释，和今后的人工智能均以算法为基础的假设（或有限拓展），一个可能的场景是：

1. 人类造出一个机器，具有快速演算和基于已知命题集合发现规律的能力；
2. 机器快速发现规律，挑战人类；
3. 人类最终适应这些新发现的规律，并洞察出其哥德尔条款从而突破这个系统；
4. 人类更新机器，返回1进一步迭代。

这个场景或类似的情形被称作“彭罗斯迭代”。这里似乎暗含了生物学进化（或人机整合）等各种形式的自身进化。但这只是一种可能，因为这个迭代目前看来是数学上的，在物理上的意义有多大如何在实在中实现都是问题。

【人类对人工智能的规划和反应】

全本认同人类需要设立科学专门研究规划对未来出现的各类各性质的人工智能的应对方法。