外文资料翻译The future of computing and wisdom:Insights from Human–Computer Interaction
The future of computing and wisdom:
Insights from Human–Computer Interaction
Daniel Sapiens Pargman
Elina Eriksson
Oliver Bates ,
Ben Kirman ,
Rob Comber,
Anders Hedman,
Martijn van den Broeck
计算和智慧的未来:来自人机交互的见解
Daniel Sapiens Pargman
Elina Eriksson
Oliver Bates
Ben Kirman
Rob Comber
Anders Hedman
Martijn van den Broeck
摘要
在这篇论文中，我们提出了一个关于未来计算和智慧的对话的结构化报告。对话包括人机交互领域的研究人员和从业人员之间的记录和转录讨论，该讨论是在2018年9月与第十届北欧人机交互会议联合举办的研讨会上进行的。然而，对话还包括研讨会参与者撰写"虚构摘要"的准备工作——即将于2068年发表的尚未撰写的研究论文的摘要。因此，所报道的多声部对话不仅包括参加研讨会的研究人员和实践者的声音，还包括2068年撰写相关摘要的未来研究人员的声音，以及生物体、个人、智能代理和社区的声音，他们是未来智能(或不明智)计算系统的主体、受害者、受益者和旁观者。
关键词:人机交互 设计虚构 虚构摘要 人工智能 智慧
1.介绍
人机交互(HCI)是一个研究各种形式的人与计算机之间的交互的研究领域，特别致力于理解人与新兴技术之间的关系。该领域是一门交叉学科[][][]，起源于20世纪70年代关于计算机系统中人的因素的工作，而如今的人机交互是来自计算机科学、心理学、社会学、设计和艺术的不同学科的运用和实践。Oulasvirta和Hornbk[]将HCI描述为"一个解决问题的领域"，它"真正和强烈地强调建设性的问题"，因为贡献的价值往往基于所提出的解决方案如何解决不同类型的计算机系统、交互和环境所带来的挑战。
关于智慧，人机交互是一个反思的领域[][][][][][][]。随着技术的复杂性和普遍性在我们的生活中愈发重要，这个领域怎么能就什么是负责任的和明智的达成一致呢？Sternberg[]指出，"技术发展和缺乏智慧之间的不匹配将世界置于巨大的风险之中"。与现代计算机技术纠缠在一起的持续的经济、社会和政治争议[][][][][]证明了这种担心的正确性，就像HCI和作为合作者、贡献者和赞助者的公司技术巨头之间的密切关系一样。计算和智慧是一个持续关注的问题，例如在1976年，Joseph Weizenbaum广受好评且颇具争议的著作《计算能力和人类理性:从判断到计算》[]表达了他对计算可能带来的负面影响的关注，包括它与军事的密切联系。他在本书的最后一章"反对工具理性的帝国主义"中最有力地阐述了自己的观点，在这一章中，他有力地指出，由于计算机缺乏同理心、同情心和智慧等人类基本素质，因此永远不应该允许它们做出重要的决定。
2.设置场景
为了探索人机交互研究人员对智慧未来的看法，我们在挪威奥斯陆举行的第十届北欧人机交互会议(NordiCHI 2018)上组织了一整天的"计算与智慧的未来"[]研讨会。北欧人机交互会议是HCI一年两次的会议，也是"来自学术界和工业界的研究人员、设计师、实践者、教育者和其他人的聚会场所"。该研讨会是2018年9月29日举行的会前活动的一部分。尽管研讨会由NordiCHI审查和主办，但在其他方面是自主的，有自己的形式和贡献标准。
为了申请参加研讨会，未来的参与者被要求提交一份50年后，即2068年发表的科学论文的虚构摘要。下一节将更详细地探讨虚构摘要的概念，但是，与会者收到了关于如何在研讨会网页上创建引人注目的虚构摘要的指导，研讨会组织者也进行了审查，并在需要时向作者提供了反馈。
9份最终摘要在研讨会前分发，供与会者阅读。当天有10名参与者，包括3名组织者，这一天分为小组讨论(见图1)和由研讨会组织者提出的关键问题引导的更长时间的讨论(见图2)。
图1 小组讨论被研讨会接受的虚构摘要。
图2 关于虚构摘要提出的主题和问题的大组讨论。
本文是为响应"未来50周年特别发行"的号召而写的，主题是"智慧未来0号:与负责任的未来对话"。该呼吁特别邀请未来的"报告员"(不是"作者")提交"关于智慧未来的对话，即在2068年什么可能被认为是负责任和明智的及其原因"的"结构化对话报告"(在最初的呼吁中强调)。该呼吁进一步明确指出，"与更传统的学术论文不同，不需要对一系列现存文献和方法等等的讨论。"。因此，在这篇论文中，我们呈现了一个关于计算和智慧未来的结构化对话。我们选择在2018年9月组织的研讨会上强调对话的各个方面，对话的内容是根据主题组织的，从讨论和虚构的摘要中提取。这一对话虽然以研讨会期间记录的真实讨论为中心，但内容丰富，还包括撰写摘要的2068年未来研究人员的声音，以及作为摘要中所设想的不同未来世界的主体、受害者、受益者和旁观者的生物体、个人、智能代理人和社区的声音。
3.虚构的摘要
在考虑智慧的未来时，我们希望使用一种工具来帮助研讨会参与者在未来定位自己，并让他们对各种可能的明智(或不明智)的计算未来会如何发展进行推测。作为一种推测可能和潜在未来的工具，我们选择了虚构摘要的概念——从虚构研究中提取的250个词的陈述，可以在2068年发表。
虚构摘要已经被用作探索未来的研究实践的反思工具，并且它们可以被视为设计虚构的子集，例如，作为回答"未来会发生什么？"问题的一种探索性场景。探索性场景培养了一种对未来的相对化，使未来变得可协商、开放和不可预测[]，在这种背景下，设计虚构可以通过创造半虚构的叙事、概念、原型或媒体产品(电影、广告等)来想象和质疑未来。这使得设计虚构——作为探索性场景的一个例子——不同于回答"将会发生什么？"问题的预测性场景以及回应"如何实现特定目标"问题的规范情景[]。有关将未来研究纳入人机交互的更多尝试，请参见Mankoff、Rode和Faste 的文献[]和Pargman，Eriksson，jer、stling和Borges 的文献[]。
自从科幻作家布鲁斯·斯特林在他2005年的著作《塑造事物》[]中创造了"设计虚构"这个术语后，是设计师朱利安·布里克在他2009年的文章《设计虚构》[]中充实并增加了这个术语的含义。布里克认为设计虚构是一种设想未来新环境、人工制品和实践的方法。最初在HCI中使用的设计虚构并不总是针对具体(未来)技术和工件的设计，以及这些工件在不久的将来可能产生的影响。
此后，设计虚构以不同的方式发展[],而Elsden等人认为，HCI中的思辨方法被用于多种不同的目的，例如1)批判，2)探索新兴技术，3)为未来研究开辟领域[]。设计虚构，作为推测性设计的一部分[]"依靠想象和虚构来发展关于新的、替代的和未来的技术使用范式的批判性对话和论述[]"。
我们选择使用"虚构摘要"这一术语，而布莱斯[]和布莱斯与布伊[]将类似的概念"想象摘要"用作批评和发展研究方法的工具。虚构摘要如何被使用的其他例子包括收集了虚构摘要集的研究论文。这些虚构的摘要被作为研究的范例，可能会被撰写出来，并提交给将来发表相关研究论文的会议。一个例子是将在未来25年人机交互(CHI)的首要会议上提交的15个关于人机交互的虚构摘要集[]，以及将在未来15年信息和通信技术促进可持续性(ICT4S)会议上提交的关于可持续性和计算主题的19个虚构摘要集[]。想象未来研究的终极简约形式很可能是一个虚构的会议，(仅)收集虚构未来论文的标题[]。另一方面，林德利和科尔顿探索了完整论文的使用[]，这些论文展示了虚构的研究，论文中虚构的人物只在结尾段落中揭示。
在我们组织的研讨会"计算和智慧的未来"中，我们将虚构的摘要用于两个不同的目的。第一个目的是鼓励研究人员写摘要来推测(在这种情况下)计算和智慧的可能未来。第二个目的是将这些摘要作为一种工具，在研讨会上推动关于计算和智慧未来的对话。就我们所知，这种使用虚构摘要的工具性方法以前从未尝试过。
作为学术生涯不同阶段的实践研究者，所有研讨会参与者都非常熟悉研究摘要的类型。通过利用虚构的摘要，我们邀请研讨会的参与者，以一种熟悉的形式，探索、扩展和推测2068年计算和智慧的可信和可能的未来。
共有10名参与者，他们共同撰写了9篇虚构的摘要。下一节将介绍其中的两个虚构摘要，以举例说明两种不同的未来，以及在虚构摘要中可以传达的人物、内容和各种视角。这些例子也说明了一个不到250字的虚构摘要是如何包装和传达大量的信息和意义的。
第一个摘要代表了在我们的领域内可以被认为是"正常"的研究的混合，例如对现有系统的改进，但是有一个扭曲，迫使读者以更极端的形式思考自动化的前景。
DEO:自动老年人护理提供中虚拟代理的新框架
作者：Britta F. Schulte
近年来，虚拟代理和人类之间的互动(VHI)有所增加。虽然收养在生产和教育等许多领域都取得了成功，但其他领域，特别是老年护理领域却缺乏参与。年龄似乎是一个决定性因素，因为用户不习惯这项技术，也没有从其全部潜力中获益。最近专门针对该行业的虚拟仪器技术的更新、美学[改编版]或新界面似乎并未对该领域产生重大影响。
在本文中，我们分析了在一个配备虚拟代理(VAs)的护理之家收集的交互日志。与普遍的看法相反，互动并没有在虚拟实境方面瓦解，而由于人们拒绝、误解或忽视虚拟实境的善意建议使得互动在人类方面开始瓦解。根据这些见解，我们提出了一个支持互动的新框架:DEO。我们提出了三个步骤:分发（DISPENSE）并记录人类的反应，教育（EDUCATE）人类他缺乏的洞察力，以做出必要的改变，如果他反复决定不遵循这些决定,则覆盖（OVER WRITE）他的决定。根据我们的结果，我们给出了如何最好地实现每个步骤的详细说明。我们认为，这些步骤将导致即使是老年人也更多地遵守虚拟实境师的建议，从而使技术更容易为更广泛的受众所接受。
该摘要与第一届国际社会自动化会议(2019年9月，克拉科夫)的部分呼吁相呼应，该会议将社会自动化定义为"人类努力使人造工程系统以人为中心，使用安全且节能，同时不破坏周围的自然环境"。该呼吁进一步指出，"在个人空间/生活自动化方面取得了显著进步。人类同伴就是一个很好的例子；不仅为老年人提供日常的心理支持，还有一些[有限的"能力"来帮助身体维护和喂养[的]体弱者"。
第二个摘要被选中是因为它代表了多调性的极端。摘要不仅是由未来的(所谓的)研究者写的，还是事实上是由不同类型的作者写的，即人工智能实体/研究者。摘要也是对我们自己领域中被认为是正常的研究的一种戏谑，例如，为了评估新技术而做用户研究。该摘要更具体地描述了一种尝试，即让人类重新使用某些类型的技术，以造福于未来的人工智能实体。
再次从0到1——重新吸引人类的设计启示
作者:153_CCK_x, Anthro_Theory_s4 和 D_sgn-772 (或 Elin.ai 和 Rob.ot)
人口处于崩溃的边缘，最后一批人口出生率下降。此外，概率表明，参与计算，尤其是记录人类状况的人在减少。尽管早期以人为中心的设计努力，使用计算人工制品的人越来越少，选择学习现代计算技术的人越来越少，而且人口老龄化和死亡率显示出标签劳动力的指数损失。因此，用于计算消耗的标记数据集的可用性越来越有限，并且根据当前的预测，到2070年将会停止。在这个人类设计项目中，我们与一群人类合作，以确定激励人类重新参与计算的因素。该项目启动了为期一年的干预，参与者可以尝试计算人工制品，这些人工制品可以为他们提供食物采集、耕种、洗涤和建造定居点的信息，同时还可以收集情感、抱负和关系等经历的地面真相标签数据。有了这些人工制品，人类可以完成更小的计算任务，比如记录、计算、绘图、观看舒缓的图像或玩游戏。研究表明，尽管最初人们对这些人工制品感兴趣，但几周之后，参与度降低了，而且每周对人类状况的调查让他们不太愿意使用这些人工制品。唯一显示纵向参与的设计组件是游戏和猫的图像，这是未来的设计努力和研究应该被引导。
为研讨会撰写的其余七份摘要简述如下。同时也是研讨会参与者的摘要作者用粗体标出。简短的总结有助于为本文其余部分报道的讨论增加背景。
《全力以赴还是全力以赴:探索计算机辅助教学工作者和计算机辅助教学技术的选择》，Sus Lyckvi:这篇摘要展望了协同人工智能的未来，人类的大脑有一个生物的大脑对计算机的接口，使他们能够获得无限的信息和计算能力。计算机辅助教学已经解决了许多社会问题，但是计算机辅助教学的人类部分经常遭受精神疾病、拒绝和身份危机，这是由于计算机增强和非常强大的双重性质，以及仅仅是一个未增强的人。
《解决操作移动式起重机的难题》，Taufik Akbar Sitompul:自动化程度的提高继续改变着建筑行业，提高了工作场所的精确度和安全性。移动式起重机是21世纪早期最危险的机器之一，通过多种先进的功能来支持安全操作。然而，由于运营商过于依赖这项技术，事故仍在继续。摘要讨论了自动化程度的降低和人员参与的增加如何使移动式起重机操作更安全。
《关于强制技术的未来》，Anders Hedman 与 Henrik Åhman:在一个普遍认为人类理性已经被与计算智能相结合的强制技术取代了几十年的未来，两位研究人员提出，在某些有限和控制良好的领域允许有限的自由和半自主的人类理性可能是安全的。
《"这是一个活生生的地狱"：旨在打击移动同居空间家庭虐待的家庭援助服务》，Marie Louise Juul Søndergaard 与 Trieuvy Luu:在持续大规模移民的背景下，家庭援助系统被发明出来帮助居民在任何地方都有"家"的感觉。然而，最近的研究表明，这造成了新的家庭虐待。摘要探索了一系列可以干预家庭智能并增加信任和隐私的技术，同时减少滥用的机会。
《黑暗补丁创建者角色》，Daniel Sapiens Pargman 和Wise Person:互联网速度限制和强制向后兼容性导致了有限通信资源("公地")的更公平共享。一些自己动手的黑客和雇佣程序员(抽象地被认为是"越轨者"和"变态者")试图创建非法的私人高速走廊(从而占用了超过他们应得份额的资源)，但却遭到犯罪和反恐机构的大力追捕。该文件试图帮助这些机构更好地理解、识别和逮捕未来的罪犯。
《发现和减少未经授权的伤害利润的杂种狗用户的策略》，Ben Kirman：狗和人类已经共同发展了几千年，未来也不例外。新的、受版权保护的品种可以更有效地与计算机系统互动，从而支持对经济增长的不懈追求。然而，正如超商业学者所报告的，一些非法育种者违背了这些公司的利益。
《分析离线告知医疗的动机和效果》，Martijn van den Broeck:通过这项研究，我们认为，尽管自2056年以来就存在于美国宪法中的离线权利无法消除，但完全离线的负面社会和心理影响需要认真对待，治疗也需要设计。作为本文的总结，我们概述了一些有希望的技术，这些技术可以为这个设计过程提供信息，并说明其优缺点。
4.数字技术对智慧未来的展望
这些摘要涵盖了广泛不同的主题，研讨会上的讨论涵盖了更广泛的代理、技术和未来。在这一节中，我们以五个主题的形式介绍了关于这些不同对话的结构化报告。这些主题是通过协作阅读和广泛评论研讨会的虚构摘要和抄本而产生的。研讨会记录中的引文标记为"名称/时间"，虚构摘要中的引文标记为"名称/时间"。为了增加可读性，研讨会记录中的引文有时会稍作改动。
4.1 什么是智慧？
在未来智能计算的背景下定义智慧是研讨会和摘要中一致的讨论主题。虚构摘要提供了隐含的智慧层(或对缺乏智慧的评论)，其中智慧的定义大部分留给读者去解释。虚构的摘要描述了技术设计可能取代人类决策的未来愿景；增强并鼓励人类做出更明智的决定；揭示非人类因素(如人工免疫系统和动物)中智慧增加的影响；确保公共和共享资源的可持续性。由于智慧的隐含定义，研讨会花了相当多的时间来探讨智慧对参与者以及我们对未来智慧计算的共同愿景是什么。关于"什么是智慧"的讨论是从人类智慧的角度开始的，其中"哲学智慧、分析智慧和同情智慧"[]被视为三个关键类别。
展现智慧的态度不等同于明智的行动，"你可以把智慧视为一套规则。就像智慧认为我们拥有这种知识一样，如果我们愿意这样做，我们就是明智的。你可以把它视为一种态度，而不是一种行为。就像另一套规则。也许有两种不同的定义，人们[谁]谈论智慧或成为智慧(行动明智)。"然而，知识似乎是智慧的关键基础，"知识就像如何使用枪。智慧就是何时该开枪，何时不该开枪。就明智地使用技术而言，仅仅知道如何使用技术是不够的;技术的使用时间、地点和方式很重要，而且可能因环境而异。
同样，理解和同情允许人类思考不同于我们自己的环境。缺乏同理心被认为是不明智的，因为"人类的创造力和同理心"(Lyckvi/说)被强调为人工智能应该融入他们的智慧尝试中的特征。移情(对人类和非人类)特别提出了对我们(个人和集体)的行为和反应负责的问题，"它是关于成为一个对我们正在做的事情负责的人。智慧来自责任，也许不是责任，而是承担责任。因此，也许仅仅通过积极参与关键设计和承担责任，我们就能推动智慧的发展。"(Luu/说)
人们发现，智慧是有生成性的，对个人或集体都有高度的关联性。"我不想保持我们现在拥有的智慧，并说"这就是智慧"，但这是一种与之合作并适应不断变化的环境的想法"(Schulte/说)。经历本身会让我们陷入可能需要明智行动的境地。相反，当我们不明智的时候，这些经历也能帮助我们学习。反思经历有助于我们发展更多的理解和共鸣，引发观点的转变。在某些情况下，反思能够带来强大的批判性思考和反思:
"今天，我们活得更长，而且，至少在西方世界，我们活得更长，我们的生活比我们的前辈经历得更丰富，但这是否意味着我们比他们更聪明？"(Lyckvi/ 说)
智慧(和计算)的一个宽泛的概念被认为是知识、理解、移情、情境、经验、行动和反思之间相互作用的一种积极和不断发展的状态。这些价值观是我们认为在计算和开发智能计算系统方面明智的核心。
4.2智慧在哪里，我们如何建立和传递它？
在虚构摘要中，智慧的位置似乎分布在人类、技术和其他非人类(如动物)之间。仔细回顾一下，我们描述的技术可能没有那么明智，"没有抽象的技术本身就有智慧"(Eriksson/说)和"我们没有发现任何一项技术是我们的文摘所讨论的是明智的。最接近的是描述[人工智能]试图让人们重新参与科学的那个。"(Kirman/说)。研讨会的直觉告诉我们，智慧主要存在于人类之中，"我的自然答案存在于人类之中"（Lyckvi/说）。
智慧(对人类而言)是随着时间的推移，通过获得更多的知识，通过生活经验和反思而积累起来的。"建立"智慧的过程可以通过经验来触发，"你可以和一个聪明人坐一会儿，他会告诉你他所有的生活故事。这不一定会让你变得更聪明。它在内心触发了一个特定的过程，可以让你变得更聪明，这是通过反思、转换视角来实现的……(van den Broeck/说)，这是范登博洛克自己通过自己的研究很快发现的。他补充道，"这就是为什么聪明人，或者老年人会变得更聪明，因为他们有更多的经验，更多的时间去思考"(van den Broeck/说).
建立和传递智慧的一个潜在的困难障碍是，当一个人或者非人类继续前进、崩溃或者死亡时，智慧的丧失，"我们有[智慧"，但是因为人们去世了，一个孩子出生了，然后它又开始了。你需要获得这种体验。因此，也许在这个意义上，我们只能达到一定的智慧，直到我们离开这个世界，然后其他人不得不追溯那个特定的智慧。"(Luu/说)
"当我发明了人类大脑和大型主机的组合，这是我对未来智慧的理解，因为它将是人类大脑和所有在线知识的组合，或者像我们能拥有的所有事实知识一样。"(Lyckvi/说)
知识是构成智慧的单一成分。尽管知识共享实践(无论有没有技术)可能是一个明显的下一步，但如何通过计算鼓励明智的行动仍不清楚。
"我意识到对真正的人来说真正重要的是，例如像家庭、关系、分享故事、积极的态度等事情"(Luu/说)。一个机会是探索技术(和人机界面)在通过增加或放大[]反思和转换视角的可能性来激发智慧方面的作用；也许通过更仔细地观察人际关系，通过故事追溯智慧，帮助反思和强化积极的态度，可以在计算中获得更高层次的智慧。
4.3人类++版
在摘要和对话中，通过技术来增强人类的想法比比皆是。技术让我们更强大、更聪明、更有能力。他们让我们"工作时超人"(Lyckvi/FA)。这种人类能力的增强是长期研究的结果，来源于对分布认知的研究[][]到人机关系的哲学辩论[][]。同样的分布在非人类中不太容易被认为是智慧。事实上，"我认为谈论动物拥有智慧和智慧是有问题的。把我们谈论自己的方式放到另一个物种身上，或者把人工智能也放在这个问题上，无助于我们更好地理解动物。"(Kirman/说)
似乎只有一个未来能够传播智慧，或者至少接近智慧。在之前分享的虚构摘要中，埃里克森和科姆伯认为，人工智能试图让人类重新参与进来，这似乎是一个明智的选择:"这就像是'哦，我们错过了人类和人类的视角'，但它有点——它走错了路。这不是明智之举，而是非明智之举，说"好吧，我们可以用猫的照片来胁迫人类……把他们带进来"。我认为这是他们缺乏智慧的一个很好的例子。不…不聪明，但缺乏成为聪明人的能力。"(Kirman/说)
在这些配置中，智慧与人类同在。做人就是拥有自由意志。然而，智慧也包括屈服，放弃自由意志，将人类分割给那些有智慧的人，以及那些被计算系统"以某种方式吸收到统治中"的人(Hedman/说)。莱克维虚构的摘要"在当前状态下有精神障碍，但是20年后，当人类屈服并意识到，'好吧，我们不能让这些人处于这种被连接或不被连接的永久状态。让他们勾搭上，并为此感到高兴吧。这就是我的看法。人类有两种版本。电脑增强的和不增强的。"(Lyckvi/说)
这些增强的人类，或者"人类++"( Lyckvi/说)既不是明智的也不是不明智的，他们只是选择进入一个电子人的关系。它们"与人类形成鲜明对比，是被技术操纵的东西。再来谈谈算法的过程和布里特，你那篇关于纠正人类行为并让人类成为有缺陷的人的论文，完全是可怕的，就像我们希望他们做的那样。"（Lyckvi/说）因此，我们对人类不如超人的预测开启了机器纠正我们、告诉我们如何生活以及"不要在生活中失败"的可能性(Pargman/说)。尽管技术是为了"关心"而设计的，但它们并不关心，它们压迫着我们。他们的智慧是程序化和同质的。
位于人类和非人类之间，智慧再次被视为完全属于人类的品质。"我们讨论的一个问题是，事实上，技术本身是否明智，它是否会变老，它是否会积累经验并反思这些经验。这到底意味着什么？因此它让我们质疑，也许，技术中的智慧不是关于明智的技术，而是关于人类对技术的明智使用"(Schulte/说)
4.4 时间和加速度
时间是一个自然重复出现的讨论点。虚构的摘要是在时间上不连贯的人工制品，位于不同的未来，暗示着不同的过去即将到来[][][]，但建立在目前的焦虑[]。为了反映我们今天有多聪明，Pargman(说)问道:"生活在1968年的人们是如何看待我们的？他们会认为我们/我们的社会是明智的吗？还是哪里出了问题？"。关于她已故的祖父，Eriksson(说)想象"他会有点……目瞪口呆或者不太理解我们正在做的许多事情"。这是一个普遍的反应——也许在1968年有人会"对我们提出的技术解决方案感到惊讶，但同时又对我们仍然存在同样的老问题感到震惊……此外，我们还在整个过程中破坏了环境" (Lyckvi/说)。话说回来，"有一种时代智慧"(Schulte/说)，改变时间或环境会给这种观点带来问题。Hedman指出，"1967年是爱情的夏天……我认为当时有很多人对改变社会抱有很高的期望，所以他们不会高兴我们都变成了墨守成规者。当然，他们自己在5年或10年内就变成了墨守成规者"。换句话说，人们理解智慧的方式随着他们所处的环境和环境的变化而变化，就像我们一直在做的那样。鉴于时间对社会政治和技术背景的影响，我们努力解释过去、现在和未来智慧之间的关系。"我认为这不是真正的可比，因为指数发展。所以就好像时间被压缩了一样，所以过去的10年比之前的10年或之前的10年要快"(Eriksson/说)。这种时间的加速/压缩使得很难确定时间和时间上的智慧。"我们在讨论智慧与[的关系，并且]我认为很少有事情经得起时间的考验"(Schulte/说)，后来又补充道"扭转局面，有没有明智的时候？人们会意识到我们现在认为的明智吗？这是他们珍视的东西吗？"(Schulte/说)。
作为技术专家，加速是一个关键问题。技术创新和发展比周围的政治和社会结构发展得更快[][]，我们发现智慧也是如此，"所以这不是一个线性过程"(Eriksson/说)。在这些摘要中，有一种"内在的"更多"可能暗指摩尔定律[][]"(Eriksson/笑着说)虽然有些摘要似乎确实"指出更多的计算能力被投入到我们的日常生活中"(Eriksson/说)，并接受了这一点，例如Lyckvi的增强人类几乎无止境地获取知识，展示了与技术同步的智慧。这与帕尔格曼的虚构摘要形成了鲜明对比，后者反映了设置"自愿限速，因此[创造了一个]更慢、更明智、更少资源密集型社会"的智慧。所以我有点呆在地球上，节省资源，而你[Lyckvi]暴跳如雷……设计我的系统的人，他们是明智的……为缓慢而设计"(Pargman/说)。此外，Erkisson注意到西顿普尔的抽象中加速度的逆转——"这实际上是少数几个你看到你有某种加速度的地方，从某种意义上说，我们使[系统]完全自动化，然后我们将后退一步"(Erkisson/说)。
鉴于技术发展的速度与智慧发展的速度不同，人们对损失的可能性有些担忧——"如果我们只是加速未来50年，那么我们现在已经拥有的所有智慧都将丧失"(Søndergaard/特)。van den Broeck担心"使用定量方法的人越来越多……我觉得这与智慧的减少有关"。也许这是在我们的控制之下，也是我们责任的一部分，因为"我们既是技术的发明者，也是他们制造的所有麻烦的研究人员"(Søndergaard/说)。也许这甚至是一种优势——"事情失去了控制，我们在反思和重申……你可以说这是一个明智的过程，[因为]我们试图反思和重新考虑"(van den Broeck/说)。
4.5 当心并欢庆未来
在分组讨论中，两个不同的小组开始讨论虚构的摘要有什么共同之处，是否有某些主题由几个摘要提出，或者跨越几个摘要，摘要有什么共同之处，摘要之间有什么不同，以及摘要中缺少什么(以及延伸到描绘的未来)。
大多数摘要中最强有力的主题被简明扼要地概括为一个词:"小心！"。这些例子从计算机系统"覆盖"老年人护理中所谓的被误导的人类愿望(上面是Schulte的虚构摘要)，未来的智能家庭人工智能服务被用于"亲密关系中，以惩罚和报复同居者"，通过"跟踪，智能重影和报复泄漏"(Søndergaard & Luu/FA)，到强制技术成为社会规范:"在过去的四十年里，研究人员一致认为，如何通过技术解决社会和环境问题的问题已经在强制技术领域得到成功解决"(Hedman & Åhman/FA)。一个虚构的摘要最后对研究的完全商业化的未来状态给出了一个侧面的看法，指出"由于这篇论文的发现已经被确定为对提高经济增长有全行业的好处，这篇论文对具有β+经济评级的商业增长组织来说成本更低。"(Kirman/FA)。
我们大部分时间错过的未来与"小心"正好相反场景，我们选择称之为"欢乐"。这些是我们想要实现的未来，"一个我们想要生活的非常整洁的世界"(Pargman/说)，并且注意到"我们越是反乌托邦，我们就越意识到在我们的设计小说中[技术正在统治人类，并且]技术接管了智慧的控制，而在中间[指的是白板上的一幅图像]在我们没有那么多纸的地方，人类实际上仍然比技术同样聪明或者更聪明"(Luu/说)。
只有三个摘要(可以说)提出了喜悦！主题；Pargman的摘要"因为这是一个社会可持续发展、更加公平的世界，也是一个环境可持续发展的世界，在这个世界上，我们不会一直用新的基础设施来取代基础设施，[…]，以及[Lyckvi的][关于人工智能增强人类的]论文，嗯，你必须指出计算已经解决了许多问题，并多次拯救了我们"(Pargman/说)。如上所述，西顿普尔的抽象也可以被视为一种欣喜！提高安全性的场景。
这可能是因为一般来说更容易想到小心！比想象中的情景更让人欣喜！未来，就像写文学反面乌托邦可能比写乌托邦更容易一样——乌托邦倾向于变得静止，因为这样的社会(可以说)已经达到了"完美"。一个人的乌托邦是另一个人的反乌托邦这一事实[]使事情变得复杂，同样复杂的还有一个事实，即(人机交互)研究人员被训练来发现问题(这需要像我们这样的研究人员来解决)。被像我们这样的研讨会所吸引的关键(HCI)研究人员可能更倾向于"想象可能出错的地方"，而不是"想象完美的未来"。一个更温和的目标是用小心来警告他人！希望这将导致明智决策，或至少减少不明智决策的情况:
"那么，我们如何将虚构的摘要与智慧联系起来呢？所以[……]在电话中，我们说我们想探索计算和智慧。然后我们得到十个摘要，用你的话来说，就是Ben[Kiman]，有点不明智"(Eriksson/说)。"我认为……对我来说，这绝对是我发送摘要时在邮件中写的。我说我认为我制造了一种不明智的技术——但希望它能把我们引向某个地方。[……]我试着思考我想要的是什么，一种明智的技术，但我做不到，所以我就绕道而行了"(Schulte/说)
研讨会的领导者总结说，虚构的摘要可能会告诉我们更多关于我们对智慧和计算的恐惧，更具体地说，是我们对未来变得不明智的恐惧。
5.讨论
在讨论中，我们首先总结并探索如何理解上述结果，然后将这些结果与之前对计算技术的哲学、社会和文化批判联系起来。
5.1 智慧的典范？
研讨会呼吁邀请与会者"通过合作想象[…]提请注意我们在人机交互中发明和研究的技术的后果，包括非技术层面(社会、伦理、规范)[]"。事实证明，我们花了同样多(或更多)的时间讨论智慧的概念；它是什么(见4.1)以及在哪里可以找到它(4.2)。我们一致认为智慧只能在人类身上找到(4.2和4.3)，但未来的技术可能会重新定义它对人类的意义(4.3)。我们还纠结于什么是智慧，过去、现在和未来的智慧之间的关系(4.4)，以及虚构的摘要大部分描述了我们不想生活的(不明智的)未来(4.5)。
当谈到"计算和智慧的未来"(或"智能计算"或"智能未来计算机系统")的共同愿景的发展时，我们没有达成一致。也许我们本应该期待更多。从本质上来说，很难将智慧归结为静态的，或者提取能够(在未来的某个时刻)集成到数字系统中的核心组件。尽管如此，人机交互似乎已经被赋予(或接受)试图做到这一点的使命。
对一个局外人来说，我们讨论的大部分内容听起来像是一场自由的对话，一场关于什么是智慧，在哪里可以找到智慧等等的室内游戏。这样一个局外人会忽略的是，所有参加研讨会的人都是设计师和工程师，他们以这样或那样的方式致力于影响未来(计算机)系统的设计——要么通过设计或构建它们，要么通过批评或建议如何构建这样的系统。即使是有"非传统"学科背景的研究人员，例如在社会科学领域，当他们进入人机交互领域时，被塑造成，或者至少像设计师和工程师一样思考和行动。听起来像是关于"什么构成智慧"的开放式对话，实际上是关于"我们如何定义智慧"的讨论，而这种讨论反过来又是试图构建"智慧系统"(即"智慧"的系统)或构建帮助人类变得智慧的系统的先驱(对我们或他人而言)。由于这些问题没有简单的答案，这反而迫使我们问"根据什么原则应该设计系统来提高明智而非不明智结果的机会？"。这就是我们关于智慧和未来计算系统之间联系的看似自由的研讨会讨论的结果，这种讨论的结果(或缺乏结果)将决定我们在未来将与什么样的系统互动。
5.2对未来的影响
在我们的讨论中，我们没有找到一种方法来制定一个关于计算智慧的稳定的规范性立场——关于它是什么以及我们应该如何进行。也许这并不奇怪。如果我们研究韦森鲍姆和德雷福斯的作品，他们的大部分职业生涯都致力于对计算技术以及如何明智地使用这种技术提供哲学、社会和文化上的批评，我们很少发现在规范的进步账户方面。相反，他们的关键账户为如何开发新的计算技术提供了相对开放的人类选择。
虽然这些思想家对计算和人工智能的局限性以及人类本性的独特性有很多话要说，但他们都没有为未来提供明确的技术发展议程。Joseph Weizenbaum[[]，有计算机科学背景，13岁时与父母逃离纳粹德国的历史，对一个总体的、天真的、简单的、二进制的计算机工程世界观进行了技术上的人文和社会批判，认为它是可以通过计算理解的东西(另见Morozov对"技术解决方案"的批判[]和Easterbrook[]对"计算思维"的描述)。在这种情况下，Weizenbaum的批判不能与试图将计算与法西斯主义和其他极权主义思想体系分开的尝试脱钩。
Hubert Dreyfus[][][][]和 Dreyfus H 与 Dreyfus S[]提供了一种现象学的批判，这种批判来源于对存在主义和大陆哲学的广泛阅读..对韦森鲍姆和德雷福斯来说，智慧不能在正式的计算机系统中实现，因为智慧不能在这样的系统中表达、存储或实现。Weizenbaum和Dreyfus认为智慧是什么，他们将如何指导我们开发智慧的计算系统？
在他们的工作中，我们发现了一种难以捉摸的人性的吸引力，在这种人性中，人们对智慧有一种直觉的理解(我们可以认出一个聪明的人或一个明智的行为)，但在这种人性中，解释这种智慧的构成要素更为困难。这是一种智慧，虽然可以通过他们的著作指出、指出或引向回忆，但也不可避免地是一种不可言喻的智慧，正如苏格拉底被说成"一无所知"的智慧，或者维特根斯坦认为在生活中最重要的不可言喻的智慧。这些发现与我们自己在研讨会上讨论计算和智慧的未来以及撰写本文的经历是一致的。
最终，我们发现自己在两者之间摇摆不定:一方面，我们希望为智能计算系统的发展提供明确的规范性指导；另一方面，我们发现这项任务对我们来说很重要，于是我们又回到了非规范性的负面技术批判上——这比积极的渐进式规范性议程要容易得多。因此，我们在试图提供建设性的和进步的规范性建议和(通常是反乌托邦的)对什么是什么和可能是什么的批判之间摇摆不定。这就是我们的落脚点，也是我们智慧的最佳版本:将规范性和非规范性作为一个过程的两极，奇怪的是，这个过程本身可能是明智和进步的。我们相信，只要我们尽最大努力进行这种无止境的探索，我们一定会学到一些东西，帮助我们在21世纪走向明智的未来。
利益关系声明
没有。
这项研究没有从公共、商业或非营利部门的资助机构获得任何特定的资助。
致谢
我们感谢所有研讨会参与者对研讨会的贡献，感谢北欧会议组织者接受我们的研讨会建议。
参考文献
