如何避免人工智能应用的错误

附件：报告封面

评阅教师	设计成绩	评阅日期

 

海南大学计算机科学与技术学院

计算机综合课程设计报告

 

 

班    级：19级计算机科学与技术1班

成    员： 王一航（20191687310001）

                        

                        

                        

                        

指导老师：         杨厚群         

完成日期：    2022年6月18日    

 

如何避免人工智能应用的错误?

什么是人工智能？人工智能（Artificial Intelligence）：它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能目的就是让机器能够像人一样思考，让机器拥有智能。时至今日，人工智能的内涵已经大大扩展，是一门交叉学科。很多人认为通用人工智能没有头绪，是遥不可及的事。但是我的观点是脑科学已经有足够多的积累，给我们指引了正确的方向。我们需要做的就是理解大脑工作的本质，将各种零散的科学发现系统地整合起来，实现具有大脑处理信息功能的系统。

目前，人工智能技术已越发成熟，被用于各个领域，为我们的生活带来了很大方便。但是，人工智能是百分百对人类有利不会出错的吗？我想答案当然是错误的。能在生活中实实在在普及、管用的智能，才是真智能。香港科技大学智能网络系统实验室主任、副教授陈凯说做到这一点难吗？ 很难。计算机领域最高奖"图灵奖"获得者约瑟夫·斯发基斯举例：“前不久，特斯拉的视觉识别就把月亮识别成了黄灯。”即便是视觉识别技术居于全球最前沿的特斯拉，也会在现实中犯这种"低级"错误。除此之外，像大多数领域一样，人工智能经历着一些值得注意的、成长中的错误：谷歌翻译把土耳其语翻译成英文的时候出现了性别偏见；Facebook的聊天机器人在发展出自己的语言后被关闭；第一天就出了事故的自动驾驶面包车；谷歌Allo建议使用围头巾的男子的表情符号回应枪支的表情符号等等。

 

盲目地相信人工智能不可取，它无法做到百分百准确地为我们的生活带来便利。所以，如何最大限度避免人工智能在我们生活应用中的错误呢？我想这是当前我们应该关注的问题。科技头谷歌及旗下人工智能公司DeepMind正在面临诉讼，它们被指未经同意获取并处理上百万名患者的医疗健康病历数据。最新的诉讼也意味着AI医疗再次遭遇挫败。英国律师事务所Mishcon de Reya周五表示，它已代表约160万英国患者向高等法院提出索赔，并起诉DeepMind为开发一项名为Streams的患者监测应用程序，未经同意获得了患者的医疗记录，谷歌和DeepMind公司尚未对起诉做出官方回应。谷歌母公司Alphabet周五股价上涨了2.4%。这只是其中一个例子，随着人工智能的发展，以及其在医疗领域的应用范围越来越大，人工智能的不足与问题也暴露出来，数据质量、主体责任、行业标准等都是人工智能在医学领域急需解决的问题。

l 加强数据基础

  算法、大数据是人工智能技术最重要的因素。市场上的数据有很多种，但是医院和企业合作时往往是针对某一机型的数据进行训练。那么，当该数据需要用于其他机型的时候，就需要重新对该机型进行训练。由于数据没有统一的标准，各个厂家的仪器标准不同，无法共享，所以，数据标准化需要各厂家与医院积极配合，加大个人数据标准的开放程度。

l 完善诊断标准

在医疗影响辅助诊断上，图像识别技术日益成熟，但是我认为这仅仅能够作为医生诊断的部分依据，医生还要通过各种化验结果等做出更加详细具体的诊断和分析。

l 明确医疗责任主体

人工智能的学习能力在不断提高，诊疗速度也在不断加快，用户在使用医疗AI助手时，可能会错误地进行描述，导致AI助手给予用户的建议与用户实际疾病不符。因此对于利用人工智能进行诊断的功能，我们要设定严格的审核要求。过度的管控会阻碍人工智能的发展，而过轻的管控会很容易导致安全事故。因此，我们就需要合理指定规则，明确责任主体，尽最大力度减小人工智能带来的潜在危害。

l 提高群众的认知素养、加大人才培养力度

人工智能的发展方向很大程度上取决于人类自身，如果人类一味地接受该项技术，人工智能势必将无法服务人类，如果人类不假思索地接受该项技术，则势必会为伦理问题埋下隐患。因此，唯有提高群众的认知素养，才能使人工智能更好地为人类服务。首先，应提高科研人员的认知素养，使其坚持对人类和社会负责，在人工智能研究方向、研究方法以及研究成果应用过程中，始终保持谨慎的态度，既不因为应用效果较好而过分乐观，也不因当前存在的不足而万分惊恐，甚至全然抵制。其次，应提高普通群众的认知素养，引导群众认识了解人工智能，理性发展技术。

 

为了在新时代蓬勃发展，需要减少AI带来的风险，并充分利用AI提供的机会。人工智能不再是对遥远未来的憧憬，在今天，我们越来越感觉到，一个全新的人工智能社会即将到来。AI技术与物理世界不同的人群、场景结合，让其不经意间融入到社会的脉络中，和其他任何科技的发展一样，人工智能具有两面性，既能给人类带来巨大财富，也可能带来不可预知的灾难。就像是一面镜子，其实都是人类自身的映射。只有重视人工智能带来的危害，不一味地追求人工智能带来的进步，才能真正使科学技术带来的智慧之光在新时代中越来越有光芒，人类的生活才会越来越美好。

 

 

【文献】

①张正清黄晓伟：《作为“他者"而承担道德责任的智能机器——一种人工智能成为道德能动者的可能性》，《道德与文明》，2018年。

②潘字翔：《大数据时代的信息伦理与人工智能伦理——第四届全国赛博伦理学暨人工智能伦理学研讨会综述》，《伦理学研究》，2018年