人工智能学习笔记(持续更新)
北京大学 人工智能MOOC
Part I. Basics :Chapter 1. Introduction
§1.1 Overview of Artificial Intelligence
-
研究如何创建计算机和计算机软件使之具有智能行为的学科;
-
1956 达特茅斯会议 AI诞生
图灵测试 图灵(1950) 计算机器与智能Computing Machinery and Intelligence
皆在提供一种令人满意的关于智能的可操作定义
视觉图灵测试 唐纳德-杰曼(2014)
采用一个操作员辅助设备、根据给定的图像产生随机的二元问题序列
- 目前计算机视觉系统是测试任务的精度,包括对象检测、图像分割和定位,但仍然与人类行为方式有差距。(人类具有理解图像的能力)
- 评估计算机图形学能力
- 图形识别、及图形间关系理解
- 题目之间有关联,且被测试者只回答yes、no
§1.2 Foundations of Artificial Intelligence
Mathematics:
-
逻辑学:得出正确结论的形式规则是什么?
- 1847,George Bool:命题逻辑;
- 1879,Gottlob Frege:一阶逻辑,扩展了布尔逻辑,增加了对象和关系;
- 1983,Alfred Tarski:指称理论,解释如何讲逻辑中的对象与对象相关联;
-
计算:什么是可计算的?
-
Alan Turing 1912-1954:试图精确的描述那些函数是可计算的
-
Cobham Edmonds 1960s:计算的易处理性的概念
-
Steven Cook,Richard Karp 1972:提出了NP完全性的理论;
P:polynomial time 多项式时间
NP: Non-deterministic Polynomial time 不确定性多项式时间
NP-complete :NP 与NP难 的交集。
-
-
概率:如何根据不确定信息进行推断?
- Gerolamo Cardano : 构建了概率的概念,博弈事件中可能的结果;
- James Bernoulli :引入了新的统计学方法;
- Thomas Bayes:提出了贝叶斯规则,称为不确定性推理的最现代方法。
Neuroscience
大脑如何处理信息?
大脑在理性决策方面很优越,但不像软件那样模块化,预测和仿真是决策的关键!
Cognitive Psychology
人类如何思考与行动?
研究认知及行为背后的心智处理的行为科学,研究人脑如何接收外部世界的输入、处理、作用(认知心理学)
如何在大脑中形成以及转录过程的跨领域学科(认知科学)
把大脑看作是信息处理设备,是研究心智过程的学科。
- 注意机制 Attention
- 一是集中在某个有用感知信息子集的状态
- 语言运用
- 语言习得、语言形成的组件、语言使用时的语气、或者其他相关领域。
- 记忆
- 记忆:三个子集:过程记忆、语义记忆、情景记忆。
- 感知
- 物理感知(视觉)、认知过程
- 元认知:关于认知的认知、关于思考的思考、关于认识的认识
- 关于认知的知识、认知的调节
- 问题求解
- 创造力
- 思考
控制理论和控制论
机器如何能在自身的控制下运行
控制理论:工程与数学的交叉学科:处理动态系统对输入的行为,以及该行为如何通过反馈进行调整。
控制论:探索调控系统,它们的结构、约束、及其可能性,定义为研究动物与机器的控制与通讯的科学,新世纪被解释为”用技术控制任何系统“
§1.3 History of Artificial
-
1950-1956 人工智能的诞生
- 图灵测试:机器智能的度量
- 达特茅斯会议:人工智能研究领域正式诞生
-
1956-1974 黄金年代
- 1958 Herbert Simon 和Allen Newell 第一个ai程序:逻辑理论家(LT);
- 1958 John McCarthy 发明了Lisp语言;
- 1960 Masterman 设计了语义网络,用于机器翻译 ;
- 1963 Leonard Uhr和Charles Vossler 发表了关于模式识别的论文,描述了第一个机器学习程序;
- 1965 Fergenbaum 发明了Dendral的专家系统,推断有机化合物分子结构的软件;
- 1974 Shortliffe 演示了MYCIN程序,一个非常实用的基于规则的医学诊断方法;
-
1974-1980 第一个寒冬
- 1966 机器翻译失败
- 1970 连接主义遭到遗弃
- 197-1975 DARPA对卡耐基梅隆大学的语音理解研究项目感到沮丧;
- 1973,受 Lighthill ”Artificial Intelligence:A General Survey“报告的影响,英国大幅度缩减AI的研究;
- 1973-1974,DARPA,削减了一般性研究的经费;
-
1980-1987 繁荣期
- 1980 AAAI美国人工智能学会,在斯坦福大学召开第一届全国大会;
- 1982 日本 启动了 第五代计算机系统 FGCS 项目,用于知识处理;
- 1980-1987 决策树模型被发明,并以软件的形式退出,该模型具有可视化、易说明的特点;
- 1980-1987 多层人工神经元网络ANN 被发明,具有足够多的隐藏测,一个ANN可以表达任意的功能,因此突破了感知的局限性;
-
1987-1993 第二个寒冬
- 1987 Lisp机市场崩溃;
- 1988 美国政府战略计算促进会取消了新的ai经费;
- 1993 专家系统缓慢滑向低谷;
- 1990s 日本第五代计算机项目没能达到其初始目标,悄然退场;
-
1993-Present 突破
- 1997 IBM深蓝系统战胜国际象棋卫冕冠军;
- 2005 斯坦福大学自主机器人车辆Stanley,赢得了DARPA无人驾驶汽车挑战赛;
- 2006 Geoffrey Hinton和Ruslan Salakhutdinov 在Science 上发表深度学习论文;
- 2011 Watson 在Jeopardy!比赛上战胜了两届冠军获得了1m美元的大奖
- 2011 Google 启动深度学习项目,作为Google Brain 作为Google X项目之一,降一万六千台计算机连成的一个集群,致力于模仿人类大脑,通过一千万张数字图片的学习,已成功学会识别一只猫;
- 2012 Apple 推出了Siri,个人助理和知识导航软件;
- 2012 Microsoft 首席研究馆Rick Rashid 演示了一款 实时英文-中文通用翻译系统,不仅翻译准确,而且保持讲者口音和语调;
- 2014.4 Microsoft 推出了Cortana;
- 2014.6 Microsoft 推出微软小冰;
- 2015.9.8 百度推出 度秘,秘书化搜索服务;
- 2014.6 Eugene Goostman被活动33%的评委认为其是人类,通过了图灵测试;
- 2014.8 IBM发表了类人脑工作的TrueNorth芯片;
- 2015.2 Google DeepMind公司在Natrue 上发表了Deep Q-Network 通过深度强化学习达到人类水平的操控;
- 2015.12 DeepMind公司的AlphaGo 打败了欧洲围棋冠军 樊辉;深度学习软件第一次击败了人类职业围棋选手;
- 2016.3 AlphaGo 在韩国首尔对垒九段棋手中获胜,
§1.4 The State of The Art
Humanly | Rationally | |
---|---|---|
Acting | Acting humanly | Acting rationally |
Thinking | Thinking humanly | Thinking rationally |
- 弱人工智能(ANI):无意识的AI,专注于一个具体的任务(仅针对一个特定问题);
- 强人工智能(AGI):将智能用于处理任何问题,研究主要目标;
- 超人工智能(ASI):一个假想的agent。
人工智能的应用
- 计算机视觉 Computer vision
- 图像处理
- VR、AR、MR
- 模式识别
- 智能诊断
- 博弈理论和策略规划
- ai游戏
- 机器翻译
- 自然语言处理
- 非线性控制机器人学
- \(\cdots\)
优秀论文赏析:
- ”一种用于非线形降维的全局几何框架“
- ”利用神经元网络降低数据的维度“
- ”通过快速查找和发现密度峰值进行聚类“
人工智能研究领域:
- AI
- SEARCHING
- PROBLEMS SPACE
- REASONING
- KNOLEDGE
- PLANNING
- RULES
- LEARNING
- DATA
- APPLYING
- COMMUNICATING
- NLP
- MACHINE TRANSLATE
- PERCEIVING
- VISION
- SPEECH
- SENSING
- ACTING
- ROBOT
- COMMUNICATING
- SEARCHING
Part I. Basics: Chapter 2.Intelligent Agent
§2.1 Ctbernetics and Brain Simulation
§2.2 Symbolic vs. Sub-symbolic
符号模式
专家系统:通过规则、规则的操作进行推理;
亚符号模式
研究者确信,符号系统永远无法模仿人类认知的全部过程,尤其是感知。