学人工智能导论有这一篇就够啦

  1. AI基本概念

  1. AI的基本概念(artificial intelligence)

  1. 智能的概念

  1. 是知识与智力的总和。其中,知识是一切智能行为的基础,而智力是获取知识并应用知识求解问题的能力

  1. 智能的特征

  1. 具有感知能力

  1. 具有记忆与思维能力

  1. 记忆

  1. 存储由感知器官感知到的外部信息以及由思维产生的知识

  1. 思维

  1. 用于对记忆信息的处理

  1. 逻辑思维

  1. 依靠逻辑进行思维

  1. 过程串行,表现为线性过程

  1. 容易形象化,可用符号串表示

  1. 严密性,可靠性

  1. 形象思维

  1. 依据直觉,感性形象进行思维

  1. 形式化困难,没有统一规则

  1. 在信息缺少或变形的情况下仍有可能得到比较满意的结果

  1. 顿悟思维

  1. 不定期性与突发性

  1. 非线性的独创性与模糊性

  1. 穿插以上两者之间,起到升华作用

  1. 具有学习能力

  1. 具有行为能力

  1. 人工智能

  1. 用人工的方法在机器(计算机)上实现的智能

  1. 图灵测试(简明清晰)

  1. 1950

  1. 怎么进行的

  1. 目的

  1. 测试人工智能哲学方面第一个严肃的提案

  1. 是一门研究如何构造智能机器(智能计算机)或智能系统,使它能模拟、延伸、扩展人类智能的学科

  1. 人工智能的发展史

  1. 孕育

  1. 公元前,亚里斯多德(Aristotle):三段论

  1. 培根(F. Bacon):归纳法

  1. 莱布尼茨(G. W. Leibnitz):万能符号、推理计算

  1. 布尔(G. Boole):用符号语言描述思维活动的基本推理法则 1936年,图灵:图灵机

  1. 1943年M-P模型

  1. 形成

  1. 1956年以后,人工智能的研究在机器学习、定理证明、模式识别、问题求解、专家系统及人工智能语言等方面都取得了许多引人瞩目的成就,标志着人工智能作为一门新兴学科正式诞生

  1. 1969年,成立了国际人工智能联合会议

  1. 1970年,创刊了国际性的人工智能杂志

  1. 发展

  1. 20世纪60年代末,人工智能研究遇到困难,如机器翻译。1966年美国 顾问委员会的报告裁定:还不存在通用的科学文本机器翻译,也没有 很近的实现前景。英国、美国中断了大部分机器翻译项目的资助

  1. 1977年,费根鲍姆在第五届国际人工智能联合会议上提出了“知识工 程”概念,推动了知识为中心的研究

  1. 1981年,日本宣布第五代计算机发展计划,并在1991年展出了研制的 PSI-3智能工作站和由PSI-3构成的模型机系统

  1. 我国自1978年开始把“智能模拟”作为国家科学技术发展规划的主要 研究课题。1981年成立了中国人工智能学会

  1. (注:2006年,针对BP学习算法训练过程中存在严重的计算量大等问题,Hinton根据生物学的重要发现,提出了著名的深度学习方法)

  1. 大数据、云计算等信息技术的发展,以及深度学习的提出,人工智能在“算法、算力和算料(数据)”三算方面取得了突破,人工智能进 入了以深度学习为代表的大数据驱动的人工智能发展期

  1. 2016\2017年AlphaGo连续击败世界围棋著名棋手。

  1. 人工智能研究的基本内容

  1. 知识表示

  1. 概念:将人类知识形象化或者模型化

  1. 方法:符号表示法、连接机制表示法

  1. 机器感知

  1. 让机器具有类似人的感知能力,以视觉与听觉为主

  1. 机器思维

  1. 对通过感知得来的外部信息及机器内部各种的工作信息进行有目的的处理

  1. 机器学习

  1. 研究如何使计算机具有类似于人的学习能力,使它能通过学习自动的获取知识

  1. 机器行为

  1. 计算机的表达能力

  1. 三大学派

  1. 符号主义

  1. 连接主义

  1. 行动主义

  1. 人工智能研究的领域

  1. 自动定理证明

  1. 博弈

  1. 模式识别

  1. 自然语言理解

  1. 智能信息检索

  1. 数据挖掘与知识发现

  1. 专家系统

  1. 自动程序设计

  1. 机器人

  1. 组合优化

  1. 人工神经网络

  1. 分布式人工智能与多智能体

  1. 智能控制

  1. 智能仿真

  1. 智能CAD

  1. 智能CAI

  1. 计算机系统及编程

  1. 计算机程序

  1. 基本逻辑结构

  1. 顺序

  1. 循环

  1. 条件

  1. 计算机系统

  1. 硬件(实现用户需求)

  1. 冯诺依曼

  1. 控制器、运算器、存储器、输入设备和输出设备

  1. 程序、软件(描述用户需求)

  1. 数据传输通过总线

  1. 指示CPU进行操作的语言成为程序语言

  1. 操作系统

  1. 基本功能

  1. 提供语言转换

  1. 基本类型

  1. window、iOS、android…

  1. 1936图灵机

  1. 图灵机

  1. 把抽象数学模型

  1. 构成

  1. 输入集合

  1. 输出集合

  1. 内部状态存储器

  1. 状态转移表

  1. 过程

  1. 工程实现

  1. 冯诺依曼结构与硬件

  1. 运算器、控制器、存储器、输入设备、输出设备

  1. 进制

  1. 十进制

  1. 逢十向高位进一

  1. 二进制(计算机)

  1. 逢二进位由0️⃣1️⃣组成的

  1. 十进制中的0、1、2、3、4,在二进制中对应的用0、1、10、11、100来表示

  1. 一位称比特八比特是一个字节

  1. 八进制

  1. 0~7组成

  1. 十六进制

  1. 0~9和ABCDEF

  1. 知识表示和知识图

  1. 知识与知识表示的概念

  1. 把有关信息关联在一起所形成的信息结构称为知识

  1. 知识的特性

  1. 相对正确性

  1. 不确定性

  1. 随机性

  1. 模糊性

  1. 经验

  1. 不完全性

  1. 可表示性与可利用性

  1. 知识的表示

  1. 将人类知识形式化或者模型化

  1. 选择原则

  1. (1)充分表示领域知识。

  1. (2)有利于对知识的利用。

  1. (3)便于对知识的组织、维护与管理。

  1. (4)便于理解与实现。

  1. 一阶谓词逻辑表示法

  1. 逻辑

  1. 基本运算

  1. 与(AND):代表逻辑运算的乘法,运算符号是“∧”

  1. 或(OR):代表逻辑运算的加法,运算符号是“∨”

  1. 非(NOT):代表逻辑上的否定,运算符号是“﹁”

  1. 与非:颠倒了“与”的运算输出

  1. 异或:当输入两者不同时输出1,相同时输出0

  1. 运算优先级

  1. 在逻辑运算中,“非”运算的优先级最高,“与”、“或”运算的优先级相同

  1. 一阶谓词逻辑表示法

  1. 命题

  1. 一个非真即假的判断句

  1. 真T

  1. 假F

  1. 谓词

  1. 一般形式

  1. P (x1, x2,…, xn)

  1. (1)个体是常量:一个或者一组指定的个体。

  1. ● “老张是一个教师”:一元谓词 Teacher (Zhang)

  1. ● “5>3” :二元谓词 Greater (5, 3)

  1. ● “Smith作为一个工程师为IBM工作”:

  1. 三元谓词 Works (Smith, IBM, engineer)

  1. (2)个体是变元(变量):没有指定的一个或者一组个体。

  1. “x<5” :Less(x, 5)

  1. (3)个体是函数:一个个体到另一个个体的映射。

  1. ● “小李的父亲是教师”:Teacher (father (Li) )

  1. (4)个体是谓词(但一阶情况除外)

  1. ● “Smith作为一个工程师为IBM工作”:

  1. 二阶谓词 Works (engineer (Smith), IBM)

  1. 个体

  1. 某个独立存在的事物或者某个抽象的概念

  1. 个体域

  1. 函数与谓词的区别

  1. 在谓词逻辑中,谓词是从个体常项或者谓词常项到真值的函数,函数是从个体常项到个体常项的函数

  1. 谓词逻辑与命题逻辑的区别

  1. 谓词逻辑就是命题逻辑的扩充与发展,他将一个原子命题分解成谓词与个体两部分

  1. 注意

  • 注意

  1. 谓词公式

  1. 或、与、非

  1. 任意、存在

  • 任意、存在

  1. 问题

  • 问题

  1. 谓词公式性质

  1. 等价式

  1. 推理规则

  1. 一阶谓词逻辑知识表示方法

  1. 一阶谓词逻辑表示法特点

  1. 产生表示法

  1. 问题(用产生式表示异或逻辑)

  1. 产生式系统

  • 产生式系统

  • 规则库

  • 综合数据库

  • 控制系统

  • 推理机

  • 求解问题

  • (规则库与事实)匹配-(规则)冲突消解-(规则)执行”的过程

  1. 规则库

  1. 综合数据库

  1. 控制系统

  1. 推理机

  1. 求解问题

  1. (规则库与事实)匹配-(规则)冲突消解-(规则)执行”的过程

  1. 框架表示法与知识图谱

  1. 框架表示

  1. 特点

  1. 结构性

  1. 继承性

  1. 自然性

  1. 知识图谱

  1. 应用

  1. 谷歌

  1. IBM

  1. 搜索求解策略

  1. 搜索的概念

  1. 搜索

  1. 搜索为一种求解问题的方法

  1. 需要解决的问题

  1. (1)是否一定能找到一个解。有没有?

  1. (2)找到的解是否是最佳解。好不好?

  1. (3)时间与空间复杂性如何。难不难?

  1. (4)是否终止运行或是否会陷入一个死循环。可不可算?

  1. 主要过程

  1. (1) 从初始或目的状态出发,并将它作为当前状态。

  1. (2) 扫描操作算子集,将适用当前状态的一些操作算子作用于当前状态而得到新的状态,并建立指向其父结点的指针 。

  1. (3) 检查所生成的新状态是否满足结束状态,如果满足,则得到问题的一个解,并可沿着有关指针从结束状态反向到达开始状态,给出一解答路径;否则,将新状态作为当前状态,返回第(2)步再进行搜索。

  1. 搜索方向

  1. 数据驱动

  1. 从初始状态出发的正向搜索

  1. 目的搜索

  1. 从目的状态出发的逆向搜索

  1. 双向搜索

  1. 搜索策略

  1. 盲目搜索

  1. 在不具有对特定问题的任何有关信息的条件下,按固定的步骤(依次或随机调用操作算子)进行的搜索。

  1. 启发式搜索

  1. 考虑特定问题领域可应用的知识,动态地确定调用操作算子的步骤,优先选择较适合的操作算子,尽量减少不必要的搜索,以求尽快地到达结束状态。

  1. 搜索求解策略

  1. 状态空间表示法

  1. 状态:表示系统状态、事实等叙述型知识的一组变量或数组

  • 状态:表示系统状态、事实等叙述型知识的一组变量或数组

  1. 操作:表示引起状态变化的过程型知识的一组关系或者函数

  • 操作:表示引起状态变化的过程型知识的一组关系或者函数

  1. 状态空间

  1. 利用状态变量和操作符号,表示系统或问题的有关知识的符号体系,状态空间是一个四元组

  • 利用状态变量和操作符号,表示系统或问题的有关知识的符号体系,状态空间是一个四元组

  1. 状态空间表示法

  1. 八数码问题

  1. python解决

  1. 问题

  1. 盲目搜索策略

  1. 带回溯策略的搜索

  1. 从初始状态出发,不停地、试探性地寻找路径,直到它到达目的或“不可解结点”,即“死胡同”为止。若它遇到不可解结点就回溯到路径中最近的父结点上,查看该结点是否还有其他的子结点未被扩展。若有,则沿这些子结点继续搜索;如果找到目标,就成功退出搜索,返回解题路径

  1. 宽度优先搜索

  1. 深度优先搜索

  1. 在深度优先搜索中,当搜索到某一个状态时,它所有的子状态以及子状态的后裔状态都必须先于该状态的兄弟状态被搜索

  1. 启发式搜索策略

  1. 估价函数

  1. 估计代搜索结点的“有希望”的程度(重要程度),并依次给他们排序

  1. 估计一个节点的价值通常为已经付出的代价和将要付出的代价

  1. A搜索算法

  1. 是基于估价函数的一种加权启发式图搜索算法

  1. ●每次重复时,A搜索算法从open表中取出第一个状态,如果该状态满足目的条件,则算法返回到该状态的搜索路径。

  1. ●如果open表的第一个状态不是目的状态,则算法利用与之相匹配的一系列操作算子进行相应的操作来产生它的子状态。如果某个子状态已在open表(或closed表)中出现过,即该状态再一次被发现时,则通过刷新它的祖先状态的历史记录,使算法极有可能找到到达目的状态的更短的路径

  1. ●接着,A搜索算法open表中每个状态的估价函数值,按照值的大小重新排序,将值最小的状态放在表头,使其第一个被扩展。

  1. 不在位数码数:可以看成坐标

  1. A*搜索算法

  1. ●A*算法是对A算法的估价函数f(n)=g(n)+h(n)加上某些限制后得到的一种启发式搜索算法

  1. ●假设f*(n)是从初始节点S0出发,约束经过节点n到达目标节点Sg的最小代价,估价函数f(n)是对f*(n)的估计值。记

  1. ● f*(n)=g*(n)+h*(n)

  1. ●其中, g*(n)是从S0出发到达n的最小代价,h*(n)是n 到Sg的最小代价

  1. 如果对A算法中的g(n)和h(n)分别提出如下限制:

  1. ●第一,g(n)是对最小代价g*(n)的估计,且g(n)>0;

  1. ●第二,对任意节点n均有h(n)≤h*(n)。

  1. ●则称满足上述两条限制的A算法为A*算法。

  1. 智能计算及其应用

  1. 进化算法的产生与发展

  1. 进化算法的概念

  1. 基于自然选择和自然遗传等生物进化机制的一种搜索算法

  1. 遗传算法

  1. 一类借鉴生物界自然选择和自然遗传机制的随机搜索算法,非常适用于处理传统搜索方法难以解决的复杂和非线性优化问题。

  1. 应用

  1. 流水车间调度

  1. 旅行商

  1. 车辆路径

  1. 专家系统与机器学习

  1. 专家系统

  1. 一类包含知识和推理的智能计算机程序

  1. 传统程序=数据结构+算法

  1. 专家系统=知识+推理

  1. 应用

  1. ●医学:疾病辅助诊断

  1. MYCIN

  1. ●地质学:问题诊断、油井记录分析等

  1. ●计算机系统:故障诊断、缺陷定位等

  1. ●化学、数学、工程、军事等

  1. 工作原理

  • 知识库

  • 主要用来存放领域专家提供的有关问题求解的专门知识

  • 推理机

  • 模拟领域专家的思维过程,控制并执行对问题的求解

  • 综合数据库

  • 主要用于存放初始事实、问题的描述及系统运行过程中得到的中间结果、最终结果等信息

  • 知识获取机构

  • 把知识转换为计算机可以储存的内部形式,然后把他们存入知识库

  • 人机接口

  • 是专家系统与领域专家、知识工程师、一般用户之间进行交互的界面,由一组程序及相应的硬件组成,用于完成输入输出

  • 解释机构

  • 回答用户提出的问题,解释系统的推理过程

  1. 知识库

  1. 主要用来存放领域专家提供的有关问题求解的专门知识

  1. 推理机

  1. 模拟领域专家的思维过程,控制并执行对问题的求解

  1. 综合数据库

  1. 主要用于存放初始事实、问题的描述及系统运行过程中得到的中间结果、最终结果等信息

  1. 知识获取机构

  1. 把知识转换为计算机可以储存的内部形式,然后把他们存入知识库

  1. 人机接口

  1. 是专家系统与领域专家、知识工程师、一般用户之间进行交互的界面,由一组程序及相应的硬件组成,用于完成输入输出

  1. 解释机构

  1. 回答用户提出的问题,解释系统的推理过程

  1. 机器学习

  1. 机器学习(Machine learning)使计算机能模拟人的学习行为,自动地通过学习来获取知识和技能,不断改善性能,实现自我完善。

  1. 学习机理

  1. 人类获取知识、技能和抽象概念的天赋能力。

  1. 学习方法

  1. 机器学习方法的构造是在对生物学习机理进行简化的基础上,用计算的方法进行再现

  1. 学习系统

  1. 能够在一定程度上实现机器学习的系统。

  1. 分类

  1. 有监督学习

  1. 学习时需要“教师”的示教(已有结果的带标签的数据)

  1. 根据“教师”提供的正确响应调整学习系统的参数和结构

  1. 局限:数据标注有很高成本、很多情况下很难获得

  1. 常见分类

  1. 回归

  • 回归

  1. 分类

  • 分类

  1. 无监督学习

  1. 不需要示教(不需带标签数据)

  1. 不需要标注数据

  1. 局限:性能

  1. 和监督学习进行一个对比:根据“教师”提供的正确响应调整学习系统的参数和结构

  1. 弱监督学习

  1. 利用不完全的带标签数据进行有监督学习,同时利用大量无标签数据进行无监督学习。半监督学习、迁移学习、强化学习都属于弱监督学习

  1. 只要是标注信息不全、不确切或不精确的学习,都可以看作是弱监督学习

  1. 分类

  1. 半监督学习

  1. 只有少量的标注数据,大量的无标注数据

  1. 发挥有标注数据的作用,同时,从大量的无标注数据中挖掘隐藏的规律

  1. 应用领域:医学影像分析、基于互联网的一些应用

  1. 迁移学习

  1. 侧重于将已经学习的知识迁移应用到新的问题中

  1. “举一反三”,用处很大,例如:将在有标注数据上学习得到的模型,有效地迁移到无标注数据上

  1. ●源域:有知识和数据标注的领域

  1. ●目标域:最终要赋予知识、赋予标注的对象

  1. ●核心目标:将知识从源域迁移到目标域

  1. 应用领域:机器翻译、图像识别、城市计算等

  1. 学习方式

  1. 样本迁移

  1. ●从源域和目标域中找到相似的数据,并赋予更高的权重

  1. ●依赖经验,可靠性低

  1. 特征迁移

  1. ●将源域和目标域的特征映射到同一个特征空间中,再用经典的机器学习方法学习

  1. ●实际问题中通常难以求解

  1. 模型迁移:目前最主流的迁移学习的方法

  1. ●假设源域和目标域共享模型参数,将在源域中通过大量数据训练好的模型应用到目标域上

  1. ●例如,在一个千万量级的标注样本集上得到了一个图像分类系统,在一个新的领域的图像分类任务中,可以直接用之前训练好的模型,再加上目标域的几万张标注样本进行微调。

  1. 应用

  1. ●在训练汉语-英语、英语-越南语的翻译模型的基础上,通过迁移学习方法应用到汉语-越南语翻译

  1. ●城市人群出行所产生的轨迹信息是公共交通规划、城市基础建设、商业选址智能系统的重要参考数据。但由于隐私、商业保密和传感器部署预算等原因,想要得到城市大量的轨迹是非常困难的,尤其是对于一个新的、缺乏数据采集的城市区域。通过对已有轨迹的城市如北京、合肥进行出行知识建模,通过雄安的路网、POI、公交信息,得到雄安的轨迹数据分布。

  1. 强化学习

  1. 监督学习是对每个输入模式都有一个正确的目标输出,而强化学习中外部环境对系统输出结果只给出评价信息(奖励或惩罚),而不是正确答案,学习系统通过那些受惩的动作改善自身的性能

  1. 外部环境对系统输出结果只给出评价信息(奖励或惩罚),而不是正确答案,学习系统通过那些受惩的动作改善自身性能

  1. 试错:通过尝试各种可能的动作,到达各种可能的状态;通过设置合适的奖励函数,使得学习系统在奖励函数的引导下,自主的学习到相应的策略

  1. 应用:AlphaGo应用了强化学习算法;游戏领域应用广泛

  1. 人工神经网络

  1. 引言

  1. 人工神经网络(artificial neural network, ANN)是一个用大量简单处理单元(神经元)经广泛连接而组成的人工网络,是对人脑或生物神经网络若干基本特性的抽象和模拟

  1. 应用:在图像识别、自动控制、决策分析、组合优化问题求解、数据挖掘等方面获得了成功应用

  1. 神经网络一个重要性质是可以自动地从数据中学习到合适的权重参数

  1. 感知机

  1. 基本概念

  1. ●感知机是一种算法

  1. ●感知机是人工神经网络的起源

  1. ●学习感知机的构造就是学习通向人工神经网络和深度学习的一种重要思想

  1. ●和人工智能的符号学派思想不同,感知机是连接主义的思想

  1. ●美国学者Frank Rosenblatt 1957提出

  1. 工作原理

  1. ●接收多个输入信号(输入信号有权重),输出一个信号

  1. ●信号只有0、1 两种取值,0对应不传递信号,1对应传递信号

  1. ●神经元计算传送过来的信号的总和,当大于某阈值时,输出1(y=1),称为“神经元被激活”

  1. 用感知机解决简单问题

  1. ●感知机将权重和偏置设定为参数。

  1. 权重

  1. 用于控制信号的重要性

  1. 偏置

  1. 用于控制神经元被激活的容易程度

  1. ●使用感知机可以表示与门和或门等逻辑电路。

  1. ●异或门无法通过单层感知机来表示。

  1. ●使用2层感知机可以表示异或门。

  1. ●单层感知机只能表示线性空间,而多层感知机可以表示非线性空间。

  1. 从感知机到神经网络

  1. 二层神经网络

  • 二层神经网络

  1. 激活函数

  • 激活函数

  1. 三层神经网络

  • 三层神经网络

文章出处登录后可见!

已经登录?立即刷新

共计人评分,平均

到目前为止还没有投票!成为第一位评论此文章。

(0)
扎眼的阳光的头像扎眼的阳光普通用户
上一篇 2023年10月17日
下一篇 2023年10月17日

相关推荐