第六章 机器学习 习题参考解答
6.1练习题
6.1 什么是学习？有哪几种主要观点?
6.2 什么是机器学习? 机器学习研究的目标是什么？研究机器学习的意义何在? 6.3 机器学习的研究经历了哪几个阶段？ 6.4 机器学习有哪些主要学习策略？
6.5 试述机器学习系统的基本结构，并说明各部分的作用。
6.6 机械学习的基本思想是什么？ 在设计机械学习系统时，要考虑哪些问题？ 6.7 什么是传授式学习？传授式学习的学习过程包括哪些步骤？
6.8 简述类比学习的基本思想。利用类比学习可以学习哪些东西？利用类比学习策略学习新概念的步骤是什么？
6.9 利用类比学习策略学习问题的求解方法时，一般有几种类比法？简述变换类比法的思想。 6.10 什么是归纳学习？归纳学习一般又可分为哪两种学习形式？
6.11 实例学习的基本思想是什么？在实例学习中提供正、反例的信息源有哪些？简述实例学习的两个空间模型，这两个空间之间的关系如何？在设计例子空间和规则空间时要考虑哪些问题？ 6.12 对规则空间进行搜索的方法有几种？变形空间法的基本原理是什么？它有什么优点？ 6.13 观察与发现学习策略可以学习哪些方面的知识？ 6.14 什么是解释学习？其学习过程是什么? 6.15 设训练例子集如下表所示： 序号 1 2 3 4 5 6 属性 x1 T T T F F F x2 T T F F T T 分类 + + - + _ _ 请用ID3学习算法完成判断决策树的构建过程。
6.16 论述你对深度学习本质的认识，如何理解机器学习的两次跨越式发展？
162
6.2习题参考解答
6.1 什么是学习？有哪几种主要观点?
答: （略）
6.2 什么是机器学习? 机器学习研究的目标是什么？研究机器学习的意义何在?
答:机器学习是研究如何使用计算机来模拟人类学习活动的一门学科。更严格地说，就是研究计算机获取新知识和新技能、识别现有知识、不断改善性能、实现自我完善的方法。
机器学习研究的目标有三个：人类学习过程的认知模型；通用学习算法；构造面向任务的专用学习系统的方法。（a）人类学习过程的认知模型。这一方向是对人类学习机理的研究。这种研究不仅对人类的教育，而且对开发机器学习系统都有重要的意义。（b）通用学习算法。这个方向是对人类学习过程的研究，探索各种可能的学习方法，建立起独立于具体应用领域的通用学习算法。（c）构造面向任务的专用学习系统（工程目标）。这一方向是要解决专门的实际问题，并开发完成这些专门任务的学习系统。
机器学习是人工智能中最具智能特征、最前沿的研究领域之一。机器学习的研究取得重大进展往往意味着人工智能，甚至整个计算机科学向前迈进了坚实的一步。机器学习速度快、便于知识积累、学习结果易于传播，因此人类在机器学习领域的每一点进步，都会使计算机的能力显著增强，从而对人类社会产生影响，尤其对今天信息化社会来说，这种影响将是十分深远的。
6.3 机器学习的研究经历了哪几个阶段？
（略）
6.4 机器学习有哪些主要学习策略？
答:机器学习的主要策略有：记忆学习（又称机械学习）、传授学习、演绎学习、类比学习和归纳学习。其中归纳学习又分为实例学习、观察与发现学习。
6.5 试述机器学习系统的基本结构，并说明各部分的作用。
答:机器学习系统的基本结构如下图6.8所示。其中，“环境”和“知识库”是以某种知识表示形式表达的信息的集合,分别代表外界信息来源和系统所具有的知识；学习环节和执行环节代表两个过程。“环境”向系统的“学习环节”提供某些信息，而“学习环节”则利
163
用这些信息对系统的“知识库”进行改进，以增进系统“执行环节”完成任务的效能，“执行环节”根据知识库中的知识来完成某种任务，同时把获得的信息反馈给“学习环节”。
图6.8
6.6机械学习的基本思想是什么?在设计机械学习系统时，要考虑哪些问题？
答: 机械学习的基本思想是直接记忆或存储环境提供的新知识，在以后求解问题时，直接通过对知识库的检索来使用这些知识，而不再需要进行任何的计算和推导。
机械学习系统可以把某些计算任务简化为存取任务，而记忆（数据存储）则是这种简化数据计算处理、以空间换取时间的手段。因此，机械学习系统的设计要考虑三个问题：存储结构、环境的稳定性和存储信息的适用性以及存储与计算的权衡。
6.7 什么是传授式学习？传授式学习的学习过程包括哪些步骤？
答: 传授式学习又称为指点学习或嘱咐式学习。在这种学习方式下，由外部环境向系统提供一般性的指示或建议，系统把它们具体地转化为细节知识，并加入知识库中。在学习过程中要反复对形成的知识进行评价，使其不断完善。
一般来说，传授式学习的学习过程包括下列五个步骤：
（a） 征求教授者的指示或建议。这是请求教授者或者专家提出建议或指示。 （b） 解释。解释就是把教授者的建议转成内部表示形式，属知识表示问题。 （c） 实用化。这是传授式学习的信息变换过程，它把抽象的建议转成具体的知识。 （d） 加入知识库。把得到的新知识加入知识库，并在加入过程中，对知识进行一致性检查，以防出现矛盾、冗余、环路等问题。
（e） 评价。实用化得到的新知识往往是假设，还要对其进行验证和评价。如果评价中出现了问题，就要进行故障分析和知识库修改。
6.8 简述类比学习的基本思想。利用类比学习可以学习哪些东西？利用类比学习策略学习新概念的步
骤是什么？
答: 类比学习就是通过类比，即通过对相似事物进行比较所进行的一种学习，它有一个基本的假设，即人们每遇到一个新问题时，都会联想起一些以前遇到过的问题，这些问题和
164
新问题的抽象级别虽然不一定相同，但它们具有一定程度上的相似性。因此，人们就会希望以前的解决问题的行为也能适用于新的问题的求解。
利用类比学习，既可以学习新的概念或新的技巧，又可以学习到求解问题的方法。学习新概念时的学习步骤是：首先从记忆中（知识库中）找到类似的概念或技巧，然后把它们转换为新形式以便用于新情况。
6.9 利用类比学习策略学习问题的求解方法时，一般有几种类比法？简述变换类比法的思想。
答: 用类比学习策略学习问题求解的方法一般有两种，一种称为变换类比法，另一种称为推导类比法。
变换类比学习主要由两个过程组成：回忆过程与变换过程。回忆过程用于找出新旧问题间的差别，包括：
(a) (b) (c) (d)
新、旧问题初始状态的差别。 新、旧问题目标状态的差别。 新、旧问题路径约束的差别。 新、旧问题求解方法可应用度的差别。
由这些差别就可以求出新旧问题的差别度，其差别越小，表示两者越相似。 变换过程是把旧问题的求解方法经过适当变换后，使之成为求解新问题的求解方法。变换时，其初始状态是与新问题类似的旧问题的解，即一个算符序列，目标状态是新问题的解。变换中要用“中间—结局分析”法来减少目标状态与初始状态间的差异，使初始状态逐步过渡到目标状态，即求出新问题的解。
6.10 什么是归纳学习？归纳学习一般又可分为哪两种学习形式？
答: （略）
6.11 实例学习的基本思想是什么？在实例学习中提供正、反例的信息源有哪些？简述实例学习的两个
空间模型，这两个空间之间的关系如何？在设计例子空间和规则空间时要考虑哪些问题？
答: 实例学习是通过从环境中取得若干与某概念有关的例子，经归纳得出一般性概念的一种方法。实例学习系统能够从外部信息源提供的特殊的正例和反例出发，进行归纳推理，得到一般的规则或一般性的知识，这些一般性知识应能解释所有给定的正例，并排除所有给定的反例。
165
一般情况下，提供正例和反例的信息源有三种：（1）已经知道概念的教师；（2）学习者本身；（3）学习者以外的外部环境。
实例学习系统涉及到两个空间：例子空间和规则空间，其模型如图6.9所示，它反映了例子空间和规则空间之间的关系。
图6.9
在设计例子空间时，要考虑两个问题，一个是示教例子的质量；另一个是例子空间的组织与搜索方法。在设计规则空间时，也要考虑两个问题，一个是对规则空间的构成及其中的规则表示方法的要求；另一个是规则空间的搜索方法的选择。
6.12 对规则空间进行搜索的方法有几种？变形空间法的基本原理是什么？它有什么优点？
答: 搜索规则空间的方法有两大类，一类称作数据驱动方法，另一类称作模型驱动方法。数据驱动是指从例子空间出发，通过对例子进行解释，再根据解释在规则空间中搜索合适的规则，例子空间的例子就看作是搜索的前提数据；模型驱动是指从规则集中找到一个合适的规则（模型），然后到例子空间去选取例子，对规则进行验证。数据驱动法中又包括变型空间法和改进假设法两种方法。模型驱动法又包括产生与测试法和方案示例法两种方法。
变型空间法的基本原理是使用统一的形式表示规则和例子，以整个规则空间作为初始的假设规则集合H，H中包括满足第一个示教正例的所有规则，在得到下一个示教例子时，依据示教例子中的信息，它对集合H进行一般化或特殊化处理，逐步缩小集合H，最后使H收敛为只含有所要求的规则。由于被搜索的空间H逐步缩小，故称为变形空间。
变型空间法的优点是可以逐步接受示教例子逐步学习，不需要程序回溯就可以利用例子空间中的新例子，对规则集合H进行修改。
6.13 观察与发现学习策略可以学习哪些方面的知识？
166
人工智能教程习题及答案第6章习题参考解答
