机器学习：数据驱动的科学
引言：传统上，计算机会按照我们输入的指令一步步执行。而机器学习却是通过输入数据而不是指令来进行各种工作。
本文选自《深入浅出深度学习：原理剖析与Python实践》。
机器学习，也被称为统计机器学习，是人工智能领域的一个分支，其基本思想是基于数据构建统计模型，并利用模型对数据进行分析和预测的一门学科。
传统上，如果想让计算机工作，我们会编写一段指令，然后让计算机遵照这个指令一步一步执行下去。而机器学习则是采用另一种解决问题的思路，机器学习解决问题的方式不是通过输入指令逻辑，而是通过输入的数据，也就是说，机器学习是一种让计算机利用数据而不是指令来进行各种工作的方法。
机器学习最基本的做法是使用算法来解析数据，从数据中学习到规律，并掌握这种规律，然后对真实世界中的事件做出决策或预测。与传统的为解决特定任务、硬编码的软件程序不同，机器学习的核心是使用大量的数据来训练，通过各种算法从数据中学习如何完成任务。机器学习直接来源于早期的人工智能领域，在模式识别和计算机学习理论的研究中逐渐发展，并最终形成一门新的学科。与人工智能类似，机器学习也是一个跨学科的领域，涉及多个基础学科，包括统计学、线性代数和数值计算等。
机器学习是基于训练数据构建统计模型，从而使计算机具有对新数据进行预测和分析的能力，机器学习方法按其实现的目标不同，可以分为：监督学习、无监督学习和强化学习。
监督学习（Supervised Learning）：监督学习使用带有标签的训练数据集进行训练，输入的训练数据由物体的特征向量（输入）和物体的标签（输出）两部分构成，其中，若输出的标签是一个连续的值，则称为回归监督学习；若输出标签是一个离散的值，则称为分类监督学习。
监督学习涉及两个方面的工作：首先，根据提供的训练数据，选择一种合适的模型进行训练，直至模型的训练收敛。常见的监督学习模型包括：Logistic回归、决策树、SVM（Support Vector Machines，支持向量机）、KNN、朴素贝叶斯等。下图展示的是一个水果分类的例子，每一个样本数据的输入是由物体的特征构成的特征向量，如物体的颜色、大小、形状等，输出的是物体的类别，如苹果、葡萄、香蕉等。
监督学习模型训练，算法利用训练数据提供的特征信息，如颜色、大小、形状等，构建概率模型p(y|x)或非概率模型y=f(x)
其次，当模型训练完毕，就可以把新的输入数据代入模型，模型将根据新数据的特征信息，找出最符合这种特征的输出结果，其过程如下。
模型预测
无监督学习（Unsupervised learning）：无监督学习的训练样本数据没有任何的标签和输出，其目的是对原始数据结构进行深入分析，找出数据间存在的规律与关系。典型的无监督学习任务包括：聚类、降维、特征提取等。
两种常见的无监督学习，(a)数据聚类，(b)数据降维
虽然监督学习的准确率更高，但在现实生活中，我们获取的大量数据一般是没有标签数据的，因此，我们不得不诉诸于无监督学习，但传统的无监督学习方法在特征提取上并不令人满意，而深度学习则被证明具有强大的无监督学习能力，特别是在计算机视觉领域，运用深度学习技术所达到的效果更是要远优于传统的机器学习。
强化学习（reinforcement learning）：强化学习也称为增强学习，强调如何基于环境而行动，以取得最大化的预期利益。其灵感来源于心理学中的行为主义理论，即有机体如何在环境给予的奖励或惩罚的刺激下，逐步形成对刺激的预期，产生能获得最大利益的习惯性行为。
强化学习与前面的监督学习、无监督学习之间的区别在于，它并不需要出现正确的输入输出对，也不需要精确校正次优化的行为。强化学习更加专注于在线规划，需要在探索未知的领域和遵从现有知识之间找到平衡，它的学习过程是一个从实际环境中不断学习积累，不断进化的过程。因此，强化学习更接近生物学习的本质，也是有望让机器获得通用智能的一项技术。
DeepMind利用强化学习技术在迷宫游戏中执行搜索任务（图片摘自网络）
本文选自《深入浅出深度学习：原理剖析与Python实践》，点此链接可在博文视点官网查看此书。
想及时获得更多精彩文章，可在微信中搜索“博文视点”或者扫描下方二维码并关注。
python机器学习数据建模与分析——数据预测与预测建模 机器学习的预测建模在多个领域都具有重要的应用价值，包括个性化推荐、商品搜索、自动驾驶、人脸识别等。本篇文章将带领大家了解什么是预测建模
python机器学习——朴素贝叶斯算法笔记详细记录 朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法。最为广泛的两种分类模型是决策树模型(Decision Tree Model)和朴素贝叶斯模型（Naive Bayesian Model，NBM）。和决策树模型相比，朴素贝叶斯分类器(Naive Bayes Classifier 或 NBC)发源于古典数学理论，有着坚实的数学基础，以及稳定的分类效率。同时，NBC模型所需估计的参数很少，对缺失数据不太敏感，算法也比较简单。
python机器学习课程——决策树全网最详解超详细笔记附代码 决策树算法是一种逼近离散函数值的方法。它是一种典型的分类方法，首先对数据进行处理，利用归纳算法生成可读的规则和决策树，然后使用决策对新数据进行分析。本质上决策树是通过一系列规则对数据进行分类的过程。决策树方法最早产生于上世纪60年代，到70年代末。由J Ross Quinlan提出了ID3算法，此算法的目的在于减少树的深度。但是忽略了叶子数目的研究。C4.5算法在ID3算法的基础上进行了改进，对于预测变量的缺值处理、剪枝技术、派生规则等方面作了较大改进，既适合于分类问题，又适合于回归问题。决策树算法构造决策
python机器学习数据建模与分析——决策树详解及可视化案例 你是否玩过二十个问题的游戏，游戏的规则很简单:参与游戏的一方在脑海里想某个事物，其他参与者向他提问题，只允许提20个问题，问题的答案也只能用对或错回答。问问题的人通过推断分解，逐步缩小待猜测事物的范围。决策树的工作原理与20个问题类似，用户输人一系列数据，然后给出游戏的答案。我们经常使用决策树处理分类问题,近来的调查表明决策树也是最经常使用的数据挖掘算法。它之所以如此流行，一个很重要的原因就是使用者基本上不用了解机器学习算法，也不用深究它是如何工作的。