2019年12月16日12:17:0931.6K1

摘要

适读人群 ：本书将理论和代码相结合，帮助读者更好地进入深度学习领域，适合任何对深度学习感兴趣的人。
1 作者本身也是从小白开始入门深度学习的，无论从书中内容，还是讲解思路，以及语言风格，均适合你从零开始进入深度学习这个充满魔力的世界。
2 实例简单而不简约，用到了生成对抗网络和注意力机制等目前相对前沿的深度学习技术。
3 虽然是一本入门教程，但是对原理的讲述也不含糊，清晰易懂，让读者能知其然且知其所以然。

深度学习入门之PyTorch 作者：廖星宇

深度学习入门之PyTorch 出版社： 电子工业出版社

深度学习入门之PyTorch 内容简介

深度学习如今已经成为了科技领域*炙手可热的技术，在本书中，我们将帮助你入门深度学习的领域。本书将从人工智能的介绍入手，了解机器学习和深度学习的基础理论，并学习如何用PyTorch框架对模型进行搭建。通过阅读本书，你将会学习到机器学习中的线性回归和logistic回归，深度学习的优化方法，多层全连接神经网络，卷积神经网络，循环神经网络以及生成对抗网络，同时从零开始对PyTorch进行学习，了解PyTorch基础及如何用其进行模型的搭建，*后通过实战了解*前沿的研究成果和PyTorch在实际项目中的应用。

深度学习入门之PyTorch 目录

前言

第1章 深度学习介绍

1.1 人工智能

1.2 数据挖掘、机器学习与深度学习

1.3 学习资源与建议

第2章 深度学习框架

2.1 深度学习框架介绍

2.2 PyTorch介绍

2.3 配置PyTorch深度学习环境

第3章 多层全连接神经网络

3.1 热身：PyTorch基础

3.2 线性模型

3.3 分类问题

3.4 简单的多层全连接前向网络

3.5 深度学习的基石：反向传播算法

3.6 各种优化算法的变式

3.7 处理数据和训练模型的技巧

3.8 多层全连接神经网络实现MNIST手写数字分类

第4章 卷积神经网络

4.1 主要任务及起源

4.2 卷积神经网络的原理和结构

4.3 PyTorch卷积模块

4.4 卷积神经网络案例分析

4.5 再实现MNIST手写数字分类

4.6 图像增强的方法

4.7 实现cifar10分类

第5章 循环神经网络

5.1 循环神经网络

5.2 循环神经网络的变式：LSTM与GRU

5.3 循环神经网络的PyTorch实现

5.4 自然语言处理的应用

5.5 循环神经网络的更多应用

第6章 生成对抗网络

6.1 生成模型

6.2 生成对抗网络

6.3 Improving GAN

6.4 应用介绍

第7章 深度学习实战

7.1 实例一——猫狗大战：运用预训练卷积神经网络进行特征提取与预测

7.2 实例二——Deep Dream：探索卷积神经网络眼中的世界

7.3 实例三——Neural-Style：使用PyTorch进行风格迁移

7.4 实例四——Seq2seq：通过RNN实现简单的Neural Ma-chine Translation

深度学习入门之PyTorch 精彩文摘

自古以来，发明家们都梦想着能够创造有思想的机器人，当电脑问世之后，人们一直想知道它们是否可以变得更加智能。如今人工智能成为一个有着无限商业价值和研究价值的领域，人们也看到了人工智能在图像、语音、自然语言上取得的巨大成功。

这一章，我们将简要地介绍一下人工智能及其重要性，以及什么是数据挖掘、机器学习和深度学习，并介绍它们彼此之间的联系与区别，其中会重点介绍深度学习，很后给出一些合理可行的学习建议，帮助大家从零开始进入深度学习这个充满魔力的领域。

人工智能（Artificial Intelligence），也称为机器智能，是指由人工制造出来的系统所表现的智能，所谓的智能，即指可以观察周围环境并据此做出行动以达到目的。

在人工智能的早期，那些对人类智力来说非常困难、但对计算机来说相对简单的问题迅速得到解决，比如，那些可以通过一系列形式化的数学规则来描述的问题。AI的真正挑战在于解决那些对人来说很容易执行、但很难形式化描述的任务，比如，识别人们所说的话或图像中的脸。对于这些问题，我们人类往往可以凭借直觉轻易地解决，因为我们已经在上万年的进化中形成了这些直觉性的能力，但是机器却很难找到实现的方法。

长久以来人们一直相信人工智能是存在的，但是却不知道如何实现。以前的科幻电影总会融入人工智能，比如《星球大战》《终结者》《骇客帝国》，等等。电影的渲染使我们总觉得人工智能缺乏真实感，或者总将人工智能和机器人联系在一起。其实我们身边早已实现了一些弱人工智能，只是因为人工智能听起来很神秘，所以我们往往没有意识到。

首先，不要一提到人工智能就想到机器人。机器人只是人工智能的一种容器，如果将人工智能比作大脑，那么机器人就好似身体——然而这个身体却不是必需的，比如现在很火的AlphaGo，其背后充满着软件、算法和数据，它下围棋是一种人格化的体现，然而其本身并没有“机器人”这个硬件形式。

人工智能的概念很宽泛，现在根据人工智能的实力将它分成三大类。

（1）弱人工智能（Artificial Narrow Intelligence，ANI）

弱人工智能是擅长于单个方面的人工智能。比如战胜世界围棋冠军的人工智能Al-phaGo，它只会下围棋，如果你让他辨识一下猫和狗，它就不知道怎么做了。我们现在实现的几乎全是弱人工智能。

（2）强人工智能（Artificial General Intelligence，AGI）

这是类似人类级别的人工智能。强人工智能是指在各方面都能和人类比肩的人工智能，人类能干的脑力活，它都能干。创造强人工智能比创造弱人工智能难得多，我们现在还做不到。Linda Gottfredson教授把智能定义为“一种宽泛的心理能力，能够进行思考、计划、解决问题、抽象思维、理解复杂理念、快速学习和从经验中学习等操作。”强人工智能在进行这些操作时应该和人类一样得心应手。

（3）超人工智能（Artificial Superintelligence，ASI）

牛津哲学家、知名人工智能思想家Nick Bostrom把超级智能定义为“在几乎所有领域都比很聪明的人类大脑都聪明很多，包括科学创新、通识和社交技能。”超人工智能可以是各方面都比人类强一点，也可以是各方面都比人类强万亿倍的。

我们现在处于一个充满弱人工智能的世界，比如垃圾邮件分类系统，是一个可以帮助我们筛选垃圾邮件的弱人工智能；Google翻译是一个可以帮助我们翻译英文的弱人工智能；AlphaGo是一个可以战胜世界围棋冠军的弱人工智能，等等。这些弱人工智能算法不断地加强创新，每一个弱人工智能的创新，都是在给通往强人工智能和超人工智能的旅途添砖加瓦。正如人工智能科学家Aaron Saenz所说，现在的弱人工智能就像地球早期软泥中的氨基酸，可能突然之间就形成了生命。

简单来说，数据挖掘就是在大型的数据库中发现有用的信息，并加以分析的过程，也就是人们所说的KDD（knowledge discovery in database）。一个数据的处理过程，就是从输入数据开始，对数据进行预处理，包括特征选择、规范化、降低维数、数据提升等，然后进行数据的分析和挖掘，再经过处理，例如模式识别、可视化等，很后形成可用信息的全过程。

所以说数据挖掘只是一种概念，即从数据中挖掘到有意义的信息，从大量的数据中寻找数据之间的特性。

机器学习算是实现人工智能的一种途径，它和数据挖掘有一定的相似性，也是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。对比于数据挖掘从大数据之间找相互特性而言，机器学习更加注重算法的设计，让计算机能够自动地从数据中“学习”规律，并利用规律对未知数据进行预测。因为学习算法涉及了大量的统计学理论，与统计推断联系尤为紧密，所以也被称为统计学习方法。

机器学习可以分为以下五个大类：

（1）监督学习：从给定的训练数据集中学习出一个函数，当新的数据到来时，可以根据这个函数预测结果。监督学习的训练集要求是输入和输出，也可以说是特征和目标。训练集中的目标是由人标注的。常见的监督学习算法包括回归与分类。

（2）无监督学习：无监督学习与监督学习相比，训练集没有人为标注的结果。常见的无监督学习算法有聚类等。

（3）半监督学习：这是一种介于监督学习与无监督学习之间的方法。

（4）迁移学习：将已经训练好的模型参数迁移到新的模型来帮助新模型训练数据集。

（5）增强学习：通过观察周围环境来学习。每个动作都会对环境有所影响，学习对象根据观察到的周围环境的反馈来做出判断。

传统的机器学习算法有以下几种：线性回归模型、logistic回归模型、k-临近算法、决策树、随机森林、支持向量机、人工神经网络、EM算法、概率图模型等。

深度学习的很初级版本是人工神经网络，这是机器学习的一个分支，其试图模拟人脑，通过更加复杂的结构自动提取数据特征。

在深度学习发展起来之前，机器学习虽然发展了几十年，但还是存在很多人工智能没法良好解决的问题，例如图像识别、语音识别、自然语言处理等，而深度学习的出现则很好地解决了这些领域的一部分问题。正因为大数据的兴起和高性能GPU的出现，使得更加复杂的网络模型成为可能，这也促使深度学习有了进一步的发展。

1.深度学习的历史

首先通过一张图来概括一下深度学习的历史浪潮，如图1.1所示。