保罗·加莱奥内是一位资深的计算机工程师，拥有硕士学位，曾在意大利博洛尼亚大学计算机视觉实验室从事研究，并领导ZURU科技公司的计算机视觉和机器学习实验室。他于2019年被谷歌授予Google DeveloperExpert称号，以表彰其在机器学习领域的专业技能。他热衷于分享知识，通过博客、会议演讲、开源项目和Stack Overflow问答等方式，推广机器学习和TensorFlow框架。

本书通过聚焦于开发基于神经网络的解决方案来介绍机器学习，首先将从熟悉构建深度学习解决方案所需的概念和技术开始，然后介绍如何创建分类器、构建目标检测和语义分割神经网络、训练生成式模型，以及使用TF 2.0的工具，如TensorFlow Datasets和TensorFlow Hub，加速开发过程。学完本书之后，读者将能够使用TF 2.0开发任何机器学习问题的解决方案，并能将它们部署到生产环境之中。

保罗·加莱奥内（Paolo Galeone）是一位具有丰富实践经验的计算机工程师。获得硕士学位后，他加入了意大利博洛尼亚大学的计算机视觉实验室，担任研究员，在那里他丰富了自己在计算机视觉和机器学习领域的知识，致力于广泛的研究课题。目前，他领导着意大利ZURU科技公司的计算机视觉和机器学习实验室。

人工智能技术的广泛应用，从实验室到各行各业，科研人员、工程师和数据科学家在机器学习和神经网络领域投入研究和开发。强调了TensorFlow 2.0框架在神经网络开发中的受欢迎程度，以及它如何帮助开发者高效构建神经网络。本书作为入门教材，旨在帮助读者理解机器学习和神经网络，掌握CNN、GAN等关键技术，并具备运用神经网络解决实际问题的能力。书中分为三部分，涵盖基本概念、TensorFlow基础和神经网络应用，强调理论与实践相结合的重要性，并鼓励读者通过练习题巩固知识。



译者序

在数据建模中，n维空间方法利用n个属性来描述数据集中的每个实例。以Iris数据集为例，由于其高维特性，我们需要采用降维技术以实现可视化。高维空间处理过程中，会面临所谓的“维度诅咒”，即出现违反直觉的现象。

文章探讨了k-NN算法和参数模型，并介绍了如何通过度量指标来评估模型性能。同时，简要介绍了无监督学习，其目的是在无标签信息的数据中寻找自然划分。

无监督学习算法在处理无标签数据时，既具有挑战性也充满潜力。这类算法能够挖掘出人类难以察觉的模式，广泛应用于异常检测和各领域的数据质量控制。无监督学习算法主要分为聚类和关联两大类。聚类算法用于发现数据的自然分区，而关联算法则用于发现数据之间的关联规则。此外，无监督学习算法还可以与有监督学习相结合，利用数据中的额外标签来提升性能。

半监督学习算法结合了有监督和非监督学习的优点。它假设通过标注数据可以提升无监督学习的效果，反之亦然。在数据中既有标注也有未标注样本，且都标记为同一类别时，半监督学习尤为适用。这种算法能够识别数据分布、形状，并在单个类簇中进行分区。通过无监督学习阶段了解数据表示，半监督学习可以在训练过程中利用标签对数据进行约束，提高数据表示的准确性。这种算法分为两个阶段：第一阶段是无监督学习，第二阶段是半监督学习，通过标签信息对数据进行约束。

第1章 什么是机器学习

神经网络是一种模仿人脑神经元结构的计算模型，它通过突触连接传递信息。在神经网络中，人工神经元通过数学函数模拟生物神经元的动作，学习阶段涉及调整输出信号以识别特定输入。全连接层是神经网络的核心，由相邻两层神经元完全连接而成，利用矩阵乘积计算输出。激活函数在神经网络设计中扮演重要角色，它能够近似非线性函数，增强网络对噪声的鲁棒性，同时评估模型拟合度。参数初始化和优化算法，特别是梯度下降法及其变体，对于完善解决方案至关重要。

梯度下降法通过损失函数的梯度来指导模型参数的更新方向，从而优化模型。学习率对训练过程有显著影响，选择合适的学习率至关重要。文中探讨了批量梯度下降、随机梯度下降和小批量梯度下降等不同方法，并分析了它们的优缺点。此外，文章还讨论了动量算法和ADAM算法等优化算法，以及自动微分和反向传播在计算复杂函数梯度中的应用。

卷积神经网络（CNN）在图像处理领域具有显著优势，特别是其局部视图特性，使它能够高效地处理图像并提取局部特征。相较于全连接层，卷积层参数更少，只需关注局部感受野，从而降低内存需求。CNN结合池化层使用，进一步减少参数，提高效率。以LeNet 5为例，文章介绍了CNN的构建方法，并阐述了1×1×D卷积层在网络内部降低输入维度，提高处理效率的作用。设计深度网络体系是一项挑战，需要精心选择层数、卷积滤波器数量和激活函数等超参数。

卷积操作和池化操作在CNN中起着关键作用，用于提取图像特征。文章还介绍了全连接层和1×1×D卷积层在神经网络中的应用，以及如何通过这些层降低特征维度和增加网络参数。正则化技术，如dropout、数据扩充和早期停止，在防止过拟合中发挥着重要作用。最后，文章简要介绍了批量归一化技术，它在加速训练过程和减少过拟合方面具有优势。

第2章 神经网络与深度学习

第一部分 神经网络基础

TensorFlow是强大的机器学习框架，其核心在于图的概念，即数据流图，由节点和边构成。节点代表计算单元，边则代表数据流。TensorFlow支持多种Python版本，用户可根据需求选择。创建图时，用户可选择隐式或显式定义，利用tf.Graph对象来管理图结构，每个图都有一个集合存储相关元数据。

在TensorFlow中，图可以定义在tf.Graph对象中，并通过tf.Session执行。tf.Session是Python程序与C++运行库之间的桥梁，控制计算图的执行。tf.device允许将计算放置在不同设备上，如CPU、GPU等。tf.Variable用于定义和创建变量，它们在多个sess.run调用之间维护图的状态，可存储模型参数、状态等。

为了方便定义机器学习模型，TensorFlow提供了tf.layers模块，使用tf.get_variable来定义变量，并支持变量共享。在TensorFlow 1.x和2.0环境中，需要分别创建tf1和tf2文件夹，并在其中运行相应命令。创建虚拟环境时，可以使用pipenv，并激活该环境安装TensorFlow。

TensorFlow的核心原理包括图定义和会话执行过程。书中通过实例展示了如何使用tf.layers构建CNN，包括卷积层和全连接层的定义。介绍了如何使用tf.train模块中的优化器，如ADAM优化器和梯度下降优化器，以及如何通过tf.losses模块定义损失函数。此外，书中还提到了如何使用SummaryWriter记录训练过程中的损失和准确率，以及如何使用Saver保存和加载模型参数。

如何通过观察模型图像判断过拟合，以及如何将矩阵乘法操作放置在远程设备上并在TensorBoard中可视化。探讨了在远程设备上执行操作是否必需，并扩展了CNN结构，添加了批处理归一化层。介绍了如何强制执行更新操作和记录训练图像，讨论了模型选择是否正确以及如何测量整个数据集的准确率。提出了如何使用tf.metrics包计算准确率，以及如何处理不平衡数据集和计算评价指标。

第3章 TensorFlow图架构

TensorFlow 2.0带来了多项重大革新，旨在简化使用流程，提高开发效率。首先，它摒弃了复杂的图定义过程，转而支持混合定义和执行，使操作更加直观。通过取消tf.variable_scope、tf.get_variable等传统概念，简化了变量管理和重用。同时，移除了tf.layers和全局集合，使得API更加清晰。

Eager执行模式是TensorFlow 2.0的另一个重要特点，它将计算过程从图执行模式转变为即时执行，使代码编写更加直观。这一模式摒弃了TensorFlow 1.x中的会话和图概念，使得代码组织更加灵活。Eager执行模式还支持函数式API和子类方法，允许用户定义复杂的模型拓扑。此外，GradientTape概念为自动微分提供了一种高效的方法，并支持自定义训练循环，为解决梯度爆炸等训练问题提供了工具。

在模型保存和恢复方面，TensorFlow 2.0提供了使用检查点和SavedModel两种方式的优势。检查点简单存储变量，而SavedModel则包含了模型结构和参数。同时，TensorBoard作为数据记录和可视化工具，tf.summary包用于保存标量、图像等，tf.metrics用于聚合数据并计算指标。AutoGraph可以将Python代码自动转化为图表示，加速计算过程。

TensorFlow 2.0还实现了Keras API的标准化，并利用Keras定义模型的方法以及定制的训练循环。AutoGraph和tf.function带来的图加速，使得框架使用更简单。尽管从TensorFlow 1.0到2.0的转变可能会让有经验的用户感到困难，但这是值得的，因为它提高了软件开发质量。

此外，TensorFlow 2.0还提供了高效的数据输入流水线和估计器API，这将有助于提高模型训练和部署的便捷性。通过这些改进，TensorFlow 2.0为用户提供了更加简洁、高效、灵活的开发体验。

第4章 TensorFlow 2.0架构

”
在机器学习领域，高效的数据输入和模型训练是至关重要的。训练输入流水线是这一过程的核心，它由三个主要步骤组成：数据提取、转换和载入。首先，从数据源读取数据；接着，应用变换技术对数据进行处理；最后，将处理后的数据载入适合训练的设备。这种方法不仅适用于训练阶段，同样适用于推理阶段。

TensorFlow的tf.data API在这一过程中发挥着关键作用，它不仅能够有效利用CPU资源，还保留目标设备的资源，从而提高模型训练的效率。然而，这也可能成为训练过程的瓶颈，因为目标设备消耗数据的速度可能会超过CPU产生数据的速度。

tf.data API提供了强大的功能，允许开发者通过链式调用构建高效的输入流水线。通过tf.data.Dataset对象，开发者可以将输入数据转换为一系列有序的变换运算，支持多种数据源，包括内存中的张量、Python生成器、文件等。此外，API还提供了高级特性，如数据预取、缓存和批处理，以优化性能。tf.data API还支持数据扩充，增强数据集，并使用TensorFlow数据集（tfds）简化数据准备过程。它还与Keras深度集成，使得在训练和评估模型时，使用tf.data.Dataset对象与使用NumPy数组一样便捷。

在机器学习流水线中，Estimator API提供了模型定义的便捷性。它支持通过Keras定义模型，并通过Estimator API实现分类问题的完整解决方案。在TensorFlow 2.0中，Estimator API的工作模式包括图模式和eager执行模式。开发者可以通过Keras模型和“罐装”模型来构建估计器。同时，文章指出Estimator API在TensorFlow 2.0中逐渐被eager执行模式和Keras取代的趋势。

TensorFlow 2.0中的tf.data API和tf.estimator API，这两个API极大地帮助开发者构建高效的数据输入流水线和简化机器学习编程。tf.data API通过链式调用方式实现ETL操作，使数据预处理变得简便。tf.estimator API则通过标准化流程提升生产效率。这两个API能够加快开发速度，使得从开发到生产过程变得更加轻松。

接下来，文章将介绍如何使用TensorFlow 2.0解决特定的机器学习任务。通过这些API和工具，开发者能够更高效地构建、训练和部署机器学习模型，从而推动机器学习在各个领域的应用。

第5章 高效的数据输入流水线和估计器API

第二部分 TensorFlow基础

迁移学习和微调的概念，以及如何在TensorFlow 2.0中使用TensorFlow Hub来访问预训练模型。详细讲解了如何使用Inception v3作为特征提取器来构建花卉分类器，并介绍了如何进行数据预处理以及训练和评估模型。通过对比迁移学习和微调，展示了迁移学习在训练速度和成本上的优势。此外，还讨论了何时进行微调以及如何通过TensorFlow Hub和Keras进行模型集成。最后，提出了几个练习题，帮助读者更深入地理解和实践迁移学习和微调。



第6章 使用TensorFlow Hub进行图像分类

目标检测领域在数据获取和预处理方面面临着巨大挑战，尤其是手动标注数据的耗时与高昂成本。为解决这一问题，使用现成数据集已成为主流。本文以PASCAL VOC 2007数据集为例，阐述了其构成及下载方法。同时，介绍了如何利用TensorFlow数据集进行数据预处理，包括数据分割、可视化标注图像等。

在目标检测中，定位和分类是两大核心任务。本文详细阐述了将定位视为回归问题，并使用Inception v3网络进行训练的方法。此外，还介绍了IoU和mAP等性能度量指标，以及如何改进训练脚本。针对多任务学习和基于锚的检测器等目标检测技术进行了深入探讨。

基于锚的检测器是目标检测领域的一种重要技术。该检测器通过利用锚框，将图像划分为多个感兴趣区域，实现网络在一次前向传递中即可检测和分类图像中的多个目标。本文介绍了锚框的生成方式，包括网格大小、框的缩放级别和纵横比级别。

在目标检测领域，YOLO和SSD等基于锚的检测器表现出色。YOLO（You Only Look Once）通过将输入图像划分为多个网格，在每个网格内预测目标的位置和类别，从而实现快速检测。SSD（Single Shot MultiBox Detector）则通过多尺度特征融合，同时预测不同尺度的目标，提高检测精度。

本文对基于锚的检测器的工作原理进行了详细阐述，并分析了其在目标检测领域的应用。通过使用锚框，基于锚的检测器能够在一次前向传递中检测和分类图像中的多个目标，大大提高了检测速度。同时，本文还介绍了锚框的生成方式，包括网格大小、框的缩放级别和纵横比级别。

总之，本文详细介绍了目标检测领域的数据获取和预处理、性能度量指标、多任务学习以及基于锚的检测器等相关技术。通过这些技术的应用，可以显著提高目标检测的精度和速度，为实际应用提供有力支持。

第7章 目标检测

深度学习在图像分割领域，尤其是语义分割方面，面临诸多挑战。语义分割要求对图像中的每个像素进行分类，这一过程需要大量耐心细致的标注工作，导致数据集数量受限。为了克服这一难题，研究者们提出了反卷积操作，通过这一操作生成与输入具有相同空间范围的特征图。

在此基础上，U-Net架构应运而生。该架构遵循编码器-解码器模式，并利用反卷积操作恢复原始空间分辨率。文章通过自定义DatasetBuilder实现了对PASCAL VOC 2007数据集的加载和处理，并详细展示了如何使用Keras进行训练和推理。

进一步地，文章深入探讨了语义分割的概念，分析了其作为难题的原因。同时，对反卷积运算的原理进行了阐述。随后，文章详细介绍了如何使用Keras实现U-Net架构，并说明了与原始U-Net架构的区别。

在数据集生成方面，文章讲述了数据集生成器、TensorFlow数据集的层次化结构、FeatureConnector对象，以及如何开发自定义数据集生成器。

在模型训练方面，文章提出了关于损失函数、IoU度量、模型性能提升以及模型推断等挑战。针对这些挑战，鼓励读者通过实践加深理解。

最后，文章通过一个简单的示例展示了如何使用训练好的模型进行图像分割，并保存生成的图像。这一过程为读者提供了直观的体验，有助于更好地理解和掌握深度学习在图像分割领域的应用。

第8章 语义分割和自定义数据集生成器

GAN（生成对抗网络）的概念及其在生成模型中的应用。GAN通过训练生成器和鉴别器两个神经网络模型，使生成器能够生成越来越接近真实样本的数据。生成器的目标是欺骗鉴别器，使其无法区分真实样本和生成样本，而鉴别器的目标是正确识别样本的真伪。文中详细解释了GAN的工作原理，包括价值函数、非饱和价值函数以及对抗训练过程。此外，还介绍了GAN在人脸生成、域转换等领域的应用，并说明了如何使用TensorFlow 2.0实现GAN。最后，通过练习题加深了对GAN的理解。



第9章 生成式对抗网络

SavedModel是TensorFlow 2.0中用于保存和部署模型的关键功能。它集成了完整的计算图和模型参数，并且序列化了tf.function对象，支持图标注、签名定义、资源文件和设备清理等特性。这些特性使得SavedModel在模型部署和测试中极为重要。

使用SavedModel时，其核心是创建一个自包含且独立的对象。通过Keras模型创建SavedModel变得非常简单，只需一行代码即可完成。这使得模型在不同环境下灵活调用成为可能。SavedModel包含模型变量、辅助文件和编译后的计算图，使得模型转换和部署更加便捷。

为了简化SavedModel转换过程，可以使用通用函数，将其包装成可跟踪对象并使用tf.function修饰。此外，SavedModel还支持模型加载和执行，以及转换为其他编程语言可使用的格式，如TensorFlow.js，使得模型在不同平台上都能运行。

在Go程序中，通过指定serve作为标记还原模型，并使用SignatureDef获取输入输出节点信息。Go绑定支持平面图结构，因此使用操作名而非SavedModel创建过程中给定的名称来访问输入/输出节点。通过tfgo库执行模型，并定义输入张量计算结果，展示了如何使用SavedModel进行模型加载和执行。

SavedModel的序列化格式简化了机器学习模型在不同平台上的部署。通过SavedModel，不同语言的绑定工具使得模型能够在嵌入式设备、智能手机、浏览器等多种环境中运行。Python API用于创建、恢复和操作SavedModel对象，并介绍了TensorFlow.js、Go绑定等在不同平台上的部署方法。同时，探讨了如何利用SavedModel将模型部署到生产环境，并通过练习加深了对这些概念的理解。

TensorFlow 2.0神经网络实践