英语原文共 27 页
智能无线网络的深度学习:一个全面的调查
摘要-深度学习(DL)作为一种很有前途的机器学习工具，可以从复杂的原始数据中进行精确的模式识别，它正在成为一种向具有大规模拓扑结构和复杂无线电条件的无线网络中添加智能的强大方法。DL使用许多神经网络层来实现对高维原始数据的类脑特征提取。它可以在分析大量网络参数(如延迟、丢失率、链路信噪比等)的基础上，发现网络动态(如热点、干扰分布、拥塞点、交通瓶颈、频谱可用性等)。因此，DL可以分析具有多个节点和动态链路质量的极其复杂的无线网络。本文全面综述了DL算法在不同网络层的应用，包括物理层调制/编码、数据链路层访问控制/资源分配、路由层路径搜索和流量均衡。还讨论了利用DL增强其他网络功能，如网络安全、传感数据压缩等。此外，还详细讨论了该领域具有挑战性的尚未解决的研究问题，代表了基于dll的无线网络的未来研究趋势。本文可以帮助读者深入了解基于dll的无线网络设计的现状，并从中选择感兴趣的未解决的问题进行研究。
索引术语-无线网络，深度学习(DL)，深度强化学习(DRL)，协议层，性能优化。
1.介绍
人脑具有强大的数据处理能力。我们每天都要面对来自外部世界的大量数据。在复杂的环境下，我们的感官首先会收集大量的物体特征。然后大脑从这些特征数据中提取抽象的特征，最后做出决定。在许多领域，计算机已经显示出与人类相当甚至更强大的能力，如玩游戏、自动控制、语音和图像识别等。计算机实现这些能力的方法与人脑非常相似，人脑已经发展成为一项引人注目的技术，即，深度学习(DL)[1]。在DL过程中，首先，计算机需要从经验中学习，建立一定的培训模型。这种训练过程允许计算机在神经节点之间确定适当的权重值，从而能够从输入数据中提取特征。一旦神经网络得到训练，就可以做出适当的决策来获得高回报。该思想在语音识别[2]、[3]、图像识别[4]-[7]、语义分析[8]、[9]、语言解释[10]、[11]、博弈控制[12]、药物发现[13]、生物医学[14]-[16]等实际控制场景中取得了巨大的成功。
DL是机器学习的一个子类，它使用级联层从输入数据中提取特征，并最终形成一个决策。DL的应用应该考虑四个方面:(1)如何用合适的数字格式表示环境状态，作为DL网络的输入层;(2)如何表示/解释识别结果，即， DL网络输出层的物理意义;(3)如何计算/更新奖励值，以及指导各神经层迭代权值更新的合适的奖励函数是什么;(4) DL系统的结构，包括多少个隐藏层，每个层的结构，层与层之间的连接。
目前，许多DL系统与强化学习(RL)模型[17]，它包括三个部分:1) 可以用一些特性描述的环境，2)代理人以行动来改变环境，和3)译员宣布当前状态和代理所采取的行动。同时，解释器在环境中动作生效后宣布奖励，如图1所示。RL的目标是以这样一种方式训练代理，对于给定的环境状态，它选择产生最高回报的最优操作。因此，DL和RL的主要区别之一是前者通常从例子中学习(例如，训练数据)来创建一个模型来分类数据，而后者通过最大化与不同行为相关的奖励来训练模型。
DL已经显示出惊人的处理许多现实场景的能力，比如Alpha Go的成功，手机上的人脸识别等等。计算机网络领域的研究人员也对DL应用产生了浓厚的兴趣。利用DL模型可以表示复杂的网络环境，得到抽象的特征，最终为计算机网络节点实现更好的决策，实现网络服务质量(QoS)和体验质量(QoE)的改进。
无线网络具有复杂的特性，如通信信号特性、信道质量、各节点排队状态、路径拥塞情况等。另一方面，有许多网络控制目标对通信性能有重要影响，如资源分配、队列管理、拥塞控制等。为了处理复杂的情况，机器学习技术得到了广泛的探索。Chen等人[19]对ML在无线网络中的应用进行了全面的总结，包括无人机无线通信与组网、无线虚拟现实、移动边缘缓存与计算、频谱管理、多无线电接入共存、物联网等。与传统方法相比，ML在这些领域的应用有了惊人的进步。
另一方面，随着现代无线网络的日益复杂，对学习系统的要求也越来越高，如更高的计算能力、更大的数据集、更快更智能的学习算法、更灵活的输入机制[19]等。为了满足这些需求，无线网络中的深度学习应用引起了广泛的兴趣。DL装备无线网络“人脑”:它接受大量的网络性能参数，如信噪比，链接通道占用时间，链接访问成功/碰撞率，路由延迟、丢包率，误比特率，等等，并进行深入分析的固有模式(如拥堵程度、干扰对齐的效果，热点分布，等等)。这些模式可用于在不同的协议层执行协议控件。例如，路由层可能开始寻找新的替代路径;传输层可以缩小拥塞窗口的大小，等等。与传统的机器学习技术相比，DL在无线网络应用中提供了更有前景的改进:1)更高的预测精度。无线网络具有高度复杂的特征，如节点的移动性、信道变化、信道干扰等，由于缺乏深度神经层，机器学习方法无法对这些特征进行足够深入的分析。然而，通过深度学习算法，可以逐层抽象输入参数中隐藏的深度模式，从而提供更高的预测精度。2)无需对输入数据进行预处理。ML的预测精度在很大程度上取决于数据预处理。然而，DL的输入通常是直接从网络中收集特征参数。考虑到无线网络参数的多样性，DL的这种优点降低了设计复杂度，提高了预测精度。
将DL应用于无线网络的成功得益于DL与人脑的三个相似之处:
(1)对不完整甚至错误输入原始数据的容忍度:人脑能够容忍扭曲的样本。例如，我们仍然可以识别“1”的图像形状，即使“1”的某些部分丢失了，我们可以从一个模糊的人脸图像中识别人，即使一些像素丢失了。同样，DL使用深度神经网络来容忍输入数据丢失或失真。这种能力对无线网络非常重要，因为由于信道衰落、节点移动性和控制信道故障，不可能准确地收集所有无线链路的状态。
(2)处理大量输入信息的能力:人脑可以同时吸收多种类型的复杂信息，并做出良好的判断。例如，我们可以使用声音、图像和气味来检测狗的到来。同样，DL可以同时接受来自多个协议层的大量性能数据(如1000个节点的排队状态数据和链路干扰矩阵)，然后确定一个大型网络中的具体拥塞位置。DL具有分析海量流量性能参数的能力，将在大数据无线传输中发挥重要作用。
(3)控制决策能力:我们的大脑学习并指导我们的行为。被动学习可能不是网络分析的最终目标。利用学习结果指导正确的网络控制是最终的目标。利用马尔可夫决策模型，DL能够演化为深度强化学习(DRL)模型，利用系统状态的更新、奖励函数的更新和策略的寻找，在最大奖励计算的基础上进行合适的网络控制。因此，我们可以使用DRL来实现大规模的无线网络控制。
本文对数字图书馆在无线网络中的应用进行了全面的综述。图2显示了我们在回顾DL在每个网络方面的各种用途时使用的分类法。我们在这一审查中的贡献包括三个重要方面:
(1)DL应用程序在不同的层: 我们将系统地分析采用DL/DRL进行不同层次的网络特征提取的好处。如图2所示，在物理层中，DL可用于干涉对准。它还可用于调制方式的分类，设计有效的纠错码等。在数据链路层，DL可用于资源(如信道)分配、链路质量评估等。在网络(路由)层，它可以帮助寻找最优路由路径。在较高的层(如应用层)中，它用于增强数据压缩和多会话调度。我们将为每个DL应用程序提供核心设计思想，并比较不同的解决方案。
(2) DL在安全性和其他网络功能方面的优势:除了上述协议栈之外，我们还将讨论在其他网络功能中使用DL的优势。其中一个关键领域是安全和隐私保护。随着网络规模的不断扩大和大量流量通过攻击检测器/过滤器，入侵检测变得越来越具有挑战性。DL是执行大规模网络概要分析以检测潜在入侵事件的理想工具。我们将解释如何使用DL将数据包分类为良性/恶意类型，以及如何将DL与其他机器学习方案(如无监督聚类)集成，以获得更好的异常检测效果。
(3)未来趋势:由于该领域还远未成熟，很多问题还没有得到解决，我们将介绍10个使用DL增强一些流行的无线网络的挑战性问题，如认知无线网络(CRNs)、软件定义网络(SDNs)、露水/雾计算等。我们将为这10个问题中的每一个提供上下文、动机、问题陈述和具体的未解决问题。对于正在寻找新的研究方向的读者是有帮助的。
路线图:本文的其余部分组织如下:在第二部分，为了准备讨论无线网络功能的DL应用，我们首先解释了DL的基本数学模型，包括它与一般机器学习和基于图的学习框架的关系。然后，我们将在第三节中讨论基于dll的物理层增强，即信号干扰和调制分类。第四部分讨论了DL在数据链路层设计中的重要性。一些典型的MAC设计例子用基于dll的增强来解释。第五部分描述了基于dll的路由层操作，如路径建立和优化。第六部分讨论了DL在安全等网络功能方面的应用。第七部分总结了一些在无线网络研究中得到广泛应用的DL实现平台。接下来要解决的10个具有挑战性的研究问题在第8节中进行了说明，第9节中给出了结论标记。
2 深度学习基础
DL起源于机器学习(ML)。在本节中，我们首先分析这两种技术之间的区别和关系。然后，简要介绍了DL原理。
A.从机器学习到深度学习
ML和DL都使用神经网络解决实际问题。典型的ML系统由三部分组成:1)输入层，以预处理数据为系统输入。真实数据的特征(如像素值、形状、纹理等)需要经过人类的预处理和识别，ML系统才能处理这些特征。2)特征提取与处理层，其中使用单层数据处理来提取数据模式。目前，支持向量机(SVM)、主成分分析(PCA)、隐马尔可夫模型(HMM)等方法被广泛用于特征提取。3)输出层，根据ML模型的任务，输出分类、回归、聚类、密度估计或降维的结果。ML的结构示意图如图3(a)所示。
向学习系统输入的原始数据可能非常多样化，从图像、音频和视频等自然信息，到各种定量的事件描述。虽然学习系统的输入可能不同，但是核心数据学习模块要求输入数据具有统一的形式，并根据统一的形式对输入事件进行分类。因此，为了使学习过程能够“识别”输入数据，需要对原始的自然数据进行预处理，即，原始数据需要转换成合适的表示形式或特征向量，这些特征向量可以被ML分类系统接受。这种预处理需要经过复杂的设计，才能很好地保留与分类有关的原始自然数据的特征。数据预处理方案对分类精度有显著影响。
机器学习系统通常在输入层和输出层之间只有一个隐藏层。这种类型的学习系统也被称为浅学习网络，它在一个隐层中提供了具有足够隐藏单元的任意函数逼近器，并从输入层学习或多或少独立的特征。例如，Chen等人[20]提出了一种基于浅层学习网络的无线电地图学习系统，该系统利用机器学习的方法，利用无人机辅助无线网络的分割模型和信号强度模型，重构精细结构的无线电地图，提高服务覆盖率。
相反，大多数深度学习系统在输入层和输出层之间都有不止一个隐藏层，其中上层的输入是下层的输出，如[21]-[24]中提出的学习网络。DL技术通过在输入层和输出层之间使用多个隐藏层，避免了复杂的输入数据预处理，如图3(b)所示。自然数据以原始形式输入到学习系统中。然后DL系统自动提取适当的表示，用于分类或检测。从自然数据开始，每一层从输入数据中提取不同的特征，逐步放大与决策更相关的特征，抑制不相关的特征。每一层都与相邻的层连接，并附加不同的权重的连接。为了确定权重的值，将大量样本发送到系统进行训练，训练可以是监督学习，也可以是非监督学习。在监督学习中，对每个权值计算梯度向量，表示误差量随权值的变化而变化。根据梯度向量，调整权值以减小误差。
B .深度学习框架
人类通过强化学习和分层感知处理系统的结合，与环境进行自发的互动，完成了对象识别[25]、条件调节和选择[26]等任务。受动物行为启发，提出了深度强化学习，并引起了计算机智能领域的广泛关注。DL模型包含两个关键元素:正向特征抽象和反向错误反馈。培训过程通常需要这两个元素，而验证过程只实现前者。
正向特征抽象:假设DL网络中有N个层，如图4所示。对于第i层的第j个节点，记作nij，通过两个步骤得到输出。首先，节点nij计算所有输入的加权和，记作zij。然后将zij发送给非线性函数f()，得到节点nij的输出yij。
其中为节点ni – 1,k到nij的权值，k为节点nij的权值，Li - 1为层i - 1的节点数。非线性函数f()的选择，纠正线性单元(ReLU) f (z) = max (0，z)，双曲正切函数f(z) = [exp (z)minus;exp (minus;z)] / [exp (z) exp (minus;z)]，和逻辑函数f (z) = 1 / (1 exp (minus;z))是热门选择[7]。
反向误差反馈:初始权值为随机值或经验值。为了提高学习系统最终输出的精度，这些权值通过反向误差反馈技术进行调整，即，分类精度得到反馈，根据反馈修改连接权值。对于最深层的节点，如节点nNj，误差导数为yNj - tNj，其中yNj和tNj分别为生成的输出和正确的输出。则下层连接的误差导数为
其中part;E/part;yNj = yNj - tNj， j = 1，2，hellip;LN。对于第i层的第j个节点(i = 1，2，hellip;N-1)，首先计算所有输入(从更深一层)到节点的误差导数的加权和，记为part;E/part;yij。则下
以上是毕业论文外文翻译，课题毕业论文、任务书、文献综述、开题报告、程序设计、图纸设计等资料可联系客服协助查找。
