英语原文共 6 页，剩余内容已隐藏，支付完成后下载完整资料
物联网中的边缘计算
在边缘计算中学习物联网：基于边缘计算的物联网深度学习
He Li, Kaoru Ota, and Mianxiong Dong
摘要
深度学习是一种有前途的方法，可以从部署在复杂环境中的物联网设备的原始传感器数据中提取准确的信息。由于它的多层结构，深度学习也适用于边缘计算环境。因此，在本文中，我们首先将物联网的深度学习引入边缘计算环境。由于现有边缘节点的处理能力有限，我们还设计了一种新颖的卸载策略，以通过边缘计算优化物联网深度学习应用程序的性能。在性能评估中，我们使用我们的策略来测试在边缘计算环境中执行多个深度学习任务的性能。评估结果表明，我们的方法在物联网深度学习方面优于其他优化解决方案。
介绍
近年来，深度学习已成为视觉识别，自然语言处理和生物信息学等许多信息学领域的重要方法。深度学习还是一种用于处理大量数据的强大分析工具。在物联网（IoT）中，一个未解决的问题是如何从嘈杂且复杂的环境中可靠地挖掘真实的IoT数据，这使得其与传统的机器学习技术产生了混淆。深度学习被认为是解决这一问题的最有前途的方法。深度学习已被引入许多与物联网和移动应用相关的任务中，并取得了令人鼓舞的早期成果。例如，深度学习可以利用智能电表收集的数据准确预测家庭用电，从而改善智能电网的电力供应。由于深度学习在复杂数据研究中的高效性，它将在未来的物联网服务中扮演非常重要的角色。
边缘计算是物联网服务的另一项重要技术。由于数据传输的网络性能有限，因此集中式云计算结构在处理和分析从IoT设备收集的大量数据方面变得效率低下。随着边缘计算将计算任务从集中式云卸载到物联网设备附近的边缘，预处理过程极大地减少了传输的数据。当中间数据大小小于输入数据大小时，边缘计算可以很好地执行。
典型的深度学习模型通常在学习网络中具有多个层次。每个网络层都可以快速缩小中间数据的大小，直到找到足够的特征为止。因此，深度学习模型非常适合边缘计算环境，因为可以卸载边缘中学习层的一部分，然后将缩减的中间数据传输到集中式云服务器。
边缘计算中的深度学习的另一个优势是中间数据传输中的隐私保护。在传统的大数据系统（例如MapReduce或Spark）中生成的中间数据包含用户隐私，因为预处理仍然为数据语义。与源数据相比，深度学习中的中间数据通常具有不同的语义。例如，很难理解具有从中间卷积神经网络层中的卷积神经网络（CNN）过滤器提取的特征的原始信息。
因此，在本文中，我们将物联网的深度学习引入边缘计算环境，以提高学习性能并减少网络流量。我们制定了与不同深度学习模型兼容的弹性模型。因此，由于不同的深度学习模型具有不同的中间数据大小和预处理开销，我们提出了一个调度问题，以利用有限的网络带宽和边缘节点的服务能力来最大化深度学习任务的数量。我们还尝试在调度过程中确保物联网的每个深度学习服务的服务质量（QoS）。我们设计了离线和在线调度算法来解决该问题。我们使用多个深度学习任务和给定的边缘计算设置执行大量的仿真。实验结果表明，我们的解决方案在物联网深度学习方面优于其他优化方法。
本文的主要贡献概述如下。我们首先将针对物联网的深度学习引入边缘计算环境。据我们所知，这是一项创新工作，致力于通过边缘计算对物联网进行深度学习。我们为边缘计算中的物联网的各种深度学习模型制定了弹性模型。我们还设计了一种有效的在线算法来优化边缘计算模型的服务能力。最后，我们在给定的边缘计算环境中通过广泛的实验测试了物联网的深度学习模型。我们还将边缘计算方法与传统解决方案进行了比较。
本文的其余部分可以概述如下。下一部分将介绍用于物联网和边缘计算的深度学习技术。然后，我们讨论了边缘计算环境中物联网的深度学习服务。接下来，我们描述在边缘计算中调度物联网深度学习任务的问题和解决方案。然后，我们通过广泛的实验介绍了物联网深度学习的性能评估结果，并在最后一节给出了结论。
相关工作
在本节中，我们首先介绍有关物联网深度学习的相关技术，然后讨论边缘计算和深度学习。
物联网深度学习
深度学习正在成为物联网应用程序和系统的新兴技术。深度学习优于机器学习的最大好处是，在大数据规模下具有更好的性能，因为许多物联网应用程序会生成大量数据进行处理。另一个好处是，深度学习可以针对不同的问题自动提取新特征。在处理多媒体信息时，传统机器学习的性能取决于所识别和提取的特征的准确性。由于它可以精确地学习高级特征，例如图像中的人脸和语音中的语言单词，因此深度学习可以提高处理多媒体信息的效率。同时，与传统的机器学习方法相比，深度学习花费的时间要少得多。
因此，物联网设备和技术的发展为复杂的深度学习任务提供了前提。由于能源和计算能力有限，一个重要的问题是在物联网设备中执行深度学习应用程序。一般的商业硬件和软件无法在深度学习任务中支持高并行计算。Lane等人提出了新的加速引擎，例如DeepEar和DeepX，以在最新的片上移动系统（SoC）中支持不同的深度学习应用程序。从实验结果来看，具有高规格SoC的移动物联网设备可以支持部分学习过程。
将深度学习引入更多物联网应用程序是另一个重要的研究问题。在许多重要的物联网应用中，已经评估了物联网深度学习的效率。例如，一些作品着重于可穿戴式物联网设备中部署在动态和复杂环境中的应用，这些应用常常使传统的机器学习方法感到困惑。Bhattacharya等人为可穿戴式IoT设备提出了一种新的深度学习模型，该模型可提高音频识别任务的准确性。
大多数现有的深度学习应用程序（例如语音识别）仍然需要云辅助。Alsheikh等人提出了一个框架，该框架将深度学习算法和Apache Spark结合起来进行IoT数据分析。推理阶段在移动设备上执行，而Apache Spark部署在云服务器中以支持数据训练。这种两层设计非常类似于边缘计算，这表明可以从云上卸载处理任务。
深度学习和边缘计算
边缘计算能够将计算能力从集中式云服务器移动到用户端附近的边缘节点。边缘计算为现有的云计算带来了两项重大改进。第一个是边缘节点可以在将大量数据传输到云中的中央服务器之前对其进行预处理。另一个是通过使边缘节点具有计算能力来优化云资源。由于边缘计算带来的潜力，它可以很好地解决云基础架构的上述问题。
Liu等人提出了将深度学习引入边缘计算环境的第一项工作。他们通过采用基于边缘计算的服务基础架构，提出了一种基于深度学习的食品识别应用程序。他们的工作表明，边缘计算可以通过减少响应时间和降低能耗来提高深度学习应用程序的性能。但是，这项工作将移动电话视为边缘节点，这不适用于IoT服务，因为大多数IoT设备仅配备低规格芯片。由于我们专注于没有足够能量补充和高规格芯片的通用IoT设备，因此边缘服务器部署在IoT网关中，该网关具有足够的服务能力来执行深度学习算法。
边缘计算中物联网的深度学习
在本节中，我们首先介绍物联网深度学习的场景，然后介绍物联网深度学习的边缘计算框架。
通常，物联网设备会生成大量数据并将数据传输到云中以进行进一步处理。这些数据包括多媒体信息（例如视频，图像和声音）或结构化数据（例如温度，振动和光通量信息）。有许多成熟的技术可用于处理结构化数据，然后自动控制物联网设备。传统的多媒体处理技术需要复杂的计算，不适合物联网服务。由于深度学习技术提高了处理多媒体信息的效率，因此越来越多的工作开始将深度学习引入多媒体IoT服务中。视频传感是一项重要的物联网应用，它将图像处理和计算机视觉集成在物联网网络中。识别来自物联网设备记录的低质量视频数据的对象仍然是一项挑战。由于深度学习在视频识别方面准确性较高，因此我们将其视为具有深度学习的典型物联网应用。
因此，如图1所示，我们以视频识别IoT应用程序为例，介绍IoT的深度学习。有几台无线摄像机监视环境并识别物体。无线摄像机以3000 kb/s的比特率收集720p视频数据。然后，摄像头通过常规WiFi连接将收集的数据传输到IoT网关。IoT网关在对原始视频数据进行编码和压缩之后，会通过互联网通信将所有收集的数据转发到云服务。云服务通过深度学习网络识别收集的视频数据中的对象。
深度学习网络通常具有多个层次。输入数据将在这些层中进行处理。每层处理由上一层生成的中间特征，然后生成新特征。最终，由最后的深度学习网络层生成的提取特征将由分类器处理并识别为输出。在深度学习网络中，我们认为输入数据附近的层是较低的层；其他是更高的层次。
在示例中，我们使用AlexNet来标识收集的视频数据中的对象。AlexNet具有八层，其中前五层是卷积层，随后的三层是完全连接的层。我们首先使用来自Kaggle的开放数据集训练深度学习网络，该数据集由25,000张狗和猫的图像组成。深度学习应用程序希望在校正后的视频数据中检测出正确的动物。我们使用转移学习技术来构建分类器，该分类器在处理所有提取的特征后输出文本“cat”或“dog”。
深度学习提高了物联网服务的多媒体处理效率，因为功能是由多层提取的，而不是传统的复杂预处理。但是，通信性能将成为处理效率提高的瓶颈。收集的多媒体数据大小比传统的结构化数据大小大得多，但是很难提高网络的性能，以将收集的数据从IoT设备传输到云服务。在示例中，每个摄像机需要3 Mb/s的带宽来上传视频数据，而IoT网关则需要9 Mb/s。
边缘计算是将收集到的数据从IoT设备传输到云的一种可能的解决方案。在物联网网络中，有两层，即边缘层和云层，用于连接物联网设备和云服务。边缘层通常由物联网设备，物联网网关和局域网中的网络接入点组成。云层包括互联网连接和云服务器。边缘计算意味着该处理是在边缘层而不是云层中执行的。在边缘计算环境中，由于仅需要将中间数据或结果从设备传输到云服务，因此减少了传输数据，从而减轻了网络压力。
边缘计算非常适合中间数据的大小小于输入数据的任务。因此，边缘计算对于深度学习任务是有效的，因为深度学习网络层中的过滤器按比例缩小了提取特征的大小。在该示例中，如果我们要识别每个帧，则第一层生成的中间数据大小为134times;89times;1B/帧和2300 kb/s。如果我们只想处理视频数据中的关键帧，则生成的中间数据的大小仅为95 kb/s。
如图2所示，我们提出了用于物联网深度学习任务的边缘计算结构。该结构由两层以及典型的边缘计算结构组成。在边缘层，边缘服务器部署在IoT网关中以处理收集的数据。我们首先在云服务器中训练深度学习网络。在训练阶段之后，我们将学习网络分为两个部分。一部分包括靠近输入数据的较低层，而另一部分包括靠近输出数据的较高层。
我们将具有较低层的部分部署到边缘服务器中，并将具有较高层的部分部署到云中以进行卸载处理。因此，所收集的数据被输入到边缘服务器中的第一层中。边缘服务器从较低层加载中间数据，然后将数据作为较高层的输入数据传输到云服务器。在示例中，如果我们在物联网网关中部署第一层，则大小为134times;89times;1B/帧的中间数据将被发送到云服务器中的第二层以进行进一步处理。
问题在于如何划分每个深度学习网络。通常，由较高层生成的中间数据的大小小于由较低层生成的中间数据的大小。在边缘服务器中部署更多层可以减少更多的网络流量。但是，与云服务器相比，边缘服务器的服务器容量有限。在边缘服务器中处理无限多任务是不可能的。深度学习网络中的每一层都会给服务器带来额外的计算开销。我们只能将部分深度学习网络部署到边缘服务器中。同时，由于不同的深度学习网络和任务具有不同的中间数据大小和计算开销，因此需要有效的调度来优化边缘计算结构中物联网的深度学习。我们针对此问题设计了有效的调度策略，并在下一节中进行讨论。
调度问题和解决方案
在本节中，我们首先在物联网深度学习的边缘计算结构中陈述调度问题，然后提出解决方案。
在给定的边缘计算环境中，我们使用集合E表示所有边缘服务器，使用表示集合E中的边缘服务器。从边缘服务器到云服务器，我们使用值表示服务容量，表示网络带宽。由于边缘服务器和云服务器之间存在一些交互流量，我们还添加了一个由V表示的阈值，以避免网络拥塞。因此，边缘服务器和云服务器之间的最大可用带宽由·V表示。
让集合T表示所有深度学习任务，并且表示集合T中的一个深度学习任务。任务的深度学习网络层数为。我们假定，减少的数据大小接近具有不同输入数据的每个任务的平均值。由第k层生成的中间数据大小（kisin;[1，]）与总输入数据大小的平均比用表示。对于任务和边缘服务器，分配的带宽由表示。表示边缘服务器中任务的每个时间单位的输入数据大小。因此，如果将任务的k层放置在边缘服务器中，则可以将任务在边缘服务器中的传输延迟表示为· / 。为了保证QoS，传输等待时间应小于表示的最大值。对于任务，第k层之后的单位输入数据的计算开销用表示。因此，对于任务，边缘服务器中的计算开销为·。
边缘计算中的IoT深度学习网络层调度问题：给定边缘计算结构，调度问题尝试通过在IoT边缘服务器中部署深度学习层来在边缘计算结构中分配最大任务，从而可以确保每个任务所需的传输延迟，表示为
如果任务部署在边缘服务器中，则 = 1； 否则， = 0。
我们提出了一种离线算法和一种在线算法来解决调度问题。离线调度算法首先找出使·的值最大化的，以及具有任务的最大输入数据的边缘服务器。然后，算法以最大输入数据大小的升序对所有任务进行排序。调度首先将具有最小输入数据大小的任务部署到边缘服务器。该算法遍历所有边缘服务器，以检查边缘服务器是否具有足够的服务能力和网络带宽来部署任务。如果所有边缘服务器都具有足够的服务容量和带宽，则该算法会将任务部署到所有边缘服务器中。如果边缘服务器没有足够的上传带宽或服务容量，则该算法会更改k的值，并找到合适的k用于在所有边缘服务器中部署任务。如果边缘服务器即使更改了k也没有足够的服务容量或网络带宽，则调度算法将不会在边缘服务器中部署任务。
在最坏的情况下，离线算法的复杂度为
剩余内容已隐藏，支付完成后下载完整资料
资料编号：[239645]，资料为PDF文档或Word文档，PDF文档可免费转换为Word
以上是毕业论文外文翻译，课题毕业论文、任务书、文献综述、开题报告、程序设计、图纸设计等资料可联系客服协助查找。
