信号星座图基于信号星座图和深度学习的调制分类

小编 2024年11月23日 14:33 23 0

基于信号星座图和深度学习的调制分类

引用

Peng, S. , Jiang, H. , Wang, H. , Alwageed, H. , & Yao, Y. D. . (2018). Modulation classification based on signal constellation diagrams and deep learning. IEEE Transactions on Neural Networks and Learning Systems, PP(99), 1-10.

摘要

深度学习(Deep learning, DL)是一种新的机器学习(machine learning, ML)方法，已经在许多应用领域得到了成功的实现。然而，它在通信系统中的应用还没有得到很好的探索。本文研究了 DL 在调制分类中的应用，这是许多通信系统的主要任务。DL 依赖于大量的数据，对于研究和应用来说，这在通信系统中很容易获得。此外，与 ML 不同，DL 的优点是不需要手动选择特征，这大大降低了调制分类的任务复杂性。在本文中，我们使用了两个基于卷积神经网络(CNN)的 DL 模型 AlexNet 和 GoogLeNet。特别地，我们为 CNN 开发了几种以网格状拓扑的数据格式表示调制信号的方法。同时也分析了表示对分类性能的影响。此外，还与传统的累积算法和基于 ML 的算法进行了比较。实验结果表明，基于 DL 的调制分类方法具有显著的性能优势和应用可行性。

1 介绍

本文讨论了使用 DL 进行调制分类的主题，我们有以下贡献。首先，我们提出了将复杂信号转换为具有网格状拓扑结构的数据格式的方法，例如图像，这有助于使用流行的 DL 网络模型和框架进行分类。其次，我们分析了常规参数(如复杂平面选择区域的大小和图像分辨率)对分类性能的影响。第三，我们开发并配置了基于 CNN 的 DL 模型进行调制分类，与其他分类算法相比，性能有了显著提高。最后，我们对所提出方法的计算复杂度进行了说明，并论证了 DL 在实际通信系统中的应用可行性。

本文的其余部分组织如下。首先对 DL 的体系结构和模型进行了概述。然后，我们开发了将调制信号转换为 DL 图像的方法。我们也提出了使用 CNNs 进行调制分类的步骤。最后，通过实验结果验证了本文的性能优势。

2 DL 架构和模型

构建一个由多个层次和多个单元组成的“深度”神经网络，每一层抽象大量数据是深度学习的主要思想，其灵感来自于大脑的结构深度和生物神经元的数学模型。从技术上讲，深度神经网络的目标是从数据中自主学习不同层次的特征:从原始输入中提取低级特征，从上一级基于特征表示提取高级特征。换句话说，它被设计为自己识别模式，而不向机器提供人工特征表示，这就是所谓的数据驱动特征提取。在传统的 ML 方法中，有效特征的检测和提取是非常耗时的，需要广泛的领域专家，而且它们总是受到现实问题日益复杂的影响。相比之下，深度神经网络可以组合简单的特征，通过包含数十亿权重参数的多重非线性转换自动抽象出更复杂的特征。深度神经网络的训练过程是逐步优化这些参数，以接近从数据中学习到的最优层次表示。一般来说，DL 擅长处理将输入向量映射到输出向量的任务，在设计良好的 DL 模型和足够多的标记数据用于训练的前提下，这些任务可以由特定领域的人员或专家完成。

随着近年来的快速发展和进步，各种 DL 架构被提出并应用于不同领域，并取得了最先进的性能，如 CNNs、递归神经网络、受限玻尔兹曼机器等。本文对 CNN 进行了研究，并将其应用于通信系统中。特别是，两个流行的 CNN 模型，AlexNet 和 GoogLeNet，被调查性能评估。

A. 卷积神经网络

CNNs 源于前馈神经网络，也被称为卷积网络，在实际应用(图像处理和语音识别)方面得到了广泛的研究。参考文献[1]对 cnn 的定义如下：

卷积网络就是至少在其中一层中使用卷积代替一般矩阵乘法的神经网络。

如图 1(a)所示，在典型的 CNN 架构中，有三种类型的层:卷积层、池化层和全连通层。卷积层是 CNNs 的核心部分，它的计算量很大。卷积层有两个重要的特性可以改善整个 ML 系统。

1)稀疏连通性:与传统的每个输入单元与每个输出单元相互作用的神经网络不同，CNNs 通过使核大小小于输入大小来实现输入与输出单元之间的稀疏连通性，提高了统计效率，减少了内存需求。

2)参数共享:在 CNNs 中，同一个参数可以被不同的神经元多次使用。因此，模型的存储需求可以显著减少。

池化层用邻近输出的相关统计信息替换特定位置的输出。最流行的池化操作之一是最大池化，它返回一个矩形网格内的最大输出值。池化操作后，输出表示对输入的小转换具有不变性，显著提高了网络统计效率。CNNs 的完全连接层与传统神经网络完全相同，在传统神经网络中，神经元与前一层的所有激活都有完全连接。

B. AlexNet

作为 ImageNet 分类的标志性模型和 ILSVRC '12 的获奖者，AlexNet 以一个大而深入的架构在计算机视觉中普及 CNN 做出了巨大的贡献。AlexNet 由五个卷积层和三个完全连接层组成，带有 1000 路的 softmax 层。

为了提高性能和减少训练时间，AlexNet 将几个新特性合并到网络中。首先，与传统的神经元激活函数 f (x) = tanh(x)不同，引入了一个具有非饱和非线性的神经元，作为修正线性单元(ReLUs): f (x) = max(0,x)，具有更快的训练过程。如图 1(b)所示，ReLUs 附着在每个卷积层和全连接层上。本文的另一项开创性贡献涉及到减少传统 ML 方法所受的过拟合影响的有效技术，这也使 AlexNet 的整个架构在实践中具有可行性。由于涉及大量的参数和神经元(约 60000000 参数和 650000 个神经元),但有限的被标记图像对于大多数应用程序,通过提取随机补丁和改变 RGB 通道，采用数据增加强度使放大原始图像数据集。此外,正则化方法,“dropout”,也用来设置隐藏神经元的输出为零的概率为 0.5 以学习更一般的特性。当在前两个完全连接的层上添加随机“dropout”机制时，为收敛而进行的训练迭代次数大约增加了一倍。然而，它仍然比需要多个预训练模型来提高预测精度的集成预测方法更有效。

C. GoogleLeNet

GoogleLeNet 是一个 22 层的 CNN，是 ILSVRC ' 14 的获胜者，是一个为计算机视觉设计的高效的深度神经网络模型。当其他基于 CNN 的模型受困于规模增长带来的严重负面影响时，GoogleLeNet 能够显著增加网络的深度和宽度以提高性能，同时将计算工作量的需求保持在合理的水平。这种成功的关键原因是引入了一堆通常堆叠在更高层次上的 inception 模块。inception 模块的结构如图 1(c)所示，在昂贵的 3 × 3 卷积和 5 × 5 卷积之前加 1 × 1 卷积作为降维模块。这种方法很大地减少了网络中的参数总数(GoogLeNet 有 700 000 个参数 vs AlexNet 有 60 000 个参数)。设计这个 inception 模块的最初目的是通过使用现成的密集组件(矩阵)来近似 CNN 的局部稀疏结构，这些密集组件可以有效地利用当前计算基础设施中的计算资源。此外，在 GoogleLeNet 中，考虑到反向传播梯度，在中间层上增加了额外的辅助分类器，希望在提供正则化的同时减少梯度消失的影响。

3 DL 的调制数据转换

本文研究了 DL 在通信系统中的应用，特别是调制分类的任务。与[14]和[15]类似，假定通信系统运行在具有单音信号的一致和同步场景中。也假定载体、定时和波形恢复已经完成。然后我们得到一个带有加性高斯白噪声的复样本的基带序列，如图 2(a)所示。给定一批样本，我们的任务是确定接收信号的调制格式。八种可能的调制格式/类别被考虑，包括二进制相移键控(BPSK)，四幅相移键控(4ASK)，正交相移键控(QPSK)，偏置 QPSK (OQPSK)，八相移键控(8PSK)， 16 正交幅度调制(16QAM)， 32 正交幅度调制(32QAM)， 64 正交幅度调制(64QAM)。

如上所述，大多数现有的 CNN 模型，包括 AlexNet 和 GoogLeNet，都是为图像识别/分类而开发的。然而，在调制分类中，需要处理的数据不是图像，而是复杂的数据样本。为了利用现有的 DL 模型，我们可以将复杂的数据样本转换成图像。由于数据转换过程通常会导致信息丢失，所以我们的研究和设计目的是尽可能地保留原始信息。

A. 星座图

星座图通过将信号样本映射到复平面上的散点，被广泛应用于一个调制信号的二维表示。注意，复平面是无限扩展的，而图像所能描述的面积是有限的。我们需要选择复平面的一部分来生成星座图图像。如果选择的区域太小，一些信号样本可能会因为严重的噪声水平而被排除在图像之外并被丢弃。相反，如果面积太大，信号样本可能会聚集在一个小的区域，可能会重叠。除另有说明外，本文选取 7 × 7 复平面，假设典型信噪比(SNR)为 0 ~ 10 dB。图 2(b)给出星座图图像的示例，该星座图图像是由 1000 个信噪比为 2 dB 的 8PSK 调制信号样本生成的。

B. 灰度图像

如果像素密度足够大，可以认为星座图图像是信号样本的完整表示。在这种情况下，每个样本可以由一个或多个像素表示。但由于像素密度有限，一个像素内可能存在多个样本，如图 2(c)所示。请注意星座图是一种二值图像，其中具有一个或多个采样点的像素以类似的方式处理/表示。考虑多个采样点的影响,我们将每个像素点的样本数量表示为强度值(如像素 1,2,和 14 的强度值 1,0,和 5)。二值星座图可以转化为灰度图像,如图 2 中所示(d)。

C. 增强的灰度图像

在灰度图像中，考虑每个像素中的样本个数。然而，仍然有两个限制。首先，不考虑每个样本在像素内的位置。其次，忽略像素中每个样本对其相邻像素的影响。因此，我们引入了一种增强的灰度图像，它考虑了样本点与像素质心的距离。此外,它采用一个指数衰减模型, ，Bi,j 代表样本点#i 对像素#j 的影响, P 是每个样本点的力量, 样本点#i 和像素质心#j 之间的距离，λ 是一个指数衰减率。然后我们将把这些每个像素上的数据样本的影响结合起来。这些结果可以用来作为增强灰度图像的强度值。如图 2 (e)所示

D. 三通道图像

基于 CNN 的模型通常用于处理彩色图像，彩色图像有三个数据处理通道(红、绿、蓝)。根据增强的灰度图像方法，采用单一的数据处理通道。因此，我们引入了三通道图像的思想，它由三张增强的灰度图像组成，它们来自同一组数据样本，具有三种不同的指数衰减率，如图 2(f)所示。

接下来，我们将使用三通道图像来输入修改过的 AlexNet 和 GoogLeNet 模型来实现调制分类。每个图像都是基于 1000 个来自一个调制信号的样本生成的。图 3 为 8 种不同信噪比调制格式的三通道图像示例。

4 使用 DL 的调制分类

为了建立基于 CNN 的调制分类模型，我们使用了广泛使用的 DL 框架 Caffe。由于其强大的模块化与 Python/MATLAB 支持，我们能够有效地设计和评估我们的模型。研究了 Caffe 工具箱中提供的两个内置模型，Berkeley Vision and Learning Center (BVLC)Reference CaffeNet (AlexNet 的一个小变体)和 BVLC GoogLeNet。

A. AlexNET 配置

我们对 BLVC Reference CaffeNet 的两层进行了轻微修改，同时其余六层保持不变。第 8 层的输出数量从默认的 1000 改变为 8，这与我们案例中研究的调制类别的数量相匹配。神经元的数量第 7 层缩小到 512，因为在我们的模型训练过程中，原来的 4096 个神经元总是会导致收敛困难。除了改变模型架构外，还调整了求解器配置的几个参数，如学习速率(0.01→0.001)、gamma(0.1→0.5)、步长(100 000→10 000)，以获得更好的分类性能和更高的训练速度。除非另有说明，星座图像以 227×227 像素为宜。由于 AlexNet 的结构，图像分辨率不能低于 227×227。如果该值高于 227×227，则启用随机裁剪。此外，考虑到图像处理单元 GPU 上可用的计算资源和训练效率之间的权衡，我们在输入层使用批量大小为 64 的小批梯度下降算法。

B. GoogleLeNet 配置

有几个地方已经从 BVLC google 的默认配置更改。所有三个分类器的输出数量，包括位于 inception 模块顶部的两个辅助分类器，从 1000 个调制类别更改为 8 个调制类别。默认图像分辨率为 224 × 224。如果分辨率高于 224 × 224，则允许随机裁剪。根据我们的参数调整实验，改变学习速率(0.01→0.001)和 gamma(0.96→0.8)可以获得更好的性能和效率

C. 实现

对 AlexNet 和 GoogLeNet 的训练如下:1)从实际接收机或计算机仿真中获得调制信号的基带复采样;2)每 1000 个样本块生成一幅星座图像;3)根据样本的调制类别对每幅图像进行标记;4)采集每一调制类别 10 万幅和 1000 幅被标记图像，分别形成训练和验证数据集;5)将两个数据集都输入 DL 网络，用 Caffe 进行训练;6)经过最多 20 万次训练迭代后，一些带后缀“.caffemodel”的训练模型可以获得。本文在我们的计算服务器上使用 Nvidia Tesla K40m GPU 进行训练，AlexNet 和 GoogLeNet 的训练时间分别约为 12.5 h 和 24.3 h。

利用经过训练的 DL 模型来识别调制类别的任务被视为测试或推理。在这个任务中，首先对接收到的信号进行采样。然后，收集 1000 个接收到的信号样本，生成一个星座的形象。然后，将星座图像和一个训练后的模型输入 DL 网络进行计算。计算结果是一个概率向量，表示接收信号的所有可能调制类型。

6 总结

本文研究了 DL 模型及其在调制分类中的应用。介绍了几种生成灰度图像、增强灰度图像和三通道图像的数据转换方法。与传统的累积和基于 ML 的调制分类算法相比，基于 DL 的方法避免了人工特征选择，并提供了更高的分类精度。目前，我们正在将算法移植到嵌入式 GPU 平台(如 Nvidia Jetson TX2)，以构建基于 DL 的调制分类器。在接下来的日子里，我们将调查衰落信道和干扰的影响。

致谢

本文由南京大学软件学院 2021 级硕士肖媛翻译转述。

哪些讯号，证明十二星座不再爱你

哪些讯号，证明十二星座不再爱你

白羊座

开始处处和你保持距离

深夜不回家

金牛座

开始跟你算得一清二楚

抠门的像不熟时候一样

双子座

以前话痨

现在突然变哑巴

对你丧失了倾诉欲

巨蟹座

以前天天围着你转

现在只要你在ta眼前晃

就嫌你烦

狮子座

开始有了新的朋友

不再带你去ta的圈子

处女座

以前是假嫌弃

现在是真嫌弃

从头到尾的嫌弃你

故意找茬

天秤座

对你变得客气

有礼貌、有距离

让你根本看不懂ta的心

天蝎座

彻骨的冷漠

从ta的眼神里你就能看出来

射手座

变本加厉的浪

把家当旅馆

能不回来就不回来

摩羯座

冷战冷战冷战

有台阶也不下

有道歉也不回应

水瓶座

水瓶多半不会藏着掖着

不喜欢了就是不喜欢了

会主动告诉你

双鱼座

生气越来越少

但哄起来越来越麻烦了

信号星座图 基于信号星座图和深度学习的调制分类