(19)中华 人民共和国 国家知识产权局
(12)发明 专利申请
(10)申请公布号
(43)申请公布日
(21)申请 号 202111474143.2
(22)申请日 2021.12.0 3
(71)申请人 成都中科微信息技 术研究院有限公
司
地址 610000 四川省成 都市天府新区湖畔
路北段269号1栋 5楼
(72)发明人 卜智勇 赵宇 鲁敏 周斌
(74)专利代理 机构 成都九鼎天元知识产权代理
有限公司 51214
代理人 张杰
(51)Int.Cl.
H04L 47/2483(2022.01)
H04L 47/2441(2022.01)
H04L 9/40(2022.01)
G06N 3/04(2006.01)G06K 9/62(2022.01)
(54)发明名称
一种基于生成对抗网络与模型压缩的军用
通信加密流 量识别方法
(57)摘要
本发明提供一种基于生成对抗网络与模型
压缩的军用通信加密流量识别方法, 包括如下步
骤: S10, 构建并训练军用通信加密流量识别的大
模型; S20, 建立用于加密流量识别的压缩模型;
S30, 构建并训练生成加密流量的生成网络; S40,
使用生成的加密流量并结合知识蒸馏方式训练
压缩模型, 获得训练好的压缩模型; S50, 采用训
练好的压缩模 型进行军用通信加密流量识别。 本
发明能够解决军用通信加密流量难以获得的问
题, 同时可以部署在功耗受限的军用设备(机载、
手持、 肩载设备)上。 该方法鲁棒性较强、 工作场
景可以是军用自组网或军用传感网。
权利要求书2页 说明书6页 附图3页
CN 114301850 A
2022.04.08
CN 114301850 A
1.一种基于生成对抗网络与模型压缩的军用通信加密流量识别方法, 其特征在于, 包
括如下步骤:
S10, 构建并训练军用通信加密流 量识别的大模型;
S20, 建立用于加密流 量识别的压缩 模型;
S30, 构建并训练生成加密流 量的生成网络;
S40, 使用生成的加密流量并结合知识蒸馏方式训练压缩模型, 获得训练好的压缩模
型;
S50, 采用训练好的压缩 模型进行军用通信加密流 量识别。
2.根据权利要求1所述的基于生成对抗网络与模型压缩的军用通信加密流量识别方
法, 其特征在于, 步骤S10包括如下子步骤:
S11, 采集某个 基地的军用通信加密流 量;
S12, 对采集的加密流 量进行数据预处 理, 建立原 始加密流 量数据集;
S13, 构建军用通信加密流量识别的大模型; 此大模型是一个具有参数量R的深度神经
网络, 该深度神经网络是一个包括卷积层和全连接层的卷积神经网络;
S14, 使用原始加密流量数据集训练军用通信加密流量识别的大模型, 得到训练好的军
用通信加密流 量识别的大模型。
3.根据权利要求2所述的基于生成对抗网络与模型压缩的军用通信加密流量识别方
法, 其特征在于, 步骤S20包括如下子步骤:
S21, 确定 裁剪比例F(0<F<1);
S22, 基于确定的裁剪比例F对所述大模型进行不同程度地裁剪, 得到用于加密流量识
别的压缩模型; 该压缩模型是一个具有参数量Q的深度神经网络, 该深度神经网络是一个包
括卷积层和全连接层的卷积神经网络; Q =(1‑F)R<R。
4.根据权利要求3所述的基于生成对抗网络与模型压缩的军用通信加密流量识别方
法, 其特征在于, 所述压缩 模型的结构如下:
(1)压缩模型的层数L, 包括 L1层卷积层和L2层全连接层, 且L1+L2=L;
(2)每层卷积层包 含Tm个卷积核, 每 个卷积核的尺寸 为Wm×Hm, 其中, m=1,2 …,L1;
(3)每层全连接层包 含Vs(s=1,2, …,L2)个神经元;
(4)激活函数为f2(·)。
5.根据权利要求1所述的基于生成对抗网络与模型压缩的军用通信加密流量识别方
法, 其特征在于, 步骤S3 0包括如下子步骤:
S31, 对生成网络G的权 重参数进行随机初始化, 设置生成网络G的训练总周期为P1;
S32, 随机产生 n个噪声数据, 记作 {z1,z2,…,zn};
S33, 将n个噪声数据{z1,z2,…,zn}输入到生成网络G, 产生n个虚假的加密流量, 记作
{x1,x2,…,xn}, 其中, xi=G(zi), i=1,2,…,n;
S34, 下载训练好的军用通信加密流量识别的大模型, 将该大模型作为判别模型, 记作
D, 将n个虚假的加密流量{x1,x2,…,xn}输入到判别模型D中 , 产生概率输出
其中
是一个C维的列向量, C表示加密流 量的类别数目;
S35, 根据公式(1), 判断每一个虚假的加密流量xi所属的类别li, 其中, li∈(1,2,…,C);权 利 要 求 书 1/2 页
2
CN 114301850 A
2S36, 根据公式(2), 计算损失函数loss1的值, 用该值 反向更新生成网络G的权重参数, 其
中, f1(·)表示交叉熵损失函数;
S37, 重复步骤S32~S36的训练过程直到达到生成网络G的训练总周期P1以后结束, 保存
生成网络G的结构以及参数, 即得到训练好的生成网络G。
6.根据权利要求5所述的基于生成对抗网络与模型压缩的军用通信加密流量识别方
法, 其特征在于, 所述 生成网络为卷积神经网络或者多层感知机网络 。
7.根据权利要求1所述的基于生成对抗网络与模型压缩的军用通信加密流量识别方
法, 其特征在于, 步骤S40包括如下子步骤:
S41, 下载训练好的军用通信加密流量识别的大模型, 将该大模型用作教师模型并记作
T, 下载训练好的生成网络G;
S42, 将步骤S20建立的用于加密流量识别的压缩模型记作A, 对压缩模型A的权重参数
进行随机初始化, 设置 压缩模型的训练总周期为P2;
S43, 将训练好的生成网络G产生的t个虚假的加密流量{d1,d2,…,dt}分别输入到教师
模型T中, 得到教师模型T的最后一层的输出特征图集合
和概率值集合
该概率值集合
中每一个元素均是一个C维的列向量, C表
示加密流 量的类别数目;
S44, 将训练好的生成网络G产生的t个虚假的加密流量{d1,d2,…,dt}分别输入到压缩
模型A中, 得到压缩模型A的最后一层的输出特征图集合
和概率值集合
该概率值集合
中每一个元素均是一个C维的列向量, C表
示加密流 量的类别数目;
S45, 根据公式(3), 计算损失函数loss2的值, 用该值 反向更新压缩模型A的权重参数, 其
中, f1(·)表示交叉熵损失函数, α ∈(0,1)是一个权 重因子, | |·||1表示1‑范数;
S46, 重复步骤S43~S45的训练过程直到达到压缩模型A的训练总周期P2以后结束, 保存
压缩模型A的结构以及参数, 即得到训练好的压缩 模型。权 利 要 求 书 2/2 页
3
CN 114301850 A
3
专利 一种基于生成对抗网络与模型压缩的军用通信加密流量识别方法
文档预览
中文文档
12 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
温馨提示:本文档共12页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
本文档由 人生无常 于 2024-03-18 22:37:29上传分享