当前位置： 首页 > 编程日记 > 正文

VarGFaceNet：地平线提出轻量级、有效可变组卷积的人脸识别网络

编程日记 2024-12-19 01:30:00

640?wx_fmt=png


作者 | Mengjia Yan、Mengao Zhao、Zining Xu、Qian Zhang、Guoli Wang、Zhizhong Su

译者 | 刘畅

编辑 | Jane

出品 | AI科技大本营（ID：rgznai100）

【导读】为了提高用于人脸识别的轻量级网络的判别和泛化能力，本文提出了一种有效的可变组卷积网络，称为VarGFaceNet。VarGNet引入了刻板组卷积，以解决小计算量与块内计算强度不平衡之间的冲突。

作者采用可变组卷积来设计了网络，该网络可以支持大规模人脸识别，同时减少计算成本和参数。具体来说，作者对头部（head）进行设置，用于在网络开始时保留基本信息，并提出特定的嵌入方法以减少用于嵌入的全连接层的参数。

为了提高解释能力，作者采用等效的角度蒸馏损失来指导我们的轻量级网络，并应用递归知识蒸馏来缓解教师模型和学生模型之间的差异。值得一提的是，LFR（2019）挑战赛，deepglintlight赛道冠军证明了本文模型和方法的有效性。

640?wx_fmt=png

论文地址：

https://arxiv.org/abs/1910.04985v2

VarGFaceNet代码开源网址：

https://github.com/zma-c137/VarGFaceNet

引言

随着计算资源的激增，基于深度表示的人脸识别已广泛应用于监控，营销和生物识别等许多领域。然而，由于需要进行大规模的身份分类，因此在有限的计算成本系统（例如移动端和嵌入式系统）上实现人脸识别仍然是一项艰巨的任务。

许多工作提出了用于常见计算机视觉任务的轻型网络，例如SqueezeNet，MobileNet ，MobileNetV2，ShuffleNet，SqueezeNet。它们大量的使用1×1卷积，与AlexNet 相比，可减少50倍的参数，同时在ImageNet上保持AlexNet级别的准确性。

MobileNet 利用深度可分离卷积来实现计算时间和准确性之间的权衡。基于这项工作，MobileNetV2 提出了一种倒置的bottleneck结构，以增强网络的判别能力。

ShuffleNet 和ShuffleNetV2 使用逐点组卷积和通道随机操作进一步降低了计算成本。即使它们在推理过程中花费很少的计算并在各种应用程序上有良好的性能，但嵌入式系统上的优化问题仍然存在于。

为了解决这个冲突，VarGNet 提出了一个可变组卷积，可以有效地解决块内部计算强度的不平衡。同时，作者探索了在相同卷积核大小的情况下，可变组卷积比深度卷积具有更大的学习能力，这有助于网络提取更多的信息。

但是，VarGNet是针对常用任务设计的，例如图像分类和目标检测。它将头部的空域减小到一半，以节省内存和计算成本，而这种方式并不适合人脸识别任务，因为它需要更详细的面部信息。而且，在最后的conv和全连接层之间，只有一个平均池化层，可能无法提取足够的区分性信息。

基于VarGNet，作者提出了一种有效的用于轻量级人脸识别的可变组卷积网络，简称VarGFaceNet。为了增强VarGNet对大规模人脸识别任务的判别能力，作者首先在VarGNet的块上添加SE块[13]和PReLU [8]。然后，在网络开始时删除了下采样过程，以保留更多信息。为了减少网络参数，作者用可变组卷积将特征张量缩小到fc层之前的1×1×512。

VarGFaceNet的性能表明，这种设置方法可以保留判别能力，同时减少网络参数。为了增强轻量级网络的解释能力，我们在训练过程中采用了知识蒸馏方法。目前有几种方法可以使深层网络更小，更高效，例如模型修剪，模型量化和知识蒸馏。最近，ShrinkTeaNet 引入了一个角度蒸馏损失来关注教师模型的角度信息。

受角度蒸馏损失的启发，作者采用等效损失和更好的实现来指导VarGFaceNet。此外，为了减轻教师模型和学生模型之间优化的复杂性，作者引入了递归知识提炼，它将递归的学生模型视为下一代的预训练模型。

640?wx_fmt=png

LFR挑战赛是关于轻量级人脸识别挑战，它要求FLOPs数在1G以下且内存占用在20M以下的网络。VarGFaceNet在这一挑战上实现了SOTA的性能，这在第3节中有介绍。总之，本文贡献如下：

  • 为了提高VarGNet在大规模人脸识别中的判别能力，作者采用了不同的头部并提出了一个新的嵌入块。在嵌入块中，作者先通过1×1卷积层将通道扩展到1024，以保留基本信息，然后使用可变组conv和逐点conv将空域缩小到1×1，节省计算成本。如下文所示，这样的操作能提高人脸识别任务的性能。
  • 为了提高轻量级模型的泛化能力，作者提出了递归知识蒸馏，以减少教师模型和学生模型之间的泛化差距。
  • 作者分析了可变组卷积的性能，并在训练过程中采用了等效的角度蒸馏损失。实验证明了本文方法的有效性。
方法
与VarGNet不同，本文在网络开始时使用步长为1的3×3 Conv，而不是VarGNet中步长为2的3×3 Conv。VarGNet中第一个转换的输出特征尺寸将被下采样，而本文的输入特征尺寸将保持与输入尺寸相同，如图1（c）所示。
表1和图2说明了本文的轻量级网络（VarGFaceNet）的总体结构。VarGFaceNet的内存占用量为20M，而FLOPs为1G。作者根据经验将S = 8设置为一组。得益于可变组卷积，头部设定和特定的嵌入设定，VarGFaceNet可以以有限的计算成本和参数在人脸识别任务上实现良好的性能。在第3节中，我们将展示我们的网络在数百万个干扰物面部识别任务上的有效性。

640?wx_fmt=png

实验

  • 数据集和评价标准


采用LFR2019的数据作为训练集。Trillion-parrs作为测试集，它包含两部分：celeLFW和DELFW。采用TPR@FPR=1e-8作为评价标准

  • 从头训练VarGFaceNet

为了验证VarGFaceNet网络的效率和有效性，作者从头开始训练了网络，然后将其性能与mobilefacenet（y2）进行比较。作者将arcface损失作为训练过程中分类的目标函数。表2列出了VarGFaceNet和y2。可以看出，在1G FLOP的限制下，VarGFaceNet能够在验证集上达到更好的人脸识别性能。

针对性能的提高，作者分享了两点直觉：1.当限制FLOPs时，本文的可变组卷积网络可以包含比y2更多的参数。y2中最多的channel数是256，而本文的最大channel数是320。2.本文的嵌入方法可以提取更多重要信息。y2将通道数从256扩展到512，然后使用7×7depthwise卷积获得fc层之前的特征张量。本文将通道数从320扩展到1024，然后使用具有更大网络容量的可变组卷积和逐点卷积。

640?wx_fmt=png

  • 使用ResNet指导训练VarGFaceNet


为了获得比从头开始训练更高的性能，作者使用角度蒸馏损失函数进行知识蒸馏。进行了实验以研究不同教师模式对VarGFaceNet的影响。结果显示在Tabel 3中。可以观察到：1.尽管教师和学生的体系结构完全不同，但VarGFaceNet仍接近ResNet的性能；2. VarGFaceNet的性能与教师模型高度相关。

640?wx_fmt=png

640?wx_fmt=png

  • 采用递归知识蒸馏进行训练


当教师模型与学生模型之间存在巨大差异时，仅靠一次的知识蒸馏可能不足以进行知识转移。为了验证它，作者使用ResNet 100模型作为教师模型，并在VarGFaceNet上进行递归知识蒸馏。当训练下一迭代模型时，表5中显示了性能改进。LFW和CFPFP的变化结果增加了0.1％。

640?wx_fmt=png
结论

在本文中，作者提出了一种有效的轻量级网络，称为VarGFaceNet，可用于大规模人脸识别。用于人脸识别的头部和嵌入方法能有助于保留更多信息，且同时减少参数。此外，为了提高轻量级网络的解释能力，作者采用了一种等价的角度蒸馏损失作为目标函数，并提出了递归知识蒸馏策略。LFR挑战赛的结果证明了本文方法的优异性。

（*本文为 AI科技大本营整理文章，请微信联系 1092722531）


◆

精彩推荐

◆


640?wx_fmt=jpeg
640?wx_fmt=png


推荐阅读

640?wx_fmt=png

你点的每个“在看”，我都认真当成了AI


https://www.dkcj.cn/info/32441.html

相关文章：

【TortoiseSVN使用教程】

TortoiseSVN使用教程 TortoiseSVN是一个SVN的客户端 1.Checkout Repository 首 先要Checkout服务器端的Repository，所谓的Checkout就是指获得服务器端指定的Repository。存储的所有文件这个 Checkout和Visual Source Safe的Checkout意义完全不一样&#xff0…

编程日记2024/12/19 01:20:00

[ASP.NET MVC 小牛之路]10 - Controller 和 Action (2)

继上一篇文章之后，本文将介绍 Controller 和 Action 的一些较高级特性，包括 Controller Factory、Action Invoker 和异步 Controller 等内容。 本文目录 开篇：示例准备 文章开始之前，我们先来了解一下一个请求的发出到Action方法处…

编程日记2024/12/19 01:10:00

Linux下遍历指定目录的C++实现

之前在 https://blog.csdn.net/fengbingchun/article/details/51474728 给出了在Windows遍历指定文件夹的C实现，这里给出在Linux下遍历目录的实现，Windows和Linux下的实现都是参考了OpenCV 2.x中的实现，OpenCV中的用法可参考https://blog.csd…

编程日记2024/12/19 01:00:00

要活102年，阿里凭借的是什么？

由浅到深、由轻到重、由拥抱到创新，看似“风平浪静”的历史背后，中国互联网江湖的发展实则“波涛汹涌”。对于身处核心位置的科技巨头阿里巴巴而言，将如何更好地去实现“希望活 102 年”的愿景？凭借的究竟又是什么？作者…

编程日记2024/12/19 00:50:00

Go基础知识学习(6) 接口

2019独角兽企业重金招聘Python工程师标准>>> Golang接口定义使用interface来声明，它相对于其他语言最大的特定就是接口定义和实现的关联性仅仅依赖接口的名字和声明，无需显式声明。 接口定义和实现 在下面这个例子中，定义了两个自…

编程日记2024/12/19 00:40:00

多模态数据+知识图谱，这次你的疑难杂症有解了！

数据是AI的基础，不同行业领域的数据来源广泛、形式多样，其每一种来源或形式都可以看作是一种模态，例如视频、图片、语音以及工业场景下的传感数据，红外、声谱等。多模态数据的语义理解与知识表示让智能体能更深入地感知、理解真实…

编程日记2024/12/19 00:30:00

Linux下通过gettimeofday函数获取程序段执行时间

在Linux下计算某个程序段执行的时间一般使用gettimeofday函数，此函数的声明在sys/time.h文件中。此函数接收两个结构体参数，分别为timeval、timezone.两个结构体的声明如下：struct timeval {time_t tv_sec; /* seconds */long tv_usec; /* mi…

编程日记2024/12/19 00:20:00

matlab练习程序（Log Polar变换）

Log Polar就是所谓的极坐标变换，通过变换能将笛卡尔坐标系中的图像映射到极坐标系中。 确切的来说我这里不算是Log Polar，因为Log Polar是将图像从（x,y）映射到(log(r),theta)，而我是将图像从（x,y&#xff0…

编程日记2024/12/19 00:10:00

SiteMapPath基本用法

1、添加一个网站地图项 Web.sitemap项 2、在 Web.sitemap项的写法如下&#xff1a; <?xml version"1.0" encoding"utf-8"?><siteMap xmlns"http://schemas.microsoft.com/AspNet/SiteMap-File-1.0"><siteMapNode url"defa…

编程日记2024/12/19 00:00:00

closurescallbacks

引用文章原文地址&#xff1a;&#xff08;声明&#xff1a;文章只为自己总结知识&#xff0c;内容东拼西凑&#xff0c;版权归以下作者所有。&#xff09; 1. Wikipedia: callback(computer science) 2. Implement callback routines in Java By John D. Mitchell, JavaWorld.…

编程日记2024/12/18 23:50:00

吴恩达老师深度学习视频课笔记：卷积神经网络

计算机视觉&#xff1a;包括图像分类(image classification)、目标检测(object detection)、风格迁移(neural style transfer)等等。边缘检测示例&#xff1a;神经网络的前几层可以检测边缘&#xff0c;然后后面几层可能检测到物体的部分&#xff0c;接下来靠后的一些层可能检测…

编程日记2024/12/18 23:40:00

COCO 2019挑战赛，旷视研究院拿下三项计算机识别冠军 | ICCV 2019

出品 | AI科技大本营&#xff08;ID:rgznai100&#xff09;10月27日&#xff0c;两年一度的国际计算机视觉大会ICCV 2019&#xff08;InternationalConference on Computer Vision&#xff09;在韩国首尔开幕。作为ICCV 2019重头戏&#xff0c;COCO 是人工智能领域最具影响力的…

编程日记2024/12/18 23:30:00

runners学习

runners是由salt-run命令调用的&#xff0c;一般我用的到就是jobs和manage模块。源代码是在./site-packages/salt/runners/下的。当然我们可以自定义runners。先谈谈jobs模块。包含active、lookup_jid、list_job、list_jobs、print_job五种方法。salt-run jobs.active ->返回…

编程日记2024/12/18 23:20:00

Swift基础 - - 高德地图实践

高德地图开发需要自己到官网http://lbs.amap.com/console/ 注册一个ak&#xff0c;新建一个swift工程&#xff0c;然后在Info.plist中添加一个NSLocationAlwaysUsageDescription或者NSLocationWhenInUseUsageDescription。 高德地图的库以及依赖库加入到项目里面 需要的库如下…

编程日记2024/12/18 23:10:00

Shell脚本示例代码

1. echo_printf_usage.sh: echo和printf的用法 #! /bin/bash# echo和printf的用法# echo是用于终端打印的基本命令.在默认情况下,echo在每次调用后会添加一个换行符 echo "hello, beijing" echo "$(pwd)" echo $(pwd) # 结果并不是希望得到的,将会输出: $…

编程日记2024/12/18 23:00:00

「2019嵌入式智能国际大会」 399元超值学生票来啦，帮你豪省2600元！

2019 嵌入式智能国际大会即将来袭&#xff01;购票官网&#xff1a;https://dwz.cn/z1jHouwE物联网是继计算机、互联网和移动通信之后的又一次信息产业的革命性发展&#xff0c;在互联网和移动互联网高速发展的时代&#xff0c;几乎所有行业都有数据联网的需求。无论是国外的科…

编程日记2024/12/18 22:50:00

ThinkPHP学习笔记之Model操作

2019独角兽企业重金招聘Python工程师标准>>> 1. 3种实例化model模型方法 a) new 命名空间GoodsModel(); b) D([“模型标志Goods”]) (之前版本会实例化自定义model对象&#xff0c;目前都实例化Model基类对象) i. 没有参数实例化一个Model对象、有参数也实例化一…

编程日记2024/12/18 22:40:00

Ubuntu 14.04 64位上配置JDK操作步骤

1. 从 http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html 下载jdk-8u172-linux-x64.tar.gz; 2. 解压缩&#xff1a; tar -xvzf jdk-8u172-linux-x64.tar.gz 3. 创建/usr/jdk目录&#xff1a; sudo mkdir -p /usr/jdk 4. 将解压缩后的jd…

编程日记2024/12/18 22:30:00

Swift语言实现代理传值

需求&#xff1a;利用代理实现反响传值&#xff08;以下例子采用点击第二个视图控制器中的按钮来改变第一个视图控制器中的Label的内容&#xff09; 一、创建RootViewController import Foundation import UIKitclass RootViewController:UIViewController,ChangeWordDelegate{…

编程日记2024/12/18 22:20:00

亚马逊马超：如何使用DGL进行大规模图神经网络训练？

演讲嘉宾 | 马超&#xff08;亚马逊应用科学家&#xff09;整理 | 刘静 出品 | AI科技大本营&#xff08;ID:rgznai100&#xff09;与传统基于张量&#xff08;Tensor&#xff09;的神经网络相比&#xff0c;图神经网络将图 (Graph) 作为输入&#xff0c;从图结构中学习潜在的知…

编程日记2024/12/18 22:10:00

Python学习系列（六）(模块)

Python学习系列&#xff08;六&#xff09;(模块) Python学习系列&#xff08;五&#xff09;(文件操作及其字典) 一&#xff0c;模块的基本介绍 1&#xff0c;import引入其他标准模块 标准库&#xff1a;Python标准安装包里的模块。 引入模块的几种方式&#xff1a; i&#xf…

编程日记2024/12/18 22:00:00

Ubuntu14.04 64位上配置终端显示git分支名称

之前在Ubuntu14.04上在终端上显示git分支名称基本上都使用oh-my-zsh&#xff0c;可以参考 https://blog.csdn.net/fengbingchun/article/details/77803322 &#xff0c;由于限制了权限&#xff0c;使得不能安装oh-my-zsh&#xff0c;显示错误如下&#xff1a;在 https://githu…

编程日记2024/12/18 21:50:00

创建UITextField对象

//创建UITextField对象 UITextField * tf[[UITextField alloc]init];//设置UITextField的文字颜色tf.textColor[UIColor redColor];//设置UITextField的文本框背景颜色tf.backgroundColor[UIColor grayColor];//设置UITextField的边框的风格tf.borderStyleUITextBorderStyleRou…

编程日记2024/12/18 21:40:00

non-local神经网络：通过非局部操作解决深度神经网络核心问题

译者 | 李杰出品 | AI科技大本营&#xff08;ID:rgznai100&#xff09;回想一下我们熟悉的CNN、RNN。如下图所示&#xff0c;这些神经网络模型都是基于局部区域进行操作&#xff0c;属于local operations。为了获得长距离依赖&#xff0c;也就是图像中非相邻像素点之间的关系&a…

编程日记2024/12/18 21:30:00

fgets()用法笔记

为了避免缓冲区溢出&#xff0c;从终端读取输入时应当用fgets()代替gets()函数。但是这也将带来一个问题&#xff0c;因为fgets()的调用格式是&#xff1a; fgets (buf, MAX, fp)fgets (buf, MAX, stdin) buf是一个char数组的名称&#xff0c;MAX是字符串的最大长度&#xff0c…

编程日记2024/12/18 21:20:00

iOS 上常用的两个功能：点击屏幕和return退出隐藏键盘和解决虚拟键盘

原文地址&#xff1a;http://blog.csdn.net/xiaotanyu13/article/details/7711954 iOS上面对键盘的处理很不人性化&#xff0c;所以这些功能都需要自己来实现&#xff0c; 首先是点击return和屏幕隐藏键盘 这个首先引用双子座的博客 http://my.oschina.net/plumsoft/blog/42545…

编程日记2024/12/18 21:10:00

深度学习可解释性问题如何解决？图灵奖得主Bengio有一个解

作者 | Yoshua Bengio, Tristan Deleu等译者 | 刘畅&#xff0c;编辑 | Just出品 | AI科技大本营&#xff08;ID:rgznai100&#xff09;自 2012 年以来&#xff0c;深度学习的发展有目共睹&#xff0c;今年 3 月&#xff0c;为此做出巨大贡献的 Yoshua Bengio、Yann Lecun和Geo…

编程日记2024/12/18 21:00:00

zepto打造一款移动端划屏插件

效果图 样式1 样式2 调用 正常情况下应该是后台生成的html代码&#xff0c;但还是写了一套操作tab页的方法 调用简便如下&#xff1a; <link rel"stylesheet" href"kslider.css" type"text/css"/> <script type"text/javascript&q…

编程日记2024/12/18 20:50:00

swift使用xib绘制UIView

目标&#xff1a;用xib绘制一个UIView&#xff0c;在某个ViewController中调用。 三个文件&#xff1a;ViewController.swift DemoView.swift DemoView.xib 首先&#xff0c;可以专心将DemoView.xib画出来&#xff0c;别忘记DemoView.xib中UIView的一处设置 然后&#x…

编程日记2024/12/18 20:40:00

吴恩达老师深度学习视频课笔记：深度卷积网络

Why look at case studies?&#xff1a;过去几年&#xff0c;计算机视觉研究中的大量研究都集中在如何把卷积层、池化层以及全连接层这些基本构件组合起来形成有效的卷积神经网络。找感觉最好的方法之一就是去看一些案例&#xff0c;就像很多人通过看别人的代码来学习编程一样…

编程日记2024/12/18 20:30:00