当前位置: 首页 > 编程日记 > 正文

南大和中大“合体”拯救手残党:基于GAN的PI-REC重构网络,“老婆”画作有救了 | 技术头条...

640?wx_fmt=gif点击上方↑↑↑蓝字关注我们~

640?wx_fmt=jpeg

2019 Python开发者日」全日程揭晓,请扫码咨询 ↑↑↑


编译 | 一一

出品 | AI科技大本营(ID:rgznai100)


对于喜欢画画的你来说,总是画得七零八落,不堪入目,但现在,有一种方法可以让你像专业人士那样,让你的糟糕画作变成一副完美的作品。


南京大学和中山大学的三位研究人员发布的最新论文中,提出了一种具有边缘和色域的渐进式图像重构网络 PI-REC,这是一种基于 GAN 的渐进式训练方法,它能从超二值稀疏边缘以及色块中还原重构真实图像,最终“合成”一张高精度图像,当然它并非自动绘画。


总之,你们画的半成品“老婆”们的美貌有救了。


640?wx_fmt=png


论文链接:https://arxiv.org/abs/1903.10146


研究者介绍说,PI-REC 项目属于图像重构、图像转化、条件图像生成以及 AI 自动绘画等前沿交叉领域的最新产出,而非简单的以图搜图等,它主要有以下三种功能:


640?wx_fmt=png      

  • 图(a): 超稀疏输入信息重建原图。PI-REC 方法能够从提取的稀疏边缘和平面色域中重构逼真图像。

  • 图 (b): 手绘草图转换。PI-REC 方法可以在手绘草图的基础上合成准确和微调图像。

  • 图 (c): 用户自定义的边缘到图像(edge-to-image,E2I) 转化。用户可以将自定义和像素级的样式图像注入 PI-REC 模型以获得准确输出。


640?wx_fmt=png

当然,用相似内容进行 I2I 转化也没问题。


近年来,在图像到图像(I2I)转化领域,Pix2Pix 等方法可以从稀疏二值边缘图中合成逼真图像,并根据条件生成对抗网络(cGAN)部署循环框架。不过,在边缘到图像(E2I)转化领域无法生成高保真图片。于是研究者开始考虑解决稀疏输入和可控样式空间的矛盾。


640?wx_fmt=png

在 S2I 合成、I2I 转化、IR(图像识别)等领域使用的主要方法功能比较,PI-REC 具有更多的功能。†表示输入的各种特性,*表示输出质量。


受绘画过程的启发,基于生成对抗网络的 PI-REC 由三个阶段组成:旨在初始化网络的模拟阶段(Imitation Phase),然后是以重构初步图像的生成阶段(Generating Phase)以及用于将初步图像微调到具有最终细节输出的精细化阶段(Refinement Phase)。该框架允许他们的模型从稀疏输入信息中生成丰富的高频细节。


640?wx_fmt=png


值得一提的是,这三大阶段都只用了一个生成器和一个判别器。训练期间,在同一个生成器上利用渐进式策略可以减少时间和 RAM 内存成本。


研究者还探讨了从图像中隐式分解样式潜在空间的缺陷,并证明了模型中的显式色域为什么在可控性和可解释性方面表现更好。在实验中,他们在重构真实图像和将手绘草稿转化为令人满意的绘画作品方面取得了出色的成果。此外,在边缘到图像转换领域,他们的模型 PI-REC 在定量和定性方面评估真实性和准确性方面是最好的方法。


以下为论文中的部分实验图表数据:


640?wx_fmt=png

(a)不同稀疏级别输入结果。由于训练时的 HC(超参数混淆)操作,本文的模型对用于测试的特定超参数不敏感。(b)对比有 HC 操作和无 HC 操作的输出结果。当在训练中应用 HC 操作时,研究者可以在局部细节上获得更好的质量,而且能从非常稀疏的内容或样式中获得不错的输出。


640?wx_fmt=png

手绘草图转化。上层表示手绘草图与已编辑边缘和色域相结合,下层表示输出,它们对手绘图输入的微小变化会做出敏捷响应。

    640?wx_fmt=png

定性比较 PI-REC 与基线的结果。对于 MUNIT 和 BicycleGAN,研究者分别将真实图像和颜色域作为样式输入,以便得到最好的重构输出。显然,经过精细化调整的 PI-REC 模型可以更准确地重构内容和颜色细节。


总体而言,该论文的研究者提出了一种用于图像重构任务的新型渐进性模型 PI-REC。当只取超稀疏二值边缘和平面色域的输入时,能实现精细化和高质量的重构输出。输入的稀疏性和可解释性保证了用户对图像内容或风格的自由、准确控制,这是对现有作品的重大改进。


该方法在 E2I 任务的标准基准测试中取得了较好的成绩。同时,他们利用参数混淆操作(HC),在手绘图纸转换任务中取得了显著的效果,从而推动了自动绘制技术的发展。如果两个领域的内容相似,该方法也可以有条件地应用于 I2I 转换任务中。


GitHub链接:https://github.com/youyuge34/PI-REC


PI-REC 安装


基础环境


  • Python 3+

  • PyTorch 1.00.4不支持)

  • NVIDIA GPU + CUDA cuDNN


第三方库安装


  • 复制这个 repo

  • 从 http://pytorch.org 安装PyTorch和依赖项

  • 安装python要求:


pip install -r requirements.txt


运行使用


提供以下两种方式运行:

  • 命令基础行模式用来批处理测试整个文件夹数的图片

  • 绘画 GUI 模式工具用来实现交互式创作


(本文为 AI大本营编译文章,转载请微信联系 1092722531


福利


CSDN本周发起Python狂欢福利群!不仅汇聚你身边的Python人,一起交流成长,入群还有机会获四重福利:

1、抽取锦鲤送门票!价值699元「2019 Python开发者日」门票,抽取幸运用户送出。

2、送下载!50次CSDN下载权益每天抽。

3、送好课!人工智能、大数据、Web等热门好课连送七天。

4、送好书!每天抽送好评纸质书,一起成长吧!


640?wx_fmt=jpeg

推荐阅读:


  • 极客头条

  • 复旦邱锡鹏教授公布《神经网络与深度学习》,中文免费下载 | 极客头条

  • 你肯定想学习的顶级Python项目(附代码)

  • 李航《统计学习方法》最新资源:笔记、Python代码一应俱全!

  • 靠找Bug赚了6,700,000元!他凭什么?

  • 2019年技术盘点微服务篇(二):青云直上云霄 | 程序员硬核评测

  • 京东淘汰“三类人”,近 18 万员工懵了?!

  • 救救中国 996 程序员!GitHub 近 230,000 Star、Python 之父伸张正义!

  • V神最新亲笔:“你是如何被欺骗的?”


640?wx_fmt=png


点击“阅读原文”,了解「2019 Python开发者日」

相关文章:

区块链技术应用领域和优势

区块链的应用正成为很多人关注的领域 ,有很多的新应用正在逐步的实施当中,各种的区块链应用也是让众人惊喜不断, 随着区块链技术的发展 ,各行各业在应用中所获取的成效也是越来越大, 这大大激发了人们对于区块链技术的…

Kataspace:用HTML5和WebGL创建基于浏览器的虚拟世界

源自斯坦福的创业公司Katalabs发布了一个用于创建基于浏览器的虚拟世界的开源框架。名叫KataSpace的软件,利用了新兴的HTML5技术,以及WebGL和WebSockets,允许用户无需安装任何插件,直接在浏览器的3D环境中展开互动。Katalabs已经推…

十问陆奇:努力、能力和机遇,谁能帮你跑赢未来?

点击上方↑↑↑蓝字关注我们~「2019 Python开发者日」全日程揭晓,请扫码咨询 ↑↑↑作者 | 陆奇转载自36氪陆奇说:在创业者从0到1的过程中,我们看到的主要挑战有以下几个方面:对需求的理解和判断不够,与目标用户/客户的…

【AI】caffe使用步骤(三):编写求解文件solver.prototxt

【一】参考博客 caffe solver 配置详解:http://www.mamicode.com/info-detail-2620709.html Caffe学习系列(7):solver及其配置:https://www.cnblogs.com/denny402/p/5074049.html 【二】solver求解文件详解 1、solver求解文件例子如下 ne…

MySQL 8.0 Invisible Indexes 和 RDS 5.6 Invisible Indexes介绍

mysql 在8.0的时候支持了不可见索引,称为隐式索引 索引默认是可以的,控制索引的可见性可以使用Invisible,visible关键字作为create table,create index,alter table 来进行定义。RDS 5.6 Invisible Indexes 也是最近刚刚上线的功能。新购买实例目前已经支…

大有可为的“正则表达式”(二)

5.3. 基本和扩展正则表达式Unix支持两种的正则表达式的版本:(1)现代版本:扩展正则表达式(extended regular expression,ERE),属于IEEE1003.2标准,拥有比BRE更多的功能。…

【AI】caffe使用步骤(四):训练和预测

一、训练 1、直接训练 ./build/tools/caffe train --solverexamples/mnist/lenet_solver.prototxt ./build/tools/caffe train --solverexamples/mnist/lenet_solver.prototxt -gpu all //使用全部的gpu来训练2、采用微调funing-tuning训练法 ./build/tools/caffe train --s…

Github免费中文书《Go入门指南》,带你从零学Go | 极客头条

点击上方↑↑↑蓝字关注我们~「2019 Python开发者日」全日程揭晓,请扫码咨询 ↑↑↑作者 | 无闻整理 | Jane出品 | AI科技大本营(ID:rgznai100)【导语】Go(也称 Golang)是 Google 开发的一种静态强类型、编…

sql语句中having的作用是?

HAVING对由sum或其它集合函数运算结果的输出进行限制。比如,我们可能只希望看到Store_Information数据表中销售总额超过1500美圆的商店的信息,这时我们就需要使用HAVING从句。语法格式为: SELECT "column_name1", SUM("column…

微软重新释出MS10-015 解决蓝屏问题

微软于周二(3/2)重新释出MS10-015修补程序。由于先前使用者安装该程序时,若电脑中含有Alureon rootkit就会出现更新错误,因而微软也提醒使用者先行杀毒,并避免安装后可能造成的蓝屏画面。 MS10-015是微软在今年2月用来…

share_ptr_c++11

C智能指针 shared_ptr shared_ptr 是一个标准的共享所有权的智能指针, 允许多个指针指向同一个对象. 定义在 memory 文件中(非memory.h), 命名空间为 std. std::shared_ptr<int> sp1 std::make_shared<int>(10);std::shared_ptr<std::string> sp2 std::…

【Python】ubuntu14安装pycaffe环境:python2.7及依赖库

1、问题描述 ubuntu14自带的python2.7版本是python2.7.5&#xff0c;安装pycaffe环境时&#xff0c;出现错误&#xff0c;提示版本低。在bing上搜索源码安装python2.7.16的步骤&#xff0c;后续使用时&#xff0c;又报错&#xff0c;缺少SLL模块&#xff1a; Cant connect to…

周志华、张潼亲自辅导AI课程,DeeCamp 2019正式启动

4 月 8 日&#xff0c;创新工场对外宣布 DeeCamp 2019 人工智能训练营正式启动。 据介绍&#xff0c;DeeCamp 2019 将于 7 月 15 日至 8 月 23 日在北京、上海、南京、广州四地同时举办。今年招生规模也将扩大&#xff0c;计划招收 600 名大学生&#xff0c;进行为期 5 周的理…

No.2 条件

2019独角兽企业重金招聘Python工程师标准>>> clojure中不仅有if 还有when 还有什么when-do when-first when-let 一堆 首先介绍if (defn if? [x](if (pos? x)x(- x))) 这事一个取绝对值的方法,方法名改了下,pos? 是判断是否为正数 参数只能为数字 能看明白吧…

如何用Python和BERT做中文文本二元分类?| 程序员硬核评测

点击上方↑↑↑蓝字关注我们~「2019 Python开发者日」全日程揭晓&#xff0c;请扫码咨询 ↑↑↑作者 | 王树义来源 | 王树芝兰&#xff08;ID:nkwangshuyi&#xff09;兴奋去年&#xff0c; Google 的 BERT 模型一发布出来&#xff0c;我就很兴奋。因为我当时正在用 fast.ai 的…

【C++】Google Protocol Buffer(protobuf)详解(二)

代码走读&#xff1a;caffe中protobuf的详细使用过程 【一】proto文件&#xff0c;以caffe.proto中BlobShape为例 syntax "proto2"; //指明protobuf版本&#xff0c;默认是v2&#xff0c;其它版本&#xff1a;"proto3"package caffe; // 最终生成c代码…

Linux使用

软件操作 软件包管理 yum安装 yum install ...卸载 yum remove ...搜索 yum serach ...清理缓存 yum clean packages列出已安装 yum list软件包信息 yum info ...硬件资源信息 内存free -m 硬盘df -h 负载&#xff08;w或top&#xff09;w 12:53:49 up 2:33, 3 users, load ave…

通过进程ID获得该进程主窗口的句柄

一个进程可以拥有很多主窗口&#xff0c;也可以不拥有主窗口&#xff0c;所以这样的函数是不存在的&#xff0c;所幸的是&#xff0c;相反的函数是有的。所以我们可以调用EnumWindows来判断所有的窗口是否属于这个进程。 typedef struct tagWNDINFO{  DWORD dwProcessId;  …

【AI】caffe源码分析(一)

【一】caffe依赖开源库 【C】google gflags详解 【C】google glog详解 【C】Google Protocol Buffer&#xff08;protobuf&#xff09;详解&#xff08;一&#xff09; 【C】Google Protocol Buffer&#xff08;protobuf&#xff09;详解&#xff08;二&#xff09; 【C】goog…

专访博世王红星:大数据和AI将是中国制造业升级新动力

数据分析挖掘与工业大数据是智能制造与工业互联网的核心&#xff0c;其本质是通过促进数据的自动流动与智能决策去解决控制和业务问题&#xff0c;有效减少决策过程所带来的不确定性&#xff0c;并尽量克服人工决策的缺点&#xff0c;从而推动智能制造进程与智能工厂的建设&…

C进阶 - 内存四驱模型

一.内存四驱模型 不知我们是否有读过 《深入理解 java 虚拟机》这本书&#xff0c;强烈推荐读一下。在 java 中我们将运行时数据&#xff0c;分为五个区域分别是&#xff1a;程序计数器&#xff0c;java 虚拟机栈&#xff0c;本地方法栈&#xff0c;java 堆&#xff0c;方法区。…

ATEN—第十章OSPF的高级配置(4)

实验使用的工具&#xff1a;小凡模拟器一、在路由器R1上&#xff0c;配置接口&#xff0c;启动ospf路由进程和rip,宣告网段&#xff0c;并配置路由重分发★☆R1☆★☆→Router>Router>enableRouter#config terminalRouter(config)#hostname R1-jinR1-jin(config)#interfa…

【ubuntu】ubuntu14.04、16.04、18.04 LTS版本支持时间

0、历史版本下载地址 http://old-releases.ubuntu.com/releases/ http://mirrors.163.com/ubuntu-releases/ 1、官网说明 https://wiki.ubuntu.com/Kernel/LTSEnablementStack 2、简要记录 如下图&#xff1a; 14.04.0(v3.13) 14.04.1(v3.13) 14.04.5(v4.4) LTS 支持至 20…

BERT拿下最佳长论文奖!NAACL 2019最佳论文奖公布

点击上方↑↑↑蓝字关注我们~「2019 Python开发者日」全日程揭晓&#xff0c;请扫码咨询 ↑↑↑作者 | 刘静编辑 | 李尔客本文经授权转自公众号图灵Topia&#xff08;ID&#xff1a;turingtopia&#xff09;今日&#xff0c;自然语言处理顶会NAACL 2019最佳论文奖公布&#xff…

Git Bash修改默认路径

Git Bash默认安装在C:/user目录下&#xff0c;如果管理其他目录的代码库&#xff0c;需要切换目录。 修改Git Bash的默认路径&#xff0c;不需要每次切换了。 方法&#xff1a; 桌面Git Bash快捷方式&#xff0c;右键-->属性-->“快捷方式”标签 1&#xff0c;修改“起止…

NextGEN Gallery ~ 最强WordPress相册插件

博客照片很多&#xff1f;上传和管理图片太烦&#xff1f;想幻灯显示相册&#xff1f;在博客中任意插入动态图片效果&#xff1f;…… 你和我一样&#xff0c;需要NextGEN Gallery&#xff0c;最强WordPress相册插件&#xff01; 其实网上可以搜到不少关于这个插件的介绍&#…

【经验】网络加速:pip

一、python pip下载加速 参考博客&#xff1a;让PIP源使用国内镜像&#xff0c;提升下载速度和安装成功率。 pip/anaconda修改镜像源&#xff0c;加快python模块安装速度 1、Linux下 修改 ~/.pip/pip.conf (没有就创建一个文件夹及文件。文件夹要加“.”&#xff0c;表示是隐…

iframe 有那些缺

*iframe 会阻塞主页面的 Onload 事 *iframe 和主页面共享连接池&#xff0c;而浏览器对相同域的连接有限制(6-8前)&#xff0c;所以会影响页面的并行加 使用 iframe 之前需要考虑这两个缺点。如果需要使用 iframe&#xff0c;最通过 javascrit 动态给 iframe 添加 src 属性值&a…

用Python让蔡徐坤在我的命令行里打篮球!|附完整代码

点击上方↑↑↑蓝字关注我们~「2019 Python开发者日」全日程揭晓&#xff0c;请扫码咨询 ↑↑↑来源 | 01二进制&#xff08;ID:gh_d1999add1857&#xff09;编辑 | Jane【导语】作者自称是一个经常逛 B 站的肥宅。最近 B 站上流行的视频素材除了“换脸”&#xff0c;其次就要属…

javascript 操作Word和Excel的实现代码

1.保存html页面到word 复制代码 代码如下:<HTML> <HEAD> <title> </title> </HEAD> <body> <form id"form"> <table id "PrintA" width"100%" border"1" cellspacing"0" cel…