网友们票选的2018 Best Paper,你pick谁?
整理 | 琥珀
出品 | AI科技大本营
不久前,Reddit 机器学习论坛上一位网友发布了一个帖子:
“What is the best ML paper you read in 2018 and why?(你认为 2018 年读过的最好的论文是哪篇?)”吸引了各路网友前来回答。
营长根据答案的 Top 顺序,整理了这些论文,快来看看,是否有你最支持的那篇呢?如果不在,欢迎补充!
Top 1:GAN Dissection: Visualizing and Understanding Generative Adversarial Networks
链接:https://arxiv.org/abs/1811.10597
简介:该论文提出了一个可以在单位、目标和场景不同级别可视化分析框架。可以帮助研究人员更好的理解 GAN 模型。
推荐人:SupportVectorMachine、64 points
推荐理由:今年有很多很棒的成果,NVIDIA 近期最新的研究成果也非常赞,但是推荐人表示自己最喜欢的还是这篇文章。这篇论文写的好,插图也最精美,全面且易于理解。
Top 2:BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
链接:https://arxiv.org/abs/1810.04805
简介:该论文引入了一种新语言表示模型BERT(Bidirectional Encoder Representations from Transformers)双向编码器表征。与此前其他的语言表示模型不同的是,BERT旨在通过所有层中的左、右语境联合调整,来预训练深层双向表征。
推荐人:kartayyar、49 points
推荐理由:一是有非常好的创新理念,masked LM 的应用很有创意;二是以非常简练的术语描述了核心观点;三是在GitHub上开源的代码可以重现;四是可处理多项不同任务。
Top 3:Neural Ordinary Differential Equations
链接:https://arxiv.org/abs/1806.07366
简介:论文引入了一种新的深度神经网络模型家族。论文并没有规定一个离散的隐藏层序列,而是使用神经网络将隐藏状态的导数参数化,然后使用黑箱微分方程求解器计算网络的输出。这些连续深度模型的内存成本是恒定的,可根据输入调整评估策略,并可明显用数值精度换取运算速度。
推荐人:Hyper1on、43 points
推荐理由:最酷的一篇论文
Top 4:Large-Scale Study of Curiosity-Driven Learning
链接:https://arxiv.org/abs/1808.04355
简介:本篇论文对只由内在奖励驱动的智能体进行了大规模的实证研究。他们选择了Pathak等人提出的基于好奇心的内在奖励模型,并在Atari 游戏、超级马里奥兄弟、Unity 中的虚拟 3D 导航、多人乒乓以及 Roboschool 等各个环境中进行了大量研究。
推荐人:beealebub33、35 points
推荐理由:本篇论文的重要性在于它在没有明确奖励的情况下在各项游戏中取得了良好成绩。通过预测、确认期待违背和探索未知领域,它学习到了如何做游戏。这从而指出人工智能应该引导的方向:自监督、无标注数据、预测、好奇心、本能反应等。对于世人而言,根本没有那么多时间可以产生训练数据集然后再定义这些数据集的指标。相反,如果你提供给AI的是源于系统(或自然世界)的原始数据,且可以学习系统时空演变的内部展现,那么你可以设定一个AI可以完成的目标。
Top 5:Phrase-Based & Neural Unsupervised Machine Translation
链接:https://arxiv.org/abs/1804.07755
简介:该论文探究了如何在只有大规模单语语料库的情况进行机器翻译。作者提出了两种模型变体,一种基于神经网络和一种基于短语的模型。
推荐人:breadwithlice、30 points
推荐理由:仅使用单语语料库,将一种语言翻译成另一种语言而不用任何映射、字典或并行数据。通过反向翻译技术,这极大地提升了翻译器的能力,从A翻译到B,然后从B翻译到A,然后重新再来一遍,结果非常令人满意。
Top 6:An Introduction to Probabilistic Programming
链接:https://arxiv.org/abs/1809.10756
简介:该论文主要介绍了概率编程系统的背景介绍,以及设计和构建这些系统所需的技术。
推荐人:ndha1995、22 points
推荐理由:作者对概率规划进行了全面而严谨的介绍,并在最后一章中介绍了深度神经网络与概率规划相结合的最新研究。
Top 7:Rethinking statistical learning theory: learning using statistical invariants
链接:https://link.springer.com/article/10.1007/s10994-018-5742-0
简介:本文介绍了一种新的学习范式“ Learning Using Statistical Invariants” (LUSI),它与经典学习范式不同。从数学的角度看,经典范式的方法采用近似于期望函数的强收敛机制,而新范式则采用了强收敛和弱收敛机制。
推荐人:anterak13、15 points
Top 8:Learning a SAT Solver from Single-Bit Supervision
链接:https://arxiv.org/abs/1802.03685
简介:该论文提出了NeuroSAT,这是一种传递神经网络的信息,只有在被训练为预测可满足性的分类器后才会解决SAT的问题。
推荐人:edwardthegreat、12 points
Top 9:AutoAugment: Learning Augmentation Policies from Data
链接:https://arxiv.org/abs/1805.09501
简介:谷歌大脑的研究人员进一步研究了用于图像的数据增强策略,并提出了一个名为AutoAugment的的简单过程,用来搜索改进的数据增强策略。
推荐人:thatgudr、12 points
推荐理由:实用性非常强、适用于一切事物。
Top 10:Relational inductive biases, deep learning, and graph networks
链接:https://arxiv.org/abs/1806.01261
简介:这篇是由DeepMind、谷歌大脑、MIT、爱丁堡等27位作者联合发表的关于归纳偏置、典型深度学习构建和图网络的综述文章,探讨了如何在深度学习中使用关系归纳偏置,来有效解决传统“人工构造学习”和 “端到端学习”的弊端,以增强学习的可解释性。
推荐人:edwardthegreat2、22 points
Top 11:Backprop as Functor: A compositional perspective on supervised learning
链接:https://arxiv.org/pdf/1711.10455.pdf
简介:DeepMind最新提出“神经算数逻辑单元”,类似传统处理器中的算数逻辑单元,旨在处理神经网络数据模拟能力不足的问题。它将数值表示为线性激活函数,使用原始算数运算符进行操作,并由学习门(learned gates)控制。
推荐人:DunkelBreard、11 points
推荐理由:关于类别理论结构的技术,参数调整的一个很好的改变。
此外,还有很多网友分享了自己认为的 2018 最佳论文,包括迁移学习领域的 “Taskonomy: Disentangling Task Transfer Learning”,强化学习领域的 “Lable Distributed Deep-RL with Importance Weighted Actor-Learner Architectures”,无监督学习领域元学习的 “Learning Unsupervised Learning Rules”。
当然,在人工智能的大潮下,顶级学术会议成为学术界、产业界、乃至公众均密切关注的事件。2018 年,从年初至年末,我们也看到了机器学习、计算机视觉、自然语言处理等领域的优秀论文的涌现。为此,我们选取了国际上八大顶尖学术会议的代表性获奖论文,以飨读者。我们也希望在 2019 年可以见证更多人工智能领域优秀成果的突破。
为此,大家可以在后台回复“2018BestPaper”,可以获取本年度最佳论文全部合辑~
参考链接:
https://www.reddit.com/r/MachineLearning/comments/a6cbzm/d_what_is_the_best_ml_paper_you_read_in_2018_and/?sort=top
(*AI科技大本营原创文章,转载请联系微信1092722531)
公开课预告
◆
强化学习
◆
本课程是一次理论+实战的结合,将重点介绍强化学习的模型原理以及A3C模型原理,最后通过实践落实强化学习在游戏中的应用。
推荐阅读
年后跳槽BAT必看:10种数据结构、算法和编程课助你面试通关
实现通用人工智能还要多久?Hinton与AlphaGo之父这样回答
深入理解与应用Hadoop中的MapReduce
Python 分析程序员最关心的竟不是技术,而是…
和 Eclipse 并肩十年后,我终于「投敌」IDEA 了
新年到,献给从一线工程师到CTO的实用指南:《2019区块链开发者报告》
行!程序员千万别学算法!
免费送书 | 从今天起,一心一意学Python
2018年Python开源项目Top100!只在这里!
相关文章:
微信小游戏创业,究竟是红海还是死海?
“跳一跳”、“弹球王者”、“海盗来了”、“斗地主”等等微信小游戏,你是不是很眼熟呢?这些都是前段时间被刷了屏的小游戏,以“海盗来了”为例,据透露,其月流水已经突破了 1000 万,单日流水峰值也达到了 2…

OSPF中的frame-relay(3) 点到多点非广播
hostname R1!interface Loopback0 ip address 1.1.1.1 255.255.255.255interface Serial0 ip address 192.168.1.1 255.255.255.0 encapsulation frame-relay ip ospf network point-to-multipoint non-broadcast //将接口类型指定为点对多点非广播 frame-relay map ip 192.1…

一步一步SharePoint 2007之十六:注册并配置一个网站用户
在前面的文章中,我已经介绍了如何创建管理帐户。创建其它帐户的方法是一样的。大家可以把这个注册系统放到自己的网站中,就可以成为网站的一部分了。本文将只讲解如何在管理工具中将用户手动加入到网站用户组中,至于如何将注册完后的用户自动…
Facebook再曝数据丑闻删除应用数据仍会被泄漏
据外媒报道,道德黑客、漏洞赏金猎人Inti De Ceukelaire于昨日披露,名为“NameTests”的第三方测验应用令1.2亿Facebook用户面临数据泄露风险,这进一步时使Facebook的数据丑闻升温。道德黑客Inti De Ceukelaire发现,只要用户注册Na…

榨菜肉丝汤的做法
<!-- /* Font Definitions */ font-face {font-family:宋体; panose-1:2 1 6 0 3 1 1 1 1 1; mso-font-alt:SimSun; mso-font-charset:134; mso-generic-font-family:auto; mso-font-pitch:variable; mso-font-signature:3 135135232 16 0 262145 0;} font-face {font-famil…

“不设边界”的云知声:从多场景AI芯片到视觉AI,誓要2019营收近3倍
记者| 杨丽 出品| AI科技大本营 若非要总结 2018、展望 2019 的话,可以借用云知声创始人兼 CEO 黄伟的一句点评:“所有伟大的公司都诞生于真实的生产需求。” 2019 年 1 月 2 日,云知声在京召开战略发布会,正式公布其正在研发的…

微软公布Win10正式版功能对比表,哪个版本适合你?
微软今天公布了Win10各个版本功能特性对照表,详细列出了Windows10系统的大多数功能以及哪些版本具备这些功能。通过这张表格可为消费者购买或升级Win10提供参考。 微软公布的原版表格为英文版(可点此下载),IT之家将其翻译为中文&a…

linux tpm 测试完整记录,亲测有效。
没有tpm芯片,采用模拟器的方式来测试。 实验环境:内核版本 3.10.0-327 软件包准备: 内网,没有仓库,自己网上下载: 1. cmake-3.9.6-Linux-x86_64.tar.gz 解压后就已经有bin文件,可以直接使用bin下…

互联网流量太贵!新零售成创业新风口
什么是新零售?无人便利店、每个创业者都有自己的电商平台?运用人工智能、大数据等技术手段,对商品生产、流通、销售进行再升级,进而提高线上服务与线下体验?其实,说白了就是效率更高的零售新模式。联网早期的流量福利开始变弱,…

拼多多黄峥给陆奇“兼职”,欲挖掘这类AI人才
整理 | 一一出品 | AI科技大本营在上任 Y Combinator 中国创始人兼 CEO 四个月后,陆奇今日宣布三位兼职合伙人加盟 YC 中国,同时宣布新一期创业训练营正式完成招生工作,即将开始为期三个月的冬季训练营培训工作。三位兼职合伙人分别是拼多多创…

Crystal Reports中的字段
字段,是Crystal Reports呈现数据的基本单元,也是报表的数据中心。 在Crystal Reports中,字段的类型有数据库字段,公式字段,参数字段,组名字段,运行总计字段,特殊字段,未绑…

深度学习的发展可能已达极限!
【编者按】回首 2018 年,身处技术圈的你是否曾反思过些什么——科技与非科技企业界限的日益模糊、技术的发展现状和前景、科技发展的正向助推到负面效应,乃至个人心态上的变化。人文、生态、社会……玩技术的人看到的从来不仅仅是技术本身而已࿰…
大学生创业难?现在已不是问题!
现在越来越多的大学生离开学校加入了自主创业的队伍,那么你一定要知道政府为扶持大学生创业,出台的那些鼓励政策!如果你符合以下条件:1、公司法人是普通高等院校(高自考的不行)毕业前2年的在校生和毕业后5年…

Oracle:彻底结束会话 ,彻底解锁
oracle会话被锁是经常的。但有时alter system kill session sid,serial#;并不能彻底的杀死会话。只能通过杀死Linux上对应的进程才行。以前都是通过v$session里的logon_time,和ps -ef|grep oracle所列出的时间大约的定位进程。然后结束。本来想把这个写成日志。但有…

使用vim打造自己的python编辑器
基础配置 vim的配置是在用户主目录下的 ~/.vimrc 文件中完成的,如果没有的话,需要自己新建一下: cd ~ touch .vimrc首先做些简单的配置: set nocompatible "关闭与vi的兼容模式 set number "显示行号 set nowrap &qu…

两亿多用户,六大业务场景,知乎AI用户模型服务性能如何优化?
作者 | 王政英来源 | 知乎技术专栏用户模型简介知乎 AI 用户模型服务于知乎两亿多用户,主要为首页、推荐、广告、知识服务、想法、关注页等业务场景提供数据和服务,例如首页个性化 Feed 的召回和排序、相关回答等用到的用户长期兴趣特征,问题…

加班到凌晨三点,就能月薪五万了吗?
早起上班的地铁上,看到朋友圈有不少人刷视觉志推出的一篇《凌晨3点不回家:成年人的世界是你想不到的心酸》,出于好奇,就点击看了一些。文章用一堆煽情的图片和煽情的文字推导出一个结论:成年人的世界很不容易ÿ…

山西之行的感想
出差学习、外出培训(既“训”别人,也被别人“训”,呵呵)……充实啊。关于这次出差学习,很想说点什么的。不过说实话,他们的全员人口系统目前只是完成信息编辑、查询功能,进一步的汇总、数据挖掘…

GIS开发随笔(2)——关于建立GIS数据库的几个问题
真正的实战开始了,根据用户的需求首先就是编写了一大堆的这样那样的文档说明,并根据用户需求分析建立了数据库的库表及其内容。在建库的过程中我们使用的是微软的Sql Server2000数据库,在分析数据库前也在网上游荡了些时日,发现很…

刘铁岩谈机器学习:随波逐流的太多,我们需要反思
嘉宾 | 刘铁岩 整理 | 阿司匹林 来源 | AI科技大本营在线公开课 人工智能正受到越来越多的关注,而这波人工智能浪潮背后的最大推手就是“机器学习”。机器学习从业者在当下需要掌握哪些前沿技术?展望未来,又会有哪些技术趋势值得期待&#…

SQL2K数据库开发二之查看和修改Sample数据库
1.在SQL Server 企业管理器中,选择“数据库”节点,右击sample 数据库图标,在弹出的菜单中选择“属性”。 2."常规"页面显示了数据库的概要信息。 3.“文件组”页面显示了数据库中现有的文件组,此时数据库中只有一个主文…
谈点正经的:Papi酱能火,如果你现在学她却未必能火起来
集才华美貌于一身的女子Papi酱刷屏了。先是融资1200万,估值3亿。其次,又即将在四月和罗辑思维一起联手推出“中国第一场新媒体广告拍卖会”。 这些数据和事件串在一起,网红经济又被推至新的高点,内容在资本圈也越发繁荣。是的&…

全国各地DNS地址
全国各地电信DNS服务器地址北京:202.96.199.133 202.96.0.133 202.106.0.20 202.106.148.1 202.97.16.195上海:202.96.199.132 202.96.199.133 202.96.209.5 202.96.209.133天津:202.99.96.68 10.10.64.68广东:202.96.128.143 202…

iteye和微博
如果iteye能同步新浪微博,我以后就用iteye来写技术博客

BIND日志相关(二)
在Linux环境下,提供了广泛流行的BIND服务器,它是构建DNS服务器最常用的服务器软件。介绍BIND的安装的文章现在很多,现在我们就一起来谈一下维护的话题。我们如何才能够了解DNS服务器的运行情况下呢,它忙不忙、负载大不大?这一切&…

riot.js教程【四】Mixins、HTML内嵌表达式
前文回顾riot.js教程【三】访问DOM元素、使用jquery、mount输入参数、riotjs标签的生命周期;riot.js教程【二】组件撰写准则、预处理器、标签样式和装配方法;riot.js教程【一】简介; 共享Mixins 混合开发可以使你很好的复用代码,如…

思必驰发布AI芯片,透视智能语音企业的商业化历程
2019 年 1 月 4 日,言由芯生——2019 年思必驰 AI 芯片暨战略发布会在京举行。 现场,AI 芯片作为重头戏展示了其低功耗、高性能的核心优势,同时,思必驰多视角解读了 2018 年所取成果,并公布了 2019 年战略路线&#x…

【转载from冰河】来杭十周年
2001年9月12日,我高中毕业考入浙江大学,开始了杭州的生活;今天算是来杭十周年纪念日。中午我在杭州四眼井国际青年旅舍准备了一只烤全羊,邀请浙大毽球协会成员和包括 Mazha、andyfires 和萝卜等当年在校期间一起搞计算机的朋友们一…

CNI:容器网络接口
CNI:容器网络接口CNI简介不管是 docker 还是 kubernetes,在网络方面目前都没有一个完美的、终极的、普适性的解决方案,不同的用户和企业因为各种原因会使用不同的网络方案。目前存在网络方案 flannel、calico、openvswitch、weave、ipvlan等&…

马云:你改变不了特朗普,你连你妈都改变不了,你要改变你自己
整理 | 非主流出品 | AI 科技大本营1 月 3 日,世界浙商上海论坛暨上海市浙江商会第十次会员代表大会在上海举行。马云在大会上发表主题演讲,依旧金句频出。回望 2018,马云表示,「2018 年确实很不容易,但是大家都度过了…