斯坦福大学 AI100 报告发布：AI 发展速度惊人，但风险也正走进现实
作者 | 阳光
来源 | 学术头条
语言处理、计算机视觉和模式识别的巨大进步，意味着人工智能（Artificial Intelligence，AI）每天都在与人们的生活进行交互，从帮助人们选择电影，到帮助人们解决医疗诊断难题方面都在积极发挥作用。
图 | 关于 AI 应用领域的畅想（来源：AI100 Stanford）
然而，伴随着这些成功的案例，人们迫切需要重新了解和降低 AI 驱动系统的风险和缺点，例如 AI 算法歧视或者利用 AI 进行恶意欺骗的行为。计算机科学专家们必须与社会科学专家和法律专家合作，以确保使 AI 带来的陷阱最小化。
毫无疑问，AI 的发展已经到达了一个非常关键的转折点。
图 | 报告标题（来源：AI100 Stanford）
9 月 16 日，来自计算机科学、公共政策、心理学、社会学和一些其他学科的专门评估 AI 领域状况的国际专家小组，在斯坦福 AI100 的网站上，以"Gathering Strength, Gathering Storms "为题，共同发表了人工智能百年研究 2021 年研究小组报告。
AI100 是由斯坦福大学 Human-Centered AI 研究所主持的一个正在进行的项目，旨在监测 AI 的进展并指导其未来的发展。这份新报告是 AI100 项目发布的第二份报告，评估了 2016 年到 2021 年间 AI 方面的发展。
图 | AI100 旨在关注的 14 个问题（来源：AI100 Stanford）
这份报告的重点在于回答 14 个 AI 相关的问题，并探讨 AI 发展的关键领域。这些问题由 AI100 常务委员会制定，而这个委员会由一些著名的 AI 领导者组成。
这些问题包括：“AI 最重要的进步是什么？”和“AI 方面最鼓舞人心的开放式挑战是什么？”。其他的问题则涉及 AI 主要风险和危险、AI 对社会的影响、公众对于 AI 认知和 AI 领域的未来。并且在报告中，委员会召集了一个由 17 名研究人员和专家组成的小组解答了这些问题。
AI 逐步走出实验室
报告小组的主席、布朗大学计算机科学教授 Michael Littman 表示：“在过去的五年里，AI 已经从主要发生在研究实验室或其他高度控制环境中的事情，跨越到社会上影响人们生活的事情。”
Michael Littman 继续补充说：“这是一件很令人兴奋的事情，因为这项技术正在做一些我们在 5 年或 10 年前只能在梦里才可以实现的事情。但与此同时，AI 领域正在着手应对这项技术的带来社会影响，我认为下一个前沿的方式是考虑如何从 AI 中获益，同时将 AI 的风险降至最低。”
在 AI 的进步方面，专家组成员们注意到 AI 各个子领域的重大进展，包括语音和语言处理、机器视觉和其他领域。这一进步在很大程度上是由机器学习技术的进步推动的，特别是深度学习系统方面的进步，近年来这些技术从学术环境逐渐转变到了日常应用。
图 | OpenAI 的“DALL-E”生成图像表明这套系统不仅仅是检索相关图像，而是产生新的视觉特征组合。（来源：AI100 Stanford）
例如，在自然语言处理领域，AI 驱动的系统现在不仅能够识别单词，还能够理解它们在语法上的使用方式以及单词的含义在不同的上下文中发生的变化。这使得网络搜索、预测文本应用程序、聊天机器人等功能更加完善。其中一些系统现在可以生成难以与人工生成区分开来的原始文本。
在一些其他的领域，AI 系统诊断癌症和其他疾病的准确度可以与训练有素的病理学家媲美。基于 AI 的研究技术对人类基因组产生了新的见解，并加速了新药物的发现。虽然人们承诺已久的自动驾驶汽车尚未得到广泛地应用，但是基于 AI 的驾驶辅助系统，如车道偏离警告和自适应巡航控制，已经成为了大多数新车的标准配置。
图 | 人工智能已经离开了实验室，并以新的方式进入了人们的生活（来源：Nick Dentamaro/布朗大学）
Littman 说，最近的一些 AI 进展可能会被该领域之外的观察者忽视，但实际上反映了基础 AI 技术的巨大进步。一个相关的例子是在新冠疫情大流行期间，在视频会议中使用背景图像，成为了许多人在家工作中普遍存在的现象。
“为了将人们置于背景图像的前面，系统必须将人们与身后的东西区分开来，而仅仅从一组像素上区分是十分困难的。能够很好地理解图像以区分前景和背景可能是五年前在实验室中发生的事情，但肯定不是在每个人的计算机上实时以高帧速率发生的事情。这是一个相当惊人的进步。”
AI 风险需保持警惕
至于 AI 的风险和危险，这个专家小组并没有设想一个反乌托邦的情景，即超级智能机器接管世界。AI 的真正危险虽然微小，但是同样令人担忧。
报告中提到的一些危险源于故意滥用 AI，即用于传播错误信息或损害人们声誉的深度伪造图像和视频，或用于操纵公共言论和舆论的在线机器人。其他风险源于“公众意识的某些角落与 AI 决策相关的中立和公正氛围，导致系统被视为客观的，即使它们可能是有偏见的历史决策，甚至是公然歧视的结果。”
图 | 利用 AI 生成的高分辨率图像，这种技术引起人们对虚假信息传播的担忧（来源：AI100 Stanford）
在执法等领域，这是一个特别令人关注的问题，犯罪预测系统已被证明对有色人种社区产生不利影响，或者在医疗保健领域，保险算法中嵌入的种族偏见可能会影响人们获得适当护理的机会。
随着 AI 使用的增加，这类问题可能会变得更加普遍。Littman 表示，好消息是 AI 领域正在认真对待这些危险，并积极寻求心理学、公共政策等领域专家们的意见，从而探索出减轻这些危险的方法。
图 | 家用传感器和机器人正在兴起，提供支持和护理的同时也引起了人们对普遍监视的负面影响的担忧。（来源：AI100 Stanford）
Littman 说，编写这份报告的小组成员来自不同的领域，可以反映出 AI 领域正在扩大的视野。“这个小组由几乎一半的社会科学家和一半的计算机科学人员组成，我对社会科学家对人工智能的了解如此之深感到非常惊喜。我们现在有在各种不同领域工作的人，他们被认为是 AI 专家，这是一个积极的趋势。”
展望未来，专家小组得出结论，政府、学术界和工业界需要发挥出更大的作用，以确保人工智能的发展为更大的利益服务。
AI100 更深层背后的意义
总部位于西雅图的 Allen AI 研究所首席执行官 Oren Etzioni 曾经是 2016 年报告研究小组的成员。他对 AI100 的更新表示欢迎并表示，“2021 年这份报告代表了 AI 领域内外顶级专家的大量工作和见解。报告避免了耸人听闻的说法，而倾向于有节制的学术义务。我认为这份报告关于人与 AI 合作的前景、AI 素养的需求以及来自学术界和非营利组织强有力的非商业视角的重要作用是正确的。”
Etzioni 唯一的质疑是报告声称到目前为止，人工智能的经济意义“相对较小——特别是相对于预期而言”。对此，Etzioni 表示“实际上，我认为这份报告可能低估了 AI 的经济影响，因为 AI 通常是苹果、亚马逊、谷歌和其他一些大公司产品中的一项组件技术。”
图 | AI 应用于 Apple/Amaze/Google 等大公司产品中（来源：Wired）
德克萨斯大学奥斯汀分校计算机科学教授、索尼AI美国公司执行董事兼 AI100 常务委员会主席 Peter Stone 说：“虽然过去的一些年中，有很多关于 AI 影响的报告。但是 AI100 报告的独特之处在于，它们都是由 AI 内部人士撰写的。这些 AI 内部人士是创建 AI 算法或研究 AI 对社会影响的专家，并将 AI 领域作为主要职业活动。这也是一项持续的、纵向的、长达一个世纪的研究的一部分。2021 年的 AI100 报告对于的这个百年计划来讲至关重要，因为它通过评论 AI 在这五年间的变化与 2016 年的报告紧密相连。”
微软首席科学官、AI 百年研究的联合创始人 Eric Horvitz 称赞了研究小组的工作说：“不同的 AI 专家小组在这份里程碑报告中分享的见解给我留下了深刻的印象。2021 年的报告在描述 AI 的现状和发展方向方面做得很好，包括评估我们当前理解的 AI 前沿，以及 AI 对人类和社会影响的关键机遇和挑战的理解和指导。”
关于 AI 100
历史首次出现 AI100 的字眼是在 2016 年报告的序言中。
图 | AI100 概念图（来源：AI100 Stanford）
人工智能百年研究（AI100）于 2014 年秋季启动，是对 AI 领域及 AI 对人类、社区和社会影响的长期调查。它考虑 AI 计算系统的科学、工程和部署。作为其核心活动，监督百年研究的常务委员会每五年组成一个研究小组，以评估 AI 当前的状态。研究小组回顾了上一份报告之后几年 AI 的进展，展望了 AI 未来的潜在进展，并描述了这些进展带来的技术和社会挑战和机遇，包括在伦理、经济和与人类认知相容的系统设计等领域。
百年研究定期专家审查的首要目的，是提供一组关于 AI 及其影响的思考。这些研究为 AI 研究、开发和系统设计方向提供专家的指导，以及帮助确保这些系统广泛造福个人和社会的计划和政策。
“百年研究以早期的一项非正式研究“AAAI-Asilomar研究”为蓝本。2008-2009年间，时任人工智能促进协会（AAAI）主席的 Eric Horvitz 召集了来自多个机构和领域的AI专家，以及认知科学、哲学和法律学者。参与者在分布式小组中工作，讨论近期AI的发展、长期可能性以及法律和道德方面的问题，然后在 Asilomar 举行为期三天的会议，分享和讨论他们的研究结果。
图 | Eric Horvitz 微软首席执行官 （来源：Eric Horvitz 个人主页）
与会者随后与其他同事进行的讨论进一步扩大了关于密集会议讨论的简短书面报告，引起了该领域内外的广泛兴趣和辩论。Asilomar 会议的影响，以及 AI 领域的重要进展，包括 AI 算法和技术开始进入全球日常生活，激发了对 AI 及其对人类和社会的影响进行长期反复研究的想法。这项百年研究随后被一所大学资助，以促进深入思考和跨学科学术调查，从而激发创新，并为政府机构和行业提供明智的建议。
参考资料：
https://www.brown.edu/news/2021-09-16/ai100
https://ai100.stanford.edu/2021-report/gathering-strength-gathering-storms-one-hundred-year-study-artificial-intelligence
往
期
回
顾
腾讯、阿里、字节竟然是这么做数据的？
资讯
微软、英伟达联手推出最大语言模型
资讯
100亿张照片泄露！通过照片监视你
ST-GCN 实现人体姿态行为分类
分享
点收藏
点点赞
点在看
相关文章：
linux===Ubuntu 上安装 Node.js
https://www.cnblogs.com/andfly/p/6681487.html转载于:https://www.cnblogs.com/botoo/p/8118903.html
非计算机专业的学生，从事编程工作的上升壁垒是什么？
很多同学自己的专业并不是计算机，但是看到如今IT行业发展的这么好，也想转行学习编码。但是自己非科班出身，又到了快毕业的年纪，开始学习编程来得及吗？这些年来，很多培训机构都借鉴了少儿编程培训的经验&…
HTTP头信息中的参数Etag
服务器如果是集群，不同服务器返回的 Http Header 中的 Etag 参数不一样。如果是图片是程序生成的，我们可以用 no-cache 这些 header 来控制，但如果这些图片是 apache 或 nginx 等呢？下面开始介绍 Etag：Etag在HTTP1.1中…
利用JS使用POST方式提交请求的方法
2019独角兽企业重金招聘Python工程师标准>>> function post(url, params) {var temp document.createElement("form");temp.action url;temp.method "post";temp.style.display "none";for (var x in params) {var opt document…
input框取消光标颜色手机端不生效
<style> input{ color:transparent; } </style> <input value"我要隐藏光标">//文字颜色可以使用text-shadow属性<style> input{ color:transparent; text-shadow:0 0 0 red; } </style> PC端没问题，但是手机端测试无效。…
http响应Last-Modified和ETag以及Apache和Nginx中的配置
基础知识 1) 什么是”Last-Modified”? 在浏览器第一次请求某一个URL时，服务器端的返回状态会是200，内容是你请求的资源，同时有一个Last-Modified的属性标记此文件在服务期端最后被修改的时间，格式类似这样： …
全面分析再动手的习惯：链表的反转问题（递归和非递归方式）
定义一个方法（函数），实现输入一个链表的头结点，然后可以反转这个链表的方向，并输出反转之后的链表的头结点。 typedef struct Node{int data;Node *next; } Node, *List; 链表类的问题，涉及到了很多指针的操…
Facebook 正在研究新型 AI 系统，以自我视角与世界进行交互
编译 | 禾木木出品 | AI科技大本营（ID:rgznai100）你是否能想象 AI 以第一人称视角来理解世界是什么样的呢？未来，以第一人称视角理解世界的 AI 可以开启沉浸式体验的新时代。增强现实（AR）眼镜和虚拟现实&…
docker-2-简单使用docker-ce
安装请看docker-ce安装文档 docker命令合集 参考docker --help 选项 -D 使用debug模式-l 日志级别(有debug|info|warn|error|fatal)，默认info-v 显示版本管理命令config 管理docker配置container 管理容器image 管理镜像network 管理网络service swarm 常用命令atta…
Apache启用mod_expires模块
mod_expires可以减少10%左右的重复请求，让重复的用户对指定的页面请求结果都CACHE在本地，根本不向服务器发出请求。 在使用之前,首先要确认一下”mod_expires”模组是否有启用.如果是自己安装Apache来架设网页主机的话,这里我们可以透过编辑Apache的”ht…
用 Pyecharts 制作炫酷的可视化大屏
作者 | 俊欣来源 | 关于数据分析与可视化前两篇Pyecharts的文章来帮我们简单的梳理了一下可以用Pyecharts来绘制哪些图表之后，本篇文章我们用pyecharts里面的一些组件，将绘制的图表都组合起来首先Grid组件首先介绍Pyecharts模块当中的Grid组件࿰…
compass安装使用960 Grid System
960 Grid System 是一个CSS的页面布局框架 demo: http://960.gs/demo.html 前提：安装Ruby 、NodeJS 步骤1：在命令行下安装css插件： gem install compass-960-plugin 步骤2：创建my_project项目： compass create -r nin…
C语言竟成TIOBE年度编程语言候选！苹果iPhone 7卖得最好！
每年这个时候，都是TIOBE榜单评选年度编程语言的时候。今年，Kotlin成为竞争的热门，让人意外的是，C语言居然也成为了候选编程语言之一。自从被Java摘走王者桂冠，C语言几乎是处于持续下滑状态，没想到2017年竟然…
奇怪吸引子---QiChen
奇怪吸引子是混沌学的重要组成理论，用于演化过程的终极状态，具有如下特征：终极性、稳定性、吸引性。吸引子是一个数学概念，描写运动的收敛类型。它是指这样的一个集合，当时间趋于无穷大时，在任何一个有界集…
简介+原理+绘制，详解 Python「瀑布图」的整个制作流程！
作者|黄伟呢来源|数据分析与统计学之美简介瀑布图，由麦肯锡顾问公司所独创的图表类型，因为形似瀑布流水，所以被大家称之为瀑布图(Waterfall Plot)，在企业经营分析、财务分析中使用较多，用以表示企业成本的构成、变化等…
Ubuntu 忘记root登录密码的解决办法
2019独角兽企业重金招聘Python工程师标准>>> 之前做了个虚拟机，最近需要用到，密码忘记了，下面是在忘记密码的情况下登录系统休修改密码，需要进入GRUB修改kernel镜像启动参数 1、重启电脑长按shift键直到进入下图进入GR…
10月21日！API 大赛决赛暨移动云开发者论坛邀您见证数字创新的力量
2021年7月，移动云API应用创新开发大赛正式启动，历时近两个月的时间，共计报名889人，最终提交作品166项。经过前期初审、初赛、复赛等环节，最终企业、移动和高校赛道共29个目团队成功问鼎移动云API应用创新开发大赛决赛榜…
负载均衡环境中和如何设置Expires和Etag
在负载均衡环境中（LVS, LoadBalance）为了减少浏览器数据的重复请求操作，一般需要设置 Http Header 的 Etage 和 Expires 告诉浏览器请求数据是否已过期。以下内容主要考虑Apachesquid 环境 ETag Header是文件修改时间、文件大小和inode号生成…
C++之typedef 小记
2019独角兽企业重金招聘Python工程师标准>>>  以前曾不知道为何要用typedef，随着开发的深入，真正感受到了其内涵所在： 1.如：typedef int DataType 接下来项目中的几万行代码中，如果…
Android Go初探
Android Ore(Go edition) 简介： Android Go并不是一个独立的操作系统，它只是Android O的一种轻量级配置方案，专为1GB以下内存的机型设计， 在这种设置下，一些消耗大量资源的功能将被关闭，同时预装的应用也是…
Apache HTTP Server Version 2.2 文档中文版
模块索引 | 指令索引 | 常见问题 | 词汇表 | 站点导航 Apache HTTP Server 版本2.2 Apache > HTTP Server > 文档 > 版本2.2致谢 | 本篇译者：金步国(其他作品) | 本页最后更新：2006年10月20日[查看最新版本] 电信镜像 网通镜像Apache HTTP Ser…
归一化变换 Normalizing transformations
归一化变换包含两个部分，图像坐标的平移和尺度的缩放。进行归一化的变换不但能够提高处理结果的精确度，而且通过选择一个标准的坐标系预先的消除了图像尺度和坐标原点的选择对算法最终结果的影响。 归一化变换的步骤： 对点进行平移࿰…
Arm 通过虚拟硬件与新的解决方案导向的产品 带动物联网经济转型
Arm物联网全面解决方案通过一套全栈式解决方案，大幅加速产品开发进程并提高投资回报率；Arm虚拟硬件使得开发无需基于实体芯片进行，促成软件与硬件的共同设计，让产品开发时间最多缩短两年；Project Centauri作为Arm新的生…
数据库设计 之设计 表字段类型
2019独角兽企业重金招聘Python工程师标准>>> 数据库设计 之设计 表字段类型 博客分类： sql 之前没有 数据库设计的一些经验。 这次数据库设计。由于需求原因和没经验原因。 一些数字类型的字段设计成了varchar2 一些日期类型的字段也设计成了varchar2 一…
Apache关掉Etag和Last-Modified的方法
Apache关掉Etag和Last-Modified的方法,可能也只有我这种无聊的人才会做这种事情.哈哈，关掉etag和last-modified会出现什么样的情况。做一个这样的测试. 不要问我这二个参数是做什么的。。。。。在我的blog中有写. Etag关掉的方法如下,加一个none FileETag none …
P2P最易遭受的DDoS***以及防御手段
从07年的爱沙尼亚DDoS信息战，到2009年广西南宁30个网吧遭受到DDoS勒索，再到新浪网遭受DDoS***无法提供对外服务500多分钟。DDoS愈演愈烈，***事件明显增多，***流量也明显增大，形势十分严峻，超过1G的***流量频…
从飞天到倚天 阿里云底层自研技术大爆发
10月20日，2021云栖大会上，阿里云发布了倚天、磐久、神龙4.0、龙蜥、灵杰等多款重磅产品，阿里云“做深基础”成果浮出水面，底层自研技术迎来大爆发。 阿里云智能总裁张建锋表示，过去十二年，阿里云打造出中国…
CSS vs. JS Animation: 哪个更快
CSS vs. JS Animation: 哪个更快? CSS vs. JS Animation: 哪个更快? 基于JavaScript的动画竟然已经默默地比CSS的transition动画快了？而且，Adobe和 Google竟然一直在发布可以媲美原生应用的富媒体移动站点？ 这篇文章将会逐点讲解基于JavaSc…
Squid下Http头信息优先级
no-cache>Expires>refresh_pattern>Last-Modified 也就是讲,最前面的最重要,前面的生效后,后面的基本就失效了. 另外squid本身就能对比Last-Modified,但根据我的测试，Etag还是会要向源服务器发送请求头，来确认etag的. ETag默认是需要向源网站…
阿里云PolarDB数据库将云原生进行到底！业内首次实现三层池化
10月20日，在2021云栖大会上，阿里云宣布自研云原生关系型数据库PolarDB重磅升级，实现内存池化、多主架构、HTAP实时分析等创新功能，进一步引领云原生数据库技术的持续创新。 阿里云智能数据库事业部总负责人李飞飞表示，…