机器学习算法易受攻击？阿里“安全基建”这样应对AI的不安全
出品 | AI科技大本营（ID:rgznai100）
数字基建的浪潮之下，诸多行业领域都在加速融合5G、大数据中心、AI等新技术，向数字化转型。近日，多位全国政协委员、院士和安全行业专家提出，应尽快出台安全基建国家标准，让数字化程度高、安全技术能力强的企业充分发挥作用，把它们在不同应用场景中沉淀的安全能力推广应用。
今年3月底，阿里发布了数字基建新一代安全架构，其核心理念就是安全基建。安全基建主打事前、事中的建设防护，目的是为各类App和网站等数字经济实体的搭建过程建立标准化流程，确保数字经济实体在建设之初就运行在较高安全基线上。
阿里安全首席架构师钱磊介绍，安全基建概念的提出，解决的是数字经济实体搭建的“安全施工标准”问题，内容涵盖软件供应链安全、技术和业务漏洞检测、隐私与内容风险检测、应用可信等多个维度。
如果说，强调生产要素标准化的安全基建层，是让数字经济实体具备了免疫能力。安全运营层则通过决策引擎，让风险从事后发觉处置走向了事前的态势感知。以风控分析师、安全策略师和风险运营师为代表的安全专家，通过海量数据分析，寻找规律并定义策略，从多个维度感知对抗威胁，并进行应急响应。
安全技术层是整个安全体系的基石。由攻防技术、数据安全技术、密码学、算法等安全技术构建的安全技术矩阵，是新一代安全架构的能力“底座”。
这里就不得不提到技术效率的问题。在钱磊看来，安全发展到最后，其实是一个效率问题。“即便是什么都能做，但是假如一整套安全模型走下来，需要10分钟，那么这个安全体系同样是垃圾。”
“我们可以把网络空间安全建设比喻成修建城墙。城墙是为了抵御外敌，但城门则是为了让人们顺畅同行。在进入城门的人群知中，如何识别潜伏在好人中的坏人，如何去识别坏人，这就是安全算法层面要解决的问题，只有不断的沉淀精准识别模型算法，才能真正的提高技术效率，做到让好人一路绿灯让坏人寸步难行。”
安全AI技术作为安全技术矩阵中的一环，显然就是提高“城门通行效率”的核心能力。
去年12月，阿里安全提出“安全AI”概念，指出安全和AI是互相促进的有机体。一方面，AI技术应用在安全领域，可以让安全能力更智能；另一方面，安全技术应用在AI领域，可以让AI能力更可靠。阿里安全认为，安全技术在经历了专家运营阶段、数据智能阶段后，已经迎来的安全AI阶段。在安全AI阶段，更多的安全识别、决策、处置等关键动作将主要依靠AI来实现。
要想让AI安全地“卖力”，技术人需要付出巨大努力。不容忽视的一个关键问题是，如何解决AI算法模型鲁棒性不足、易受攻击的特性？
目前，阿里安全正在做的是，主动挖掘机器学习算法的安全漏洞，以期构建更加安全和可信的AI系统，并发展新的机器学习算法，逐步将AI的安全问题体系化、标准化。
当然，阿里安全并不是独自在战斗。来自全球的庞大开发者群体也在用各种方式协同作战，来提升机器学习算法的安全性和可靠性。
为了发现AI领域中目标检测模型的脆弱性、为此领域的工作者敲响警钟。近期，阿里启动了安全AI挑战者计划第四期，是全球首个结合黑盒白盒场景，针对多种目标检测模型的对抗攻击竞赛。
与前三期重在算法领域深耕不同，新一期计划实现AI算法和网络安全的融合，打破行业ML/DL一家独大的情况，引领AI技术在落地时一定程度上结合传统技术，运用多种技术组合解决业务问题，更好的抵御深度学习时代的安全问题。
据介绍，比赛采用COCO数据集，其中包含20类物体。任务是通过向原始图像中添加对抗补丁（adversarial patch）的方式，使得典型的目标检测模型不能够检测到图像中的物体，绕过目标定位。
为了更好的评价选手的攻击效果，大赛创造了全新的得分计算准则。除了加入攻击成功率之外，我们还对添加补丁的数量和大小进行了约束。选手添加的补丁数量、修改的像素和模型识别到的包围盒越少，则代表攻击更加成功，得分则越高。为了保证比赛难度，大赛选取了4个近期的State-of-the-art检测模型作为攻击目标，包括两个白盒模型——YOLO v4和Faster RCNN和另外两个未知的黑盒模型。
从技术难度看，目标检测攻击要求对目标的类别、未知等信息同时进行攻击，问题的复杂度更高也更有挑战；另外，本次竞赛采用了全新的设定，允许参赛这通过多块patch对目标进行攻击，进一步提高了问题的挑战性。此外，也鼓励参赛者能够发挥自己的创造性，提出有价值的解决方案。
总之，他们希望从实际业务出发，通过场景、技术、数据、算力、经验等支持，帮助更多的安全爱好者在数字基建浪潮的多元复杂场景中得到磨练，具备真正的安全能力。
最后放出大赛链接，感兴趣的开发者可以报名：http://suo.im/6cVz5w
推荐阅读
吊打一切：YOLOv4的tricks汇总
解读TF、PaddlePaddle、天元等AI框架，你想知道的都在这里了
Python 编程语言的核心是什么？
CSDN 创始人蒋涛：开源吞噬世界，得开发者得天下
“自由主义教皇” 、Linux 之父的封神之路
以太坊2.0究竟何时落地？V神这样说……
你点的每个“在看”，我都认真当成了AI
相关文章：
不可以输入中文
function checkCH() {var strtxtPwd.value;var c /[/u4e00-/u9fa5]/;if(c.test(str)){alert("不能输入中文。");return false;}return true; }
tomcat虚拟路径的几种配置方法
tomcat配置虚拟路径的4种方法在tomcat中，webapp文件夹默认为web应用的根目录。1.在tomcat\conf\server.xml中找到 host标签，在host标签中增加新的元素<Context/>并设置 Context的元素，其中path元素所设置的值就是在浏览器中所要访问的虚…
hi35183e增加exfat文件系统的支持
64G-128G的tf卡文件系统格式为exfat，而hi3518e默认只支持fat32格式的tf卡。为了挂载64G以上的tf卡，只能将sd卡先格式化成FAT32。鉴于exfat性能比FAT32强，因此考虑移植exfat驱动到海思3518e平台,这样就不用强制格式化tf卡。 拷贝驱动源码到内核…
XML的简单读取与写入
作者：网际浪子专栏（曾用名littlehb） http://blog.csdn.net/littlehb/我用的是一种很笨的方法，但可以帮助初学者了解访问XML节点的过程。已知有一个XML文件（bookstore.xml）如下： <?xml ver…
美国 AI 博士一针见血：Python 这样学最容易成为高手！
我见过市面上很多的 Python 讲解教程和书籍，他们大都这样讲 Python 的：先从 Python 的发展历史开始，介绍 Python 的基本语法规则，Python 的 list, dict, tuple 等数据结构，然后再介绍字符串处理和正则表达式࿰…
区域链实践第一步——区域链测试环境搭建
区域链光速发展，在许多人的期许下，已经成为了互联网下一个革新点。区块链会成就的未来价值互联网，是新时代的基石。 IBM中国研究院开发的超能云（SuperVessel）平台提供了给区块链爱好者、开发者的区块链开发测试环境。通…
DataGrid的几个小技巧
作者：网际浪子专栏（曾用名littlehb） http://blog.csdn.net/littlehb/方法一:使用模版列 我们在绑定好数据的DataGrid增加一个模版列,在列中放置一个按钮<asp:TemplateColumn><ItemTemplate><asp:Button id"btnDelete&q…
32岁程序员面试被拒：比又穷又忙更可怕的，是2020年你还不懂...
在大学阶段，大家都学过概率论、线性代数和微积分的课程，但是为什么在面对机器学习中的数学问题时，却有一种天书的既视感？第一，大学课程中的知识点并没有完全覆盖机器学习领域所需。 回想一下大学概率统计课程内容的内容…
DHCP tftp PXE实现Ghost网络克隆
概述：加ghost参数，实现客户端只需连接网线，在无光驱、软驱的情况下，且无需其他配置，完成网络克隆。所要用到的软件：1、ghost 8.2 企业版中的Ghost Boot Wizard（其中的ghost.exe程序可以用ghost1…
PHP文件上传和文件操作案例
<?php /**文件配置变量$dirname是目录名称*/ session_start(); $dirname upload; $fileClass new fileClass($dirname); $fileClass -> fileCMM();/*文件重命名操作*/ $fileClass -> fileDelete();/*文件删除操作*/ ?> <!DOCTYPE html> <html> <…
将模式对话框的返回值回送(PostBack)到服务端
作者：张老三的专栏 http://blog.csdn.net/billy_zh/在一些应用中，希望将模式对话框的值回送(PostBack)到服务端，也就是执行一个服务端操作，从而刷新页面。举个例子：比方说新建一个订单，此时希望能在模式…
android zip解压缩（含有子目录）
为什么80%的码农都做不了架构师？>>> note: 如果目录中含有中文名称， 要用substr new String(substr.getBytes("8859_1"), "GB2312");这样的语句转换，否则为乱码 /*** 解压缩功能.* 将ZIP_FILENAME文件解压…
用Python实现抖音上的“人像动漫化”特效，原来这么简单
作者 | 黄伟呢来源 | 数据分析与统计学之美前几天，女友拉着我和她玩儿抖音，就是这个人像动漫化的操作，顿时觉得很好玩儿。我心想：Python 既然这么强大，是不是也可以使用 Python 程序来实现这样一个操作呢？哈…
easyui在IE中： SCRIPT1003: 缺少 ':'
转载于:https://www.cnblogs.com/FredLee/p/5894614.html
NumPy学的还不错？来试试这20题
来源 | 早起Python（ID: zaoqi-python）又到了NumPy进阶修炼专题。NumPy大家应该不陌生了，看了太多的原理讲解之后，用刷题来学习是最有效的方法，本文将带来20个NumPy经典问题，附赠20段实用代码，拿…
tomcat报 Context [] startup failed due toprevious errors
今天同事在实施项目中,遇到一个问题,就是项目布到tomcat服务器上了,却总是找不到访问路径.tomcat报 Context [] startup failed due toprevious errors 当时就觉的很郁闷,项目是本机测试完整打包的.按以前的项目实施也很少出现这样的问题.在网上搜索以下解决方案: ------解决方…
DataGrid中自带的分页功能的使用
作者：木子 http://blog.csdn.net/derny/1、把AllowPaging属性设置为true 并设置PageSize的大小 2、在html页面中设置datagrid的属性OnPageIndexChanged"DataGrid_Page" // //DataGrid_Page 为点击页数的时候激发的事件 3、在程序中加入代码如下&…
34补1-2_3 HA Cluster基础及heartbeat实现HA
HA Cluster基础及heartbeat实现HA配置环境node1：192.168.1.121CentOS6.7node2：192.168.1.122CentOS6.7node3：192.168.1.123CentOS6.7vip 192.168.1.80配置前准备# cat /etc/hosts127.0.0.1 localhost localhost.localdomain localhost4 loc…
关于SSL配置的报告
作者：网际浪子专栏（曾用名littlehb） http://blog.csdn.net/littlehb/一，服务器上装有CA(Certificate Server) 1，服务器上安装CA Win2000中带有CA的安装程序。单击Start，Control Pannel Add/Remove Prog…
认知智能，AI的下一个十年 | AI Procon 2020
整理 | 屠敏 出品 | AI科技大本营（ID:rgznai100） 60 年间的「三起两落」 ，人工智能的沉浮变迁。 在 1956 年的夏天，人工智能在美国达特茅斯大学召开的学术会议之上蹒跚学步，吸引无数研究学者对其智能化的探索以及未来美…
STL 队列queue
q.front() 返回队头元素 q.push(a) 将元素a入队 q.pop() 队头元素出队 q.empty() 如果队列为空 返回ture 否则返回false转载于:https://www.cnblogs.com/xujian9502/archive/2012/02/19/2358055.html
OpenCV——使用ROI进行图像切割
ROI（region of interest）——感兴趣区域。 1.用途 这个区域是图像分析所关注的重点。圈定这个区域，以便进行进一步的处理。而且，使用ROI指定 想读入的目标，可以减少处理时间，增加精度，给图像处理…
Asp.net动态生成html页面
作者：网际浪子专栏（曾用名littlehb） http://blog.csdn.net/littlehb/适用于：Microsoft ASP.NET 摘要:asp.net动态生成html页面,适用 简介 此功能适用于后台数据库功能不强的web站点，即大部分文本不是存放在数据库的…
View 5.1 重装上阵（4—基础架构篇）
从底层架构方面来看，VIEW 5.1最大的改进在于引入了Content-Based Read Cache(CBRC) 技术，大大降低了部署桌面虚拟化所带来的IOPS风暴，同时大大降低了对于存储的压力和成本，可谓桌面虚拟化领域的一大福音。 在以往的桌面虚拟化项目…
再见了，Python！！
结合我最近这些年的 Python 学习、开发经验，发现近90%的程序员在学 Python 时都会遇到下面这3个问题：1.想学Python，但不知从何学起，应用方向太多了也不知道该选择什么方向...2.基础入门看似简单，但是进阶实战就举步维艰…
alert在asp.net中如何使用？？
改成这样：string str"<script languagejavascript>alert(省局数据不能进行修改！);</script>";Page.RegisterStartupScript("dd",str); 提示成功后转到别的页面Response.Write("<script>window.alert(提示语…
.NET工程师必须掌握的知识点
以下内容是转载的 Microsoft SQL Server 数据库 一、创建和维护数据库 1、数据库 SQL Server 数据库的组成部分？（参见联机丛书） 如何保证数据库的完整性、安全性、并发性？ 数据库设计创建步骤？（参见…
@程序员：这些瓜没吃到，可以告别互联网了！
最近，程序员届有一个重大好消息，可能很多人还不知道，那就是：国内某些城市已经开始程序员人才补贴了！对于人工智能公司的项目开发、人才引进、科技研发，最高按照国拨经费的30%给予配套支持，单个项…
日志分析工具splunt
实验环境 网关 classroom 172.25.8.254 workstation 172.25.8.9 server a-jeth0 172.25.8.10-外网 eth1 192.168.0.x内网 eth2 192.168.1.x备用 -------------------------------------------- 需求： 设计： 原理：日志的作用，1&a…
正则表达式语法规则收集
turnmissile 的 Blog http://blog.csdn.net/turnmissile/ Microsoft已经把正则表达式的规则收录在了msdn里面了，有兴趣的朋友可以自己去研究一下(ms-help://MS.MSDNQTR.2003OCT.1033/cpgenref/html/cpconRegularExpressionsLanguageElements.htm)，这里罗…