AI金融若不解决这些问题，等于在制造新的不可解问题
人们对新事物总是充满恐惧。就在大家担心无人驾驶汽车是否弊大于利的时候，AI重塑金融规律的创新也引起许多人对其中的法律和道德问题的顾虑。
让一个软件程序来决定，谁拥有投资开户的资格，谁能够获得贷款（征信），应该收取多少的费率，甚至在主流金融体系之外的金融服务客户都可能收获意想不到的后果。
但也有些人认为，没有什么能够比算法更公平公正了——纯粹数学，毕竟，不会有偏见，对吧?
“一台机器或一个机器人将基于事实和标准来计算出决策，”红杉软件财政性转型主管Steve Palomino表示，“去除人为因素意味着，人们可以基于事实和具体情况来应用标准，而不是根据偏好或个人偏见和经验。”
偏见问题
这个论点的缺陷之一是，算法也是人为创建的，通常会在连他们都意识不到的细微处隐含了偏见。这些偏见也许会被嵌入到算法当中。比如，去年卡耐基梅隆大学 的研究者测试谷歌的算法是如何向用户推送广告时发现，广告设置中的“男性”和“女性”标签中，谷歌会给“男性”用户推荐薪酬更高的招聘广告。
更极端地说，一个人工智能引擎做出信贷决策时，也许会倾向于只认可常春藤盟校毕业的，或者家庭收入超过30万美元的群体。
人工智能，究其本质而言，还不能完全控制今天的以规则为基础的系统。在AI里面，电脑可以随着时间的推移来学习人们通常是如何做的：通过接收信息，然后决策基于这些数据进行征信决策，并不断观察结果进行风控。随着它们在错误和正确的信息中不断学习，它们会不断修正自己的规则和算法，然后开始作出它们自己的结论。
乔治华盛顿大学社群主义政策研究所国际事务教授兼主任Amitai Etzioni指出，无人驾驶汽车被指示不要超速，但它们也被设计了学习程序。当周围的汽车加速时，它也会加速。它们所谓的标准是根据周围的参照而对结果做出调整。
同样的原则也适用于AI交付的抵押贷款决策。“银行告诉程序：在任何情况下都不应该将种族作为一个标准，”他说，“但程序会发现风险与收入、受教育程度和邮政编码有关——它会说‘种族也是因素之一’，因为教育与邮政编码都有种族标签有联系，那为什么我不可以把种族也作为规则标准之一？”
人工智能程序缺乏良知。咨询公司Spitzberg Partners首席分析师Steve Ehrlich表示，“你很难将道德编码到机器里面去——它唯一的目的是为企业寻找解决方案。”
如何制衡？
Etzioni表示，我们需要的是AI监护者——AI系统伴侣，它可以确保人工智能引擎不会偏离特定值。
那AI监护者最后就不会学坏了吗？
“这个问题从柏拉图一来就是个未解的难题。在柏拉图理想的国度里，最高统治者是监护者”Etzioni说道，“但是，谁来监护监护者？最后，人类必须有一个彼此制衡的闭环。”
这就引出了第三个问题——人工智能程序的内部运作往往比较隐蔽，甚至他们的创造者也不知道其原理。换句话说，AI如同一黑盒。通过AI系统，金融机构做出的谁能成为他们的客户，他们将对谁放贷，收取多少的费率等等决定时，都将成为不可知的。
这些问题不仅仅是针对于传统金融机构的考虑。许多Fintech公司都采取了黑盒自动化决策，并严重依赖算法。Social Finance （SoFi）已经宣布自己是“FICO-Free Zone（FICO自由区）”，即公司在进行贷款资格审查的过程中已经不再需要FICO的模型进行评分。
但没有人知道，他们在算法了使用了什么数据。美国P2P公司Prosper的CEO Ron Suber曾表示，该公司对每个借款人分析的数据样本达到500个，但具体的数据点又是什么呢？他们从不会说。
Ehrlich表示，让人工智能引擎做出金融决策还引发隐私问题——这些数据的获取或会涉及侵犯用户的隐私。
“如果说征信公司想要看看你的社交媒体或搜索历史来确定你的信用评分，那么银行至少应该告知客户其计划使用这些信息。”
当然，不管有没有人工智能，数据隐私问题都同样存在。但人工智能程序的成功取决于它分析海量数据的能力。但与IBM的沃森和谷歌的AlphaGo不同，银行不能将所有东西都扔进它们的AI引擎里面。
“银行应该在前期公示他们将要搜集哪些信息，如何收集并用于什么地方。”
可依赖否？
使用人工智能自动化决策的另一个问题是，它们是否会使用智能合约技术自动执行，谓之可依赖性。
“如果我们不小心，我们可能无法实现我们认为通过自动化能够做好的一切，”多伦多一名专门研究反洗黑钱规则、反恐怖主义集资、跨国资产追回的律师，Digital Finance Institute联合创始人Christine Duhaime表示，“原因是，我们实现越高水平的自动化后，就越难与人类沟通问题。”
Ehrlich还指出，如果一个自动生成的决策将对客户造成消极后果，那么这需要对其有一个保护的机制。
确保决策过程中所有被用到的数据都是精确且最新的，这对企业来说是一个特别的责任，除非用户明确表示授权，同时企业在适当的时候具备恰当的技术安保措施和隐私保护政策，并且只访问特许储存的数据。
Duhaime指出，在AI中还有一个危险隐患是，该技术实则将那些无法使用计算机或移动设备的残疾人和老者排除在外了。“在这样的情况下，我们打着普惠金融的旗号，最后却将大部分客户拒之门外，我们实即也没有解决银行现存问题的能力。这只不过是制造了新的永远无法解决的银行问题罢了。”
AI系统也许也能够被应用于创造为残疾人服务的技术，“如果我们无法服务残疾市场，那么该技术在未来创造出的也许是弊大于利。”
相关文章：
Java 领域 offer 收割：程序员黄金 5 年进阶心得！
怎样才能拿到大厂的offer？没有掌握绝对的技术，那么就要不断的学习。如何拿下阿里等大厂的offer的呢，今天分享一个秘密武器，资深架构师整理的Java核心知识点，面试时面试官必问的知识点，篇章包括了很多知识点…
TCP连接的状态转换图深度剖析
在TCP/IP协议中，TCP协议提供可靠的连接服务，采用三次握手建立一个连接，如图1所示。（1）第一次握手：建立连接时，客户端A发送SYN包（SYNj）到服务器B，并进入SYN_SE…
ASP.Net中的TreeView控件中对节点的上移和下移操作
Web中的TreeView中的没有PreNode和NextNode属性。 但它的集合属性中有一个IndexOf属性，从而能够找到它的前一个节点知后一个节点。 TreeView中要么只有一个根节点；要么没有根节点，都是并列排的，这个要判断。 这里主要是用了递归&a…
大数据流通存隐忧 产业信任体系亟待建立
就在今年10月，始于美国东部的“DDoS攻击”席卷了整个美国，引起了人们对数据安全的恐慌，大数据安全问题逐渐暴露。在第三届世界互联网大会的大数据分论坛上，中国科学院秘书长邓麦村在致辞中指出，如何突破大数据关键技术…
ImageNet十年，AI数据标注如何蓬勃发展？
2016 年，AlphaGo 战胜李世石，成为新一代 AI 浪潮的重要里程碑事件。 经此一役，很多人都认识到了算法和算力对 AI 发展的重要性，确忽略了另一个重要因素：数据。 2009 年，时任斯坦福大学任助理教授的李飞飞…
关于webservice的异步调用简单实例
于webservice的异步调用简单实例无论在任何情况下，被调用方的代码无论是被异步调用还是同步调用的情况下，被调用方的代码都是一样的， 下面，我们就以异步调用一个webservice 为例作说明。这是一个webservice <WebMethod(Descrip…
理解NSAttributedString
An NSAttributedString object manages character strings and associated sets of attributes (for example, font and kerning) that apply to individual characters or ranges of characters in the string. 这句话就是对这个类的一个最简明扼要的概括。NSAttributedString…
Redis集群两种配置方式
2019独角兽企业重金招聘Python工程师标准>>> 第一种使用：JedisCluster <bean id"jedisPoolConfig" class"redis.clients.jedis.JedisPoolConfig"><property name"maxTotal" value"30" /><proper…
调用API弹出打印机属性对话框
调用api弹出打印机属性对话框 Author:vitoriatangFrom:Internet.NET Framework封装了很多关于打印的对话框，比如说PrintDialog, PageSetupDialog. 但是有的时候我们还需要关心打印机属性对话框，那么就可以调用API来解决这个问题。有几个API函数与之相关P…
Oracle DBA学习互联网化的内容
搞了多年的Oracle数据库维护，近几年来，个人感觉基本都在舒适区，技术上没啥进步。而且由于个人资料或者学习方法的限制，Oracle数据库技术上再想精进感觉事倍功半。2013年开始，去IOE的声势搞得轰轰烈烈，mysql…
离不开深度学习的自动驾驶
作者 | 小白来源 | 小白学视觉头图 | 下载于视觉中国深度学习在整个自动驾驶技术的各个部分中进行了应用，例如在感知，预测和计划中都有应用。同时，深度学习也可以用于制图，这是高级自动驾驶的关键组成部分。拥有准确的地图对于自动…
IOS -- base64编码
在iOS7以后可以用NSData自带的base64EncodedStringWithOptions进行编解码： 方法如下： - (NSString *)encodeToBase64String:(UIImage *)image {return [UIImagePNGRepresentation(image) base64EncodedStringWithOptions:NSDataBase64Encoding64Charact…
OpenCV持久化（二）
如何利用OpenCV持久化自己的数据结构？我们来看看OpenCV中的一个例子。 MyData.hpp定义自己的数据结构MyData如下: #ifndef MYDATA_HPP #define MYDATA_HPP#include <opencv2/core/core.hpp> #include <iostream> #include <string>using namespac…
Excel、Exchange和C#
摘要：Eric Gunnerson 将向您介绍如何使用 Outlook、Excel 和 C# 创建自定义的日历，该日历可以提供适用于短期项目和长期项目的清晰明了的版式。 下载 csharp05152003_sample.exe 示例文件（英文）。 虽然一月份已经过去了&#x…
这个宝藏工具，给你一种黑客般的感觉
明天要交作业了，吴检正在宿舍熬夜爆肝拼命敲代码，劈里啪啦的键盘声和咔咔的鼠标声格外嘈杂，室友陈琛瞥了一眼，背过身，沉沉睡去，留下他一人在深夜无尽的黑暗中，断断续续却又没有尽头的咔咔声中凌…
LSTM神经网络
LSTM是什么 LSTM即Long Short Memory Network，长短时记忆网络。它其实是属于RNN的一种变种，可以说它是为了克服RNN无法很好处理远距离依赖而提出的。 我们说RNN不能处理距离较远的序列是因为训练时很有可能会出现梯度消失，即通过下面的公式训…
用C#实现在PowerPoint文档中搜索文本
用编程的方式根据对象模型很容易实现在Word、Excel文档中搜索文本，在PowerPoint里面也同样如此，使用对象模型有助于我们了解office的文档结构。 搜索的思路和方法基本是一样的，用PowerPoint应用程序对象打开指定的文档，用文档对象…
雷军的最后一次 重 大 创 业
这是我人生最后一次重大创业项目。我愿意押上人生全部的声誉，亲自带队，为小米汽车而战！——雷军作者 | Carol头图 | 下载于视觉中国出品 | CSDN（ID：CSDNnews）3月29日19:30，小米春季新品发布会拉…
shell之冒号的作用
冒号： ：在shell中是一种命令，意思是总是为真，但是却不做任何操作，即总是为真的空命令eg:[rootlocalhost ~]# ${abc:t1}-bash: t1: command not found[rootlocalhost ~]# : ${abc:t1}[rootlocalhost ~]# echo $abct1[ro…
关于epel源的配置
EPEL，即Extra Packages for Enterprise Linux，这个软件仓库里有很多非常常用的软件,而且是专门针对RHEL设计的，对RHEL标准yum源是一个很好的补充，完全免费使用，由Fedora项目维护，所以如果你使用的是RHEL&am…
C#如何在Form中嵌入并且操作Excel表格
网上比较多讲述如何操作excel表的文章，但都是启动excel的窗口来打开excel数据文件。有时候需要把excel表嵌入到自己程序的form中，给客户一个不用切换窗口的操作界面，似乎更好。这在vc中用ole技术很容易实现，但是在c#中方法就不一样…
自研芯片架构 ，这家中国公司发布DPU芯片计划
近日,专注于智能计算领域的DPU芯片和解决方案公司中科驭数发布了其下一代DPU芯片计划，将基于自研的KPU（Kernel Processing Unit）芯片架构，围绕网络协议处理、数据库和大数据处理加速、存储运算、安全加密运算等核心功能࿰…
QQ超时不能刷新好友接收发送信息
如果您在其它电脑登录时正常，只在本地出现此种情况，可能与您本机的设置及网络限制有关，建议您先确保安装的是我司的官方版本，然后再搜索并删除您的QQ号码文件夹（会丢失聊天记录，请注意备份）&…
JavaStuNote 4
装箱(inbox)和拆箱(outbox) 代表了类类型和基本类型之间的转换行为。 手动版本号： Integer b new Integer(10); Int a b.intValue; 自己主动版本号： Integer b30; Integer bnew Integer(30); Int ab; int a b.intValue(); 由于基本类型…
把Doc文档转换成HTML等其它格式
利用microsoft Word 9.0 Object Library可以在页面中对Doc文档进行格式转换。有关Word对象的一些方法可以参考Open和Save。下面是进行转换的代码[C#]： /// <summary>/// WordToHtml 的摘要说明。/// 首先要添加引用：Microsoft Word 9.0 Object Li…
如何学好Python？相信很多人都做错了！
Python入门从哪开始，以我的过往经验，发现很多的教程都是这样讲的：先介绍 Python 的基本语法规则、list、dict、tuple 等数据结构，然后再介绍字符串处理和正则表达式，介绍文件等IO操作.... 就这样一点一点往下说。然而这…
艾麦捷科技-铂金小猪新年致辞
2019独角兽企业重金招聘Python工程师标准>>> 光阴似箭，2013年是匆忙的一年，艾麦捷科技从最初的“笑谈”到现在上线，招财猪进销存管理软件从无到有，到现在多次更新，无一不是在匆忙中完成的，尽管很…
C#开源框架整理
Json.NET http://json.codeplex.com/ Json.Net 是一个读写Json效率比较高的.Net框架.Json.Net 使得在.Net环境下使用Json更加简单。通过Linq To JSON可以快速的读写Json，通过JsonSerializer可以序列化你的.Net对象。让你轻松实现.Net中所有类型(对象,基本数据类型 …
提供一个基于.NET的加密/解密算法
提供一个基于.NET SymmetricAlgorithm 类的、带私钥的加密/解密算法的包装类。使用方法： symmcrypto de new SymmCrypto(SymmCrypto.SymmProvEnum.DES);Response.Write(x.Decrypting(de.Encrypting("ok","yyy"),"yyy")); 类的实现…
ubuntu修改IP
一、使用命令设置Ubuntu的ip地址1. 设置IP sudo ifconfig eth0 203.171.239.155 netmask 255.255.255.224 这样就算设置好了网卡eth0的IP地址和子网掩码2. 设置网关 sudo route add default gw 203.171.239.1293. 设置DNS 修改/etc/resolv.conf，在其中加入 nameserv…