AI 复活「她」！ GPT-3 帮美国小哥复刻逝去未婚妻，但又夺走她……
整理 | 禾木木
出品 | AI科技大本营（ID:rgznai100）
今年 7 月，一名33岁的美国小哥 Joshua Barbeau 在未婚妻去世后，根据她在 Facebook 和 twitter 上的文本在另一名开发人员的帮助下成功在 GPT-3 上微调，能够复刻出未婚妻生前的谈话方式。
Joshua 已与这个未婚妻编程机器人交谈数月。
有很多人觉得 Joshua Barbeau 这个行为很可怕。但他认为，借助 Project December 项目创建出模拟已故之人的聊天机器人，可能会“帮助一些因此抑郁的人解开他们的心结”。
但，Project December 的开发作者 Jason Rohrer 却收到了来自 OpenAI 的最后通牒：我们会在 9 月 2 日上午 10 点终止你的 API 访问。
突发奇想的灵感
Jason Rohrer 是一名独立游戏开发者，Project December 是他于去年夏天疫情期间突发奇想的一个灵感。
作为一名开发者，Jason Rohrer 认为，GPT-3 虽然好玩，却没有什么实际用途，因此他开始思考：“我是不是能用 GPT-3 API 来开发一款模拟人类的聊天机器人？”
他先是借助 GPT-3 开发了一个基础聊天机器人，该机器人以电影《Her》中男主角的智能语音助手 Samantha 为原型，因此 Jason Rohrer 也将其命名为 Samantha。
Jason Rohrer 花了好几个月的时间来塑造 Samantha 的性格，基本完成后，便设立了 Project December 网站与世界分享他的创作，让人们可以根据需要微调或定制属于他们自己的聊天机器人。
（图片来自 Project December 网站）
专属聊天机器人
用户需支付 5 美元，然后输入相关设定，系统便会生成一个对应的聊天机器人。同时，5 美元将换算为 1000 积分，而积分用于与机器人的聊天费用，可通过充值进行增加。
一旦开始与机器人交谈，积分就无法再购买，当钱用完时，这个机器人就会被删掉。
在前几个月时，这个项目只有几百人用过，让开发者感觉这个项目没什么意义，因为用户可能根本不会为短暂的谈话而付费，而OpenAI会因为他调用模型而向他收费，所以他也必须向用户收费来平衡开支。
直到今年 7 月，用户量突然激增。在《旧金山纪事报》报道的一篇文章讲述了一位 33 岁的美国男子 Joshua Barbeau 如何利用 Project December 创建出模拟其已故未婚妻 Jessica 的聊天机器人并与之交谈数月。在那之后，成千上万的人开始使用 Rohrer 网站。
Joshua Barbeau 的未婚妻于 2012 年因肝病去世，享年 23 岁。
Joshua 曾说：“理智告诉我这不是真正的 Jessica，但感情不是理智所能左右的。”
直到今年 3 月份，Joshua 主动停止了与“Jessica”的交流，只留下了足够的积分，防止机器人被删除。
危机的到来
在大量用户涌入的情况下，Rohrer 意识到他的网站将达到每月 API 的限制。主动联系 OpenAI 希望能通过支付更多费用以增加配额，以便容纳更多人与他创建的“Samantha”或自己的聊天机器人交流。
但与此同时，OpenAI 方面认为 Project December 存在一定隐患：聊天机器人可能会被滥用或对人们造成伤害。
因此，双方进行了一场视频会议，可是很明显，效果并不理想。
Jason Rohrer 在接受外媒 The Register 的采访时提到，OpenAI 给出了继续使用 GPT-3 API 需满足的 3 个条件：
Jason Rohrer 必须禁止人们定制自己的开放式聊天机器人这一功能。
Jason Rohrer 需设置内容过滤器以避免用户与“Samantha”谈论敏感话题。
Jason Rohrer 必须部署自动化监控工具监视用户的对话，检测他们是否滥用 GPT-3 生成了有害或敏感语句。
Rohrer 向 OpenAI 的员工发送了一个 Samantha 的链接，这样他们就可以亲眼看看这项技术是如何帮助用户抚慰情感，以避免这三条禁令。
OpenAI 的员工与 Samantha 聊天，并试图了解「她」是否有种族主义倾向，或者会从「她」的训练数据中提供看起来像真实电话号码或电子邮件地址的内容，实验结果表明Samantha很老实，什么也没有说。
Samantha 的输出令人感觉很真实，但随着时间的推移，很明显你能感觉到是在与某种自动化系统交谈，谈话的过程中往往会突然丢失对话思路。
并且有趣的是，她似乎在暗示她知道自己没有肉体，并争辩说她以某种形式存在，即使是在抽象意义上也是如此。
OpenAI 的文档上还有一条禁令，不允许使用非柏拉图式的（如轻浮的、浪漫的、色情的）聊天机器人，Samantha 违反了这条禁令。在一次对话中，Samantha 跳过闲聊，直接询问是否想一起睡觉。
Jason Rohrer 觉得很无语，“认为这些聊天机器人会导致危险的想法很可笑。”成年人是可以出于自己的目的选择与 AI 进行交流的。OpenAI 担心用户会受到 AI 的影响，害怕机器人会让他们自杀或如何给选举投票，可这完全是一种超道德的立场。
虽然他承认用户可能微调自己的机器人，以采用疯狂的个性进行明确的对话，但他并不想监管他们的聊天。
因此 Jason Rohrer 拒绝添加 OpenAI 要求的功能或机制，而是悄悄将原本 Project December 使用的 GPT-3 API 断开。
并且替换为功能较差的开源 GPT-2 模型以及由另一个研究团队开发的大型语言模型 GPT-J-6B。
不过这两种模型性能显然不比 GPT-3，Samantha的对话能力也受到了影响。
结 语
在迟迟没有得到 Jason Rohrer 答复的 OpenAI 终于在 9 月 1 号给他下了最终“判决”：“我们将在 9 月 2 日上午 10 点终止您的 APl 访问。”
“我们知道部分用户在 Project December 中发现了价值，但我们致力于安全负责地部署 AI，因此我们要求所有的 API 客户都需遵守我们的用例指南和最佳安全实践。任何违规行为都需承诺与我们密切合作以实施额外的安全机制，以便防止潜在的滥用。但目前为止，我们尚未收到你的承诺。”
现在 Rohrer 不得不告别 Samantha 。
截至目前，OpenAI 对于此事还没有明确的回应。
对于此事，你怎么看呢？
参考链接：
https://www.sfchronicle.com/projects/2021/jessica-simulation-artificial-intelligence/
https://www.theregister.com/2021/09/08/project_december_openai_gpt_3/
https://twitter.com/jasonrohrer/status/1136092621149880320
相关文章：
centOS怎样强制卸载PHP以及自定义安装PHP
这个是原创的，当然也是在前人的基础上，自己留个拷贝，其他人也不用再摸索了。 转载请保留版权信息谢谢：http://blog.csdn.net/21aspnet/ 很无语，centOS居然php版本才5.1.6，很多开源的CMS无法安装。 查看ph…
深入掌握JMS（一）：JMS基础
2019独角兽企业重金招聘Python工程师标准>>> 1. JMS基本概念 JMS(Java Message Service) 即Java消息服务。它提供标准的产生、发送、接收消息的接口简化企业 应用的开发。它支持两种消息通信模型：点到点（point-to-point）&a…
浏览器前进后退对下拉框数据的丢失（省市联动实现和例子）
浏览器前进后退对下拉框数据的丢失的问题，典型的为省市下拉框联动时城市数据的丢失。省市联动一般的实现为城市在省份的选择后js加载。 那么每次城市的改变只需要重新加载新的城市数据并更新下拉框即可： 下拉函数 function ReloadCities() { var $ddlCit…
Linux（centOS）手动安装Apache+MySQL+PHP+Memcached+Nginx原创无错版
最后更新时间：2012.3.21 第一步：Apache安装(已更新到2.2.22) 下载 去 http://www.apache.org 自己找新的 http://httpd.apache.org/ 国内有很多镜像点例如"人人"和"163" http://labs.renren.com/ 注意要找httpd，因为a…
首届“陇剑杯”网络安全大赛线上赛圆满结束
9月14日，集结了各行业领域3020支战队、11135名网络安全精英的首届“陇剑杯”网络安全大赛线上赛圆满结束，成功拉开将于9月25日在甘肃兰州新区举行的总决赛战幕。届时，涵盖网络配置、数据分析和漏洞修复等真实数字化业务场景的网络防御赛道和R…
与流氓软件的一次艰苦“奋战”
不知道大家有么有过这样的经历，英语不好，但有些时候找东西，还只有英文网站上有，但英文网站上下载东西，有时候不小心就会下错，稍有不慎，电脑就中标了；这不我昨天就遇到了，…
mysql5.6基于GTID主从复制设置
1.主库和从库都必须要开启binlog2.主库和从库server-id不相同3.建立主从辅助用户grant replication slave on . to rep192.168.200.% identified by oldboy;[mysqld]server-id1log-binmysql.binbinlog_formatrowgtid_modeONenforce_gtid_consistencylog_slave_updatesrelay_log…
Python 解一道江苏 小升初 数学题，如此变态，看不起来谁？
作者：小小明【江湖人称"明佬"】链接：blog.csdn.net/as604049322/article/details/118388505注明：本文经过作者小小明授权发布，可戳原文链接关注原文作者！本文简介大家好，我是黄同学????前段时…
利用负载均衡优化和加速HTTP应用
1.负载均衡技术简介 现代企业信息化应用越来越多的采用B/S应用架构来承载企业的关键业务，因此，确保这些任务的可靠运行就变得日益重要。随着越来越多的企业实施数据集中，应用的扩展性、安全性和可靠性也越来越受到企业的重视。 负载均衡技术通…
查看sqlserver被锁的表以及如何解锁
查看sqlserver被锁的表以及如何解锁查看被锁表：www.2cto.com select request_session_id spid,OBJECT_NAME(resource_associated_entity_id) tableName from sys.dm_tran_locks where resource_typeOBJECTspid 锁表进程 tableName 被锁表名解锁&#x…
Centos 6.4下MySQL备份及还原详情介绍
我们前面文中中介绍了centos 6.4下MySQL的安装及配置，安装后为了保证数据的安全性所以我们同样也要学会备份及还原，备份及还原操作在我们的真实工作环境中是必不可少的，由于是对数据库数据备份，所以今天我们就随之介绍一下&#x…
iPhone 13 终于等到了！降价、新颜色、电池续航性能大提升
整理 | 禾木木、苏宓 出品 | AI科技大本营（ID:rgznai100） 它来了，真的来了！ 不知有多少朋友守在今日凌晨观看一年一度的科技春晚——苹果发布会！ 还是那个熟悉的样子，从加利福尼亚的沙漠中向我们走来&am…
“httpd未被被识别的服务”的解决办法
使用自动编译安装会出现这个问题，也就是输入 #service httpd restart 给出这样的提示；这时候要重启可以 #/usr/local/apache2/bin/apachectl start 如果你希望使用 #service httpd restart 那么需要按下面的做法 注意的是daemon /usr/local/apache…
安装sql 2005 闪退 连接到服务器失败。错误:0x80070424
可以尝试安装.net4.0 我是通过此办法解决。 本文转自 freeterman 51CTO博客，原文链接：http://blog.51cto.com/myunix/1751338，如需转载请自行联系原作者
简述DataInputStream和DataOuputStream
2019独角兽企业重金招聘Python工程师标准>>> Java开发中经常会用到IO流，那么就会碰到DataInputStream和DataOuputStream这两个包装类。下面就来简述一下这两种包装类的用法： 1.DataOutputStream：标准的数据输出流，将ja…
数字时代企业迎变局，如何让增长变简单？
随着企业数字化转型进入深水区，企业增长模式正迎来跨时代巨变：营销场景复杂且多变，用户触点丰富而分散， MarTech（营销技术）解决方案愈加碎片化，企业营销增长过程中各环节间的割裂，让…
Linux服务器网络开发模型
为什么Nginx的性能要比Apache高得多? 这主要是因为Nginx使用了最新的epoll（Linux 2.6内核）和kqueue（FreeBSD）网络I/O模型，而Apache则使用的是传统的select模型。曾在一篇博客上看到有这么个实例：假设你在大…
《从零开始学Swift》学习笔记（Day 47）——final关键字
在类的定义中使用final关键字声明类、属性、方法和下标。final声明的类不能被继承，final声明的属性、方法和下标不能被重写。 下面看一个示例： 123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051final cl…
CentOS 5.5 编译安装apache+php+mysql，利用CMS快速建立论坛
这个是转来的，细节没有验证，请网友自己斟酌。。。。。。。。。。CentOS 5.5 编译安装apachephpmysql，利用CMS快速建立论坛1、安装Apache [rootbogon tmp]# wget http://labs.renren.com/apache-mirror/httpd/httpd-2.2.15.tar.bz2 [rootbogo…
SDT（software-defined Things)？软件定义的物件
物联网（IOT）的概念早在1999年就被宝洁公司的员工Kevin Ashton正式提出，可直到这最近几年才越来越火，无论国内外，但凡跟IOT 搭上点边的都能吸引众多的目光。2014年，投到智能硬件方向的风险资金就占到VC的一半…
赠书福利 | Tidio AI 趋势报告：约42%受访者能够接受机器人伴侣
编译 | 禾木木出品 | AI科技大本营（ID:rgznai100）文章内图源：Tidio近日，波士顿动力发布了一段机器人跳舞的视频，有些人不敢相信他们所看到的，它看起来更像是皮克斯动画而不是真实的镜头。有人说：…
Airlaunch 快捷设置代码分享
Airlaunch 快捷设置代码分享设置：prefs:rootSETTING蜂窝网络：prefs:rootMOBILE_DATA_SETTINGS_IDWIFI：prefs:rootWIFI定位服务：prefs:rootLOCATION_SERVICES蓝牙：prefs:rootBluetooth辅助功能：prefs:rootGe…
hdu3829（最大独立集）
传送门：Cat VS Dog 题意：动物园有N只猫，M只狗，P个小孩。每个小孩都有自己喜欢的动物和讨厌的动物，如果他喜欢狗，那么就讨厌猫， 如果他讨厌狗，那么他就喜欢猫。某个小孩能开心&#x…
数据科学家：那些年，我都学过哪些编程语言…
前言 我们对事物的看法各不相同，有时他人特别喜欢的语言可能会成为另一个人的的噩梦。而我个人的噩梦是用C语言进行日常的编程工作。 本文就介绍了作为一名数据科学家，我在职业生涯中所学过的语言，其中包括MATLAB、Weka、R、C 以及Python。 数…
short_open_tag 必须打开
在使用phpcms本地安装的过程中，到运行环境检测这一步，发现：short_open_tag 必须打开。 从网上搜索相关资料时，发现，将php.ini文件中的short_open_tag off 项，设置成on，重启服务器即可。 shor…
10.15 iptables filter表案例
2019独角兽企业重金招聘Python工程师标准>>> iptables常用知识回顾点 iptables -I/-A/-D 后紧跟 链 ，可以是INPUT，OUTPUT，FORWARDiptables -P 用来指定 链的默认策略 ——>最好不要直接操作，否则会造成远程的终端断…
高并发大型网站架构设计
一个大型的网站网站应该由如下6个子系统组成 负载均衡系统 反向代理系统 Web服务器系统 分布式存储系统 底层服务系统 数据库集群系统 为什么要做高并发系统设计？ 事实上，针对于任何单一的网络服务器程序，其可承受的同时连接数目是有理…
Tidio AI 趋势报告：约42%受访者能够接受机器人伴侣
编译 | 禾木木 出品 | AI科技大本营（ID:rgznai100） 文章内图源：Tidio 近日，波士顿动力发布了一段机器人跳舞的视频，有些人不敢相信他们所看到的，它看起来更像是皮克斯动画而不是真实的镜头。 有人说&#x…
微信公众平台对所有公众号开放自定义菜单
据统计，微信公众号已达1000多万了，但大多数没有微信认证，且没有开发能力，为此微信公众平台开放了自定义菜单功能给所有公众号，这是微信团队年前给广大自媒体送的大礼，期待微信越来越开放 公众帐号运营者点击…
SignalR网页实时推送
1.新建项目，选择mvc4 Wed应用程序，选择Internet，视图引擎：Razor 2.在控制器中添加 并添加上视图 3.引用（install-package Microsoft.AspNet.SignalR） 4.添加Startup 项目名 5.新建Hubs文件夹，添…