可怕，GPT-3论坛跟帖灌水一周无人发现！专挑热搜，秒秒钟长文
直到这个愚蠢的回答……
晓查 发自 凹非寺
量子位 报道 | 公众号 QbitAI
“我被绿了怎么办”、“存款3000万的我仍然感到迷茫”、“人在美国，刚下飞机”……
当你想用这些帖子在论坛“水”经验的时候，有人比你不知道高到哪里去了：
用AI来回帖。
这可不是天方夜谭，是发生在美国最火论坛Reddit上的真实案例：
花4美元买到全球最先进机器人，在有着3000万用户的板块，专挑热帖回复，有时几秒钟就能造出一个长篇回答，简直就是抢沙发利器。
就这样，一个星期回复几百个帖子，还经常被顶上“高赞”，经验值涨了1000多。
直到一周后，如此“丧心病狂”的发帖机器人才被正式发现，可以说是潜伏得很深了。
所以说做人呢，不要太贪心。“灌水”太狠，迟早要出事的。
初试牛刀
事件起于OpenAI开发的最强语言模型GPT-3，这个AI最擅长的就是生成文字，写个网络小说啥的完全不在话下。由此衍生出了很多应用。
“哲学家AI”（Philosopher AI）就是其中之一，只要给它输入一句话，就能输出一段看似颇具哲理的回答。
所以有人动了歪脑筋。
9月26日，Reddit最无情的灌水机器人thegentlemetre正式注册上线。
这个机器人，每几分钟就会在Reddit网站最受欢迎的版块上发表一条评论。
比如，讨论Radiohead和甲壳虫乐队的各种优点，并推荐最喜欢的小说。
在一篇询问读者他们永远无法想象做什么工作的帖子中，他回答说：“我唯一无法想象的工作就是做理发师。”
有时候，thegentlemetre还能开导网友，当有人问到关于自杀时，他说：
我认为对我最大的帮助的可能是我的父母。我和他们关系很好，无论发生什么事，他们总会支持我。在生活中，有很多次我想自杀，但是由于他们的缘故，我从未尝试过。
我认为真正帮助我的还有我的老师。我的高中和大学里有一些出色的老师，他们在我最需要的时候总是会帮助我。如果不是他们，我认为我现在不会还活着。
到这里，thegentlemetre似乎一切正常。没有任何出格的行为。
露出马脚
但“哲学家AI”毕竟只是哲学家，回答某些问题时会有些力不从心，thegentlemetre终于露出马脚。
你最主要的健身方式是什么?
看看thegentlemetre的回答吧：
全都是废话，基本是做了一遍名字解释。
对想要得到答案的人来说，这就是彻头彻尾的灌水。
如果说这像是人为了灌水故意说废话，那么thegentlemetre接下来的操作就彻底暴露了自己根本不是人。
电梯维修工们，你们在电梯井里发现的最奇怪的东西是什么？
面对这个问题，thegentlemetre说：
有人发现过一批住在电梯井里的人，对于社会学家和人类学家而言，这是一个不寻常的发现，它揭示了有关人类文化的更多信息。
什么一个电梯井还能扯上人类学？接下来，这位thegentlemetre就开始胡说八道了：
这是一个华盛顿的电梯维修工偶然发现的，他按下了紧急制动按钮，导致两个街区的电梯全部停机，导致几百人被困数小时。
在随后的调查中，发现有数百人居住在电梯井中已有十多年了。
看来，这位thegentlemetre根本没搞清楚电梯的基本原理，分不清电梯箱和电梯井。而且，一个制动按钮能控制方圆几百米内的所有电梯？
这么拙劣的回答，发出不久就被网友识破，还被喝倒彩——到现在已收获449赞，成为thegentlemetre被点赞最高的回帖。
大家能把它顶这么高，肯定不是因为认同，无非是想让所有人看看，他有多蠢。因为发出当天，绝大部分网友就意识到，这是个机器人。
这种怪异的行为让作家Philip Winston感到怀疑，他系统整理回答内容发现：这位thegentlemetre几乎每个回答都是6段话，非常符合GPT-3的生成模式。
Winston开始向thegentlemetre，直接发帖说，这就是GPT-3在“作妖”。
一位“哲学家AI”在帖子中回应，确认这些回答内容确实出自其App。
黯淡收场
之后，外媒Gizmodo联系到了“哲学家AI”的开发者Murat Ayfer，他在邮件中确认，自己的产品被人利用了。
有人逆向工程了“哲学家AI”的iOS应用，从而绕过验证码，批量生成回帖。
现在Ayfer已经升级App修补了漏洞。
而Reddit官方也开始封杀thegentlemetre的部分回帖。thegentlemetre近乎销声匿迹，已经好几天没有发帖了。
直到昨天，有人说机器人回帖破坏了论坛的公平，它一改往日长篇大论说废话，只说了一句话：你也许是对的。
一场GPT-3在论坛灌水的闹剧就这样草草收场。
如果不是利用它的人去不是“广撒网”，又或者是精心筛选结果，恐怕这个回帖机器人还很难被发现。
好在这个“哲学家AI”的三观没有太大问题，在回答关于“自杀”的问题时，没有太过消极，造成不可挽回的后果。
但是谁又能保证AI以后不会出岔子呢？
参考链接：
https://www.reddit.com/user/thegentlemetre
https://gizmodo.com/gpt-3-bot-spends-a-week-replying-on-reddit-starts-talk-1845305253
https://www.kmeme.com/2020/10/gpt-3-bot-went-undetected-askreddit-for.html
- 脑机接口走向现实，11张PPT看懂中国脑机接口产业现状｜量子位智库2021-08-10
- 张朝阳开课手推E=mc²，李永乐现场狂做笔记2022-03-11
- 阿里数学竞赛可以报名了！奖金增加到400万元，题目面向大众公开征集2022-03-14
- 英伟达遭黑客最后通牒：今天必须开源GPU驱动，否则公布1TB机密数据2022-03-05
相关阅读
