寡姐怒斥ChatGPT盗用自己声音，OpenAI：已下架，但真没模仿她

克雷西 2024-05-21 14:52:47 来源：量子位

克雷西 发自 凹非寺
量子位 | 公众号 QbitAI

OpenAI的新王炸GPT-4o还没全面铺开，就摊上事了！

抓马的是，此次推出的“视频通话”功能一度被称为电影《Her》现实版，而怒斥OpenAI的刚好是给电影中AI配音的斯嘉丽·约翰逊（寡姐）。

寡姐控诉，OpenAI未经允许就在ChatGPT中使用了自己相似度极高的声音，对此感到既震惊又愤怒。

OpenAI这边则是予以否认，一边表示自己并没有模仿寡姐，但另一边还是把受到争议的声音下架了。

控诉一出，就引发了网友们的热议，本特利大学教授Noah Giansiracusa就表示，OpenAI使用和名人高度相似的声音，这种做法哪怕没违法，也是不道德的。

当然，这件事到现在还没有被实锤，OpenAI也做出了辩解，网友们认为，如果声音和名人真的只是相似的话，那就没有被禁止的理由了。

所以，OpenAI的这个新瓜到底保不保熟，下面就一起来吃一吃。

寡姐：我拒绝过奥特曼

整件事情的导火索，是在GPT-4o发布后，“实时视频通话”功能爆火，一度被称为电影《Her》的现实版。

在该功能中，ChatGPT可以同时进行看、听和说，也就是在语音对话的同时调用摄像头分析环境信息，而且过程十分流畅，就像在和AI打视频电话。

而且声音、语调甚至气息都和真人十分接近，可以选择的音色一共有五种。

引发争议的是，其中一个叫做Sky的声音，被认为听起来很像寡姐。

这个备受争议的Sky，在GPT-4o团队成员Rocky Smith的测试视频中有过展现，大家可以感受下：

寡姐则表示，自己本人和亲朋好友都觉得这个声音简直和自己如出一辙，和自己熟悉的一些媒体也这样认为。

不光声音很像，更关键的是寡姐的声明中还透露，OpenAI的确有过使用自己声音的想法。

事情要追溯到去年9月，寡姐受到了奥特曼的邀请，想要让她给ChatGPT配音，但考虑许久后，她拒绝了。

甚至直到GPT-4o发布前两天，奥特曼还联系过寡姐的经纪人，要求她重新考虑一下，结果当然是没有答应。

本以为事情就此结束，直到寡姐和周围的人听到了Sky，这个和自己高度相似的声音，她对此表示震惊、愤怒，又难以置信。

在GPT-4o发布的那天，奥特曼还发了一条推文，内容只有一个“her”，寡姐认为奥特曼这是在暗示使用和自己相似的声音就是故意的。

事后寡姐才回过味来，奥特曼在发布前两天找到自己的时候，GPT-4o肯定早就做好了（原文：Before we could connect, the system was out there.）。

忍无可忍的寡姐聘请了法律顾问，给OpenAI发去了两封信，要求对Sky一事做出解释，详细说明其创建过程。

按照寡姐一方的说法，OpenAI收到这两封信之后，才“极不情愿”地把Sky下了架。

顺便提一句，Sky虽然下架了但是按钮还在，不过如果选择了Sky的话，实际使用的声音会被替换成Juniper。

当然，这些都是寡姐一方的说法，OpenAI则表示自己并没有试图模仿她。

OpenAI的解释

收到寡姐的控诉后，OpenAI在官方推特中给出了这样的回复：

我们收到了关于ChatGPT中声音，特别是Sky的疑问，我们正在采取措施暂停Sky的使用，直到问题被厘清。

同时，OpenAI还附上了一则官网中的声明，介绍了ChatGPT中声音的选择流程。

其中就表示，Sky并没有用寡姐的声音，而是另一名专业的演员，但出于隐私保护考虑不能透露其姓名。

甚至在早些时候，OpenAI的CTO Mira Murati还对The Verge表示，ChatGPT里的声音和寡姐并不像，而且已经使用一段时间了。

至于具体的选角流程，OpenAI介绍说是与知名的选角导演和制片人合作进行招募。

2023年5月，招募正式开始，在不到一周的时间里就收到了400多份作品。

在试镜时，演员们被要求录制包含ChatGPT回复的脚本，内容涵盖旅行规划、日常聊天等。

经过试镜之后，有14人被确定为初步人选，然后OpenAI与他们讨论了对于人机AI语音交互和OpenAI的愿景。

同时，OpenAI还向候选人介绍了该技术的功能、局限性和所涉及的风险，以及OpenAI实施的保障措施，目的是让每个演员在投入该项目之前都充分了解OpenAI的意图。

最终，OpenAI选择了最终选定了Breeze、Cove、Ember、Juniper和Sky这五个人的声音，然后在6月和7月期间，让演员们飞到旧金山进行录制，并与OpenAI产品和研究团队进行面对面的会议。

9月25日，这些声音被发布到了ChatGPT。

而至于斯嘉丽提到的被奥特曼找到过，还在GPT-4o发布之前与自己联系的事情，OpenAI并未做出回应；针对OpenAI介绍的选角流程，斯嘉丽这边也还没有评论。

不过今年3月，OpenAI在发布声音合成引擎Voice Engine的时候，就有提到过采取了措施避免克隆公共人物的声音。

而出于安全考虑，Voice Engine被雪藏了一年多之后才被正式发布。

所以，OpenAI也十分清楚，克隆名人的声音就是一个雷区，但如果这次他们真的用了寡姐的声音，事情就变得有意思了。

不过尽管有争议，但研发的脚步还得继续，OpenAI总裁Brockman仍在推特上发布着语音团队的招聘信息。

推文中，Brockman写到，OpenAI正在招募工程师扩大并安全推进多模态语音模型。

总之关于这件事，可能还要让子弹再飞一会儿。在最终结果出炉之前还是理性吃瓜，就像这位网友说的：

如果OpenAI所述为真，确实没有用寡姐的声音，那么即使她本人感到担忧，也不能把这件事称之为丑闻。

但其实，这已经不是寡姐第一次对AI企业提出控诉了。

One More Thing

去年十一月，寡姐对一款名为Lisa AI的AI绘图工具采取了法律行动。

理由是Lisa未经同意使用了她的肖像和姓名拍摄了一段广告片。

广告的开头是一段寡姐在漫威电影《黑寡妇》幕后的片段，然后屏幕转变成人工智能生成的与演员相似的照片。

接着，一个模仿寡姐的假声音开始说话，对Lisa AI进行了宣传。

最终这段广告当然没有逃过被下架的结局，但和OpenAI“打擦边球”相比，Lisa AI的做法已经属于贴脸开大了。

参考链接：
[1]https://openai.com/index/how-the-voices-for-chatgpt-were-chosen/
[2]https://www.bloomberg.com/news/articles/2024-05-20/openai-to-pull-johansson-soundalike-sky-s-voice-from-chatgpt
[3]https://variety.com/2024/digital/news/scarlett-johansson-responds-shocked-angered-openai-chatgpt-her-1236011135/
[4]https://www.theverge.com/2024/5/13/24155652/chatgpt-voice-mode-gpt4o-upgrades