苹果禁用ChatGPT，为防机密泄露！大模型版Siri即将升级推出
Copilot也不行
明敏 杨净 发自 凹非寺
量子位 | 公众号 QbitAI
前脚ChatGPT刚刚上线iOS嗨翻全球，火速霸榜APP Store；
后脚却曝出消息——苹果自家员工不能用ChatGPT，而且已经好几个月了。
这事儿马上引发巨大讨论。
要知道，从ChatGPT趋势到来后，苹果就几乎保持“隐身”，好不容易iPhone拥抱ChatGPT了，现在好像又泼了盆冷水。
有人已经开始嘲讽：
苹果是害怕员工发现AI真的有用吗？
所以他们要用自己的？最好别像Siri那样。
诶？还真说不定。
借着这次大新闻，苹果研究自家大模型的消息也不胫而走，而且Siri也将很快上线AI新功能。
最新库克公开表态：生成AI技术潜力很大，但有问题需要解决，也侧面印证了他们的AI进展。
所以苹果不是不搞，或许只是发布时间没到。
担忧数据泄露
据《华尔街日报》消息，苹果禁止员工使用的包括ChatGPT和Copilot。
知名苹果产品追踪记者也在推特上进一步爆料，ChatGPT在苹果员工禁用名单上已经好几个月了。
会有这样的决策倒也不稀奇。
一方面，ChatGPT本身在数据使用方面一直备受争议。
最初，除了API用户以外的所有用户聊天记录，都会被用来训练和提升模型性能，这意味着用户数据有被泄露的风险。
事实上，今年3月确实发生这样的意外事故。
一个bug导致一些用户的对话标题泄露，其他人能在自己的界面上看到这些信息。当时这个bug一度导致ChatGPT临时关闭。
上个月，OpenAI正式推出新规定，以进一步保护用户数据安全：
用户可以通过关闭聊天记录功能，来避免自己的个人数据被官方拿去训练。
另一方面，出于安全方面的考虑，不少大型企业都出台相关政策要求员工不要使用ChatGPT。
如亚马逊在1月就要求员工不要将代码输入ChatGPT，此前有消息称，它们发现了ChatGPT会模仿亚马逊内部代码。
摩根大通在2月限制全球员工使用ChatGPT，原因是出于合规方面的考虑。
还有更加离奇一些的，三星曾表示20天内因ChatGPT发生了3起数据泄露事故。
而一直以强调安全著称的苹果，做出类似举措也就合情合理了。
毕竟一旦员工不小心将机密项目的信息输入系统，这些内容就可能泄露给OpenAI。
还有人表示，ChatGPT的输出结果还是有出错的可能，或许会导致bug产生、数据漏洞等，所以大公司禁止使用也合情合理。
不过，ChatGPT爆火几个月以来，它在工作效率、工作创意上的提升是不可否认的。
很多人都将它加入到了自己的工作流，包括陶哲轩这样的大佬。
最初明令禁止学生使用ChatGPT的纽约公立中学，也在这两天内取消禁令。
所以不免有人担心，苹果这样封闭ChatGPT，是否会扼杀自身的创新能力。
值得一提的是，曾经禁止员工使用ChatGPT的亚马逊，近期也加入了大模型浪潮，发布自家大模型平台。
这也开始让人猜测，大厂不是不拥抱ChatGPT，只是要拥抱自己的ChatGPT？
事实上，苹果的最新语言大模型，真的有消息了。
Siri被曝很快上线新AI功能
据9to5Mac爆料，Siri将很快上线新的AI功能。
新技术代号为Bobcat，早在今年3月就被爆出已经在进行测试了——
首先是在最新tvOS 16.4 beta上测试，新框架叫做Siri Natural Language Generation（Siri自然语言生成）功能，之后这一功能进入到苹果的其他操作系统中。
但爆料显示只不过是实现了在Apple TV上与Siri讲笑话。除此之外，还在试验如何将语言生成用于计时器。
与此同时，这一新项目的领导人也被爆出。
John Giannandrea，目前是苹果负责机器学习和AI战略的高级副总裁，直接向库克汇报。
他早在2018年就加入苹果，负责监督整个公司的AI和ML战略以及Core ML和Siri技术的开发。在加入苹果之前，他曾在谷歌呆了八年，领导机器智能、研究和搜索团队。
而就在最近的投资者电话会议上库克表态，也侧面证实了他们在做相关的研发，只不过发布时机还没到。
此前，就有苹果员工曾抱怨Siri工作效率低下。Siri之所以逐渐走向没落，是因为内部团队混乱、决策缓慢、代码笨重，导致在Siri和AI开发上受到严重阻碍。
更本质的原因，还在于技术研发和判断上。
比如现在ChatGPT所展现的核心功能和技术，就曾被苹果高管否决过。
就像长对话能力，他们认为会导致对话容易失控，而且“很花哨”。
为了防止Siri胡言乱语，苹果选择让人工团队预先写出答案，并且还多次拒绝允许用户对Siri回答问题进行反馈，导致开发团队无法理解模型的局限。
虽然不能肯定苹果禁用ChatGPT，与自身开发AI工具有关。
但是苹果Siri上线新AI功能，想必也是不少人所期待了。
参考链接：
[1]https://www.wsj.com/articles/apple-restricts-use-of-chatgpt-joining-other-companies-wary-of-leaks-d44d7d34
[2]https://9to5mac.com/2023/05/18/apple-bans-employees-from-using-chatgpt/
- 多个中国团队斩获EMNLP’24最佳论文！UCLA华人学者中三篇杰出论文，明年顶会落户苏州2024-11-15
- 把Runway、Luma们一锅端了！这款视频模型上“杀手级”功能：一致性魔咒终于打破2024-11-14
- 灵宝CASBOT首款人形机器人发布，会做家务，续航超过4小时2024-11-14
- 彩云小梦V3.5上线！首个基于DCFormer架构通用大模型发布2024-11-13
相关阅读
