提示工程夭折？MIT斯坦福让大模型主动提问，自己搞懂你想要什么
AI反向提示人类
明敏 发自 凹非寺
量子位 | 公众号 QbitAI
我就说嘛，提示工程正在消失，这篇新研究即可解释原因。
AI圈百万粉丝大V的一条推特，可把大家给惊到了。
要知道，提示工程可是ChatGPT趋势中的大热词。由它衍生出的新岗位提示工程师年薪可高达几十万美元，“未来人人都要学会提示工程”的观点更是引发热议……
结果现在，提示工程就开始消失了？？？
而且有理有据。
博主伊森·莫利克提到的这篇论文，由MIT、斯坦福和Anthropic（Claude2打造者）共同提出。
论文提出了一种新型的机器学习框架，能让大模型学会主动向人类提问，自己搞明白用户的偏好。
他们使用GPT-4进行实验，结果发现和提示工程、监督学习等方法比，在这个框架的辅助下GPT-4在多个任务上更懂人类了。
如果大模型能更容易揣度出人类想啥，也就意味着人类自己不用绞尽脑汁表达自己的想法了。
所以伊森·莫利克觉得，这不就不用每个人都去学习提示工程了么？
有网友补充说，这是不是说某种程度上，我们未来是不是可以不用语言和LLM进行交流。让大模型通过提问来弄清楚我们在想什么，这真是一个巨大的进步。
让AI来提示你
具体来看，这项研究提出了一种新型学习框架GATE（Generative active task elicitation）。
它能基于大模型本身的能力，来引出、推理人类用户的喜好。
研究团队将这称为一种更主动的方式，具体表现形式就是让大模型来对用户提问，以让人类的偏好想法能更加明确地被表达出来。
对应来看，监督学习和提示工程都属于被动的方式，监督学习和少量主动学习还要基于示例。
为什么要“反客为主”提示人类？
因为人类给出的提示存在局限性，不一定能准确完整表达出自己的喜好。
比如很多人都不懂提示工程；或者在提示过程中提供了存在误导性的资料……这些都会导致大模型表现变差。
论文中列举了一个例子。假如一个用户说自己很喜欢读网球相关的文章，对网球巡回赛、发球技术感兴趣。但是从他提供的文章参考里，无法判断他是否对网球方面的其他话题感兴趣。
所以，如果大模型能学会一些提问技巧，就能将用户的偏好锁定在更小范围内。
本项研究让大模型尝试了多种提问方式，比如主动生成用户标注的样本、是非类提问、开放式提问等。
主要测试的任务为内容推荐、道德推理和邮箱验证。
结果显示，在三项任务中，GATE包含的办法效果都优于其他方法。
使用这一框架的大模型，使用起来也不那么“烧脑”了（如下左图）。
以及这种方法的引入也不会影响人类用户本来的偏好（如下右图）。
作者认为更大的模型可能是更好的引导者，实验中他们使用的是GPT-4。
如医疗、法律等需要做出复杂决策的领域，会是GATE框架未来拓展的方向。
本项工作由MIT、Anthropic和斯坦福学者联合推出。
“我们现在仍依赖提示工程”
而以这篇研究为核心，也引发了一波关于提示工程的讨论。
并不是所有人都赞同“提示工程正在消失”这一观点。
另一位AI圈大V elvis就表示，这篇研究和之前那些研究人类偏好的工作没有太大不同，我们现在还是要依赖提示工程。
我不认为“理解人类意图/喜好”会导致提示工程消失，除非LLM训练和工作的方式发生系统性变化。
也有人觉得提示工程只是会从前端消失，形式上发生改变。
还有人提问，要是提示工程消失了，那花重金雇佣提示工程师的人可咋办？
不过回到研究本身，的确提示工程对于很多人来说还是有难度，有网友觉得，这是阻碍很多人拥抱ChatGPT的一大原因。
你觉得呢？
论文地址：
https://arxiv.org/abs/2310.11589
参考链接：
[1]https://twitter.com/emollick/status/1715022305925984296?s=20
[2]https://twitter.com/iScienceLuvr/status/1714947314375372999?s=20
- 智平方郭彦东:具身智能产业化成败在”物理世界大模型”工程化能力2024-12-26
- 业界首次！一个端到端原生机器人大模型搞定100+灵巧手复杂操作2024-12-26
- Ilya宣判后GPT-5被曝屡训屡败，一次训数月，数据要人工从头构建2024-12-22
- Sora开服被挤爆！支持中文/编剧模式/作品分享，145块就能玩2024-12-10
相关阅读
