马斯克版ChatGPT背后开发工具上线！xAI产品两连发，网友：交付速度太疯狂
“帮助开发人员改进和理解大模型的工具”
鱼羊 发自 麦蒿寺
量子位 | 公众号 QbitAI
马斯克版ChatGPT才刚吸引一波眼球，xAI第二款大模型产品就突然登场了！
就在刚刚，马斯克旗下xAI官宣：推出PromptIDE。
一个用于提示工程和可解释性研究的集成开发环境。
xAI表示，他们打造PromptIDE的最初目的，是加速其聊天AI机器人Grok的开发——
根据官方透露的信息，刚刚开启内测的Grok是xAI创始团队11人爆肝2个月打造的。
而PromptIDE紧跟着Grok推出，如此快速的产品发布节奏，也让网友们不由惊呼：
xAI团队的交付速度太疯狂了！
那么，PromptIDE具体有什么用？一起来看。
什么是PromptIDE
PromptIDE的主要功能包括：
- 用于提示工程的集成开发环境
- Python代码编辑器和用于高级提示技术的SDK
- 可视化分析功能
先来看其核心组成部分，即Python代码编辑器+SDK。
官方提到，基于SDK，用户可以在PromptIDE里“优雅地”实现复杂的提示技术。
比如，使用prompt()函数手动将token添加到上下文中，或者使用sample()函数根据上下文生成token。
Python代码编辑器是在单独的Web Worker里运行的。多个Web Worker可以同时跑，也就是说，开发者可以并行执行多个提示。
另外，复杂提示技术还可以通过在同一个程序内使用多个上下文来实现。这套操作主要是通过@prompt_fn装饰器来完成。
这样做的好处是，能够设计一些更具挑战性对话实验，让聊天AI能理解和回答更加复杂的问题。
再来重点关注一下PromptIDE的可视化分析功能。
在执行提示时，用户可以在这个IDE中看到详细的token分析，也就是能更清楚地get模型到底在输出些什么。
从上图中可以看到，窗口会显示上下文的精确分词（tokenization）和每个token的数字标识符。
单击token，还可以看到这个token更为详细的分析信息。
其他方面，在PromptIDE中使用user_input()函数，界面中会弹出一个文本框，让用户能够实现交互式提示。
这使得快速搭建一个聊天机器人成为可能，只需要四行代码：
await prompt(PREAMBLE)
while text := await user_input(“Write a message”):
await prompt(f”<|separator|>nnHuman: {text}<|separator|>nnAssistant:”)
await sample(max_len=1024, stop_tokens=[“<|separator|>”], return_attention=True)
另外，PromptIDE还支持上传文件（每个文件最多5MiB，总大小不超过50MiB）。
更多细节，可以参考xAI官方博文。
简单总结起来，正如马斯克自己所说，PromptIDE是“帮助开发人员改进和理解大模型的工具”。
目前，已经尝鲜Grok的盆友，也可以获得PromptIDE的体验资格。
这里再放一下Grok的体验渠道：
- 有蓝勾认证的账号，可以到xAI官网排队；
- 订阅16美元/月的 Premium+服务，内测结束后会开放使用。
参考链接：
[1]官方博文：https://x.ai/prompt-ide/
[2]https://twitter.com/xai/status/1721568361883279850
- 0元起步打造你的AI搜索！实测秘塔知识库新功能，竟能指导我升职加薪了2024-11-11
- o1满血版泄露！奥数题图片推理手拿把掐，奥特曼上线剧透o22024-11-03
- 科研版AI搜索来了！知乎直答接入正版论文库，一手实测在此2024-11-01
- 微软清华改进Transformer：用降噪耳机原理升级注意力，一作在线答疑2024-11-03
相关阅读
