吴恩达开源大模型套件:11个模型平台一种方式调用,不到半天获1.2k星
切换模型只需改一个字符串
克雷西 发自 凹非寺
量子位 | 公众号 QbitAI
吴恩达发布的开源大模型套件aisuite,不到半天就斩获了1200+星标(同步更新时已有1.8k)。
它把11家知名大模型平台集中到了一起,统一了接口,可以用相同的方式调用不同模型。
切换模型时,只需要改动一个字符串,不用在不同的API之间摸不着头脑了。
对需要在应用当中集成多个不同模型的开发者来说,这套工具可以提高不少的开发效率。
有网友评论说,aisuite可以帮他在处理多个大模型时节省超过500行的代码。
十余家模型平台,一种方式调用
不同模型的API不尽相同,缺乏统一的调用方式,是让许多应用开发者感到头疼的一大难题。
特别是当同一个应用需要调用不同模型时,模型间的切换会耗费开发者的不少精力。
所以,aisuite设计了一个统一的调用接口,不管原模型的API是什么样,都可以用相同的方式来调用。
使用时,只需要改一个字符串,把模型平台和具体名称填入,就可以调用aisuite支持的模型。
目前,aisuite一共支持OpenAI、Anthropic等11家模型平台,具体如下:
而且其中包括了拥有海量模型的Hugging Face这样的模型平台,所以aisuite实际上支持的模型更多。
搭配Streamlit等工具,还能用aisuite构建的简单聊天UI界面。
据介绍,目前aisuite套件主要关注于聊天功能,其他用例将在未来逐步扩展。
另外从GitHub的issue当中也可以得知,aisuite套件目前比较基础,像函数调用等功能正在开发之中,将很快上线。
除了模型切换方便,aisuite的安装配置过程也比较简单。
需要准备的内容包括Python环境,以及对应模型的API密钥和支持库。
首先需要通过pip安装aisuite框架,模型支持库可以在这一步进行选装。
pip install aisuite
pip install ‘aisuite[★]’
其中★处填入想安装的支持库名称,或者填all安装所有库(外侧方括号和单引号不可省略)。
此外还需要有对应模型的API密钥,可以设置为环境变量,也可以作为配置传递给aisuite中的构造函数。
One More Thing
除了吴恩达之外,开源社区对aisuite也拥有不可磨灭的贡献。
算上吴恩达本人,aisuite的贡献者一共有六人,其余五人分别是(按姓氏字母排序):
- 在线继续教育平台CLE Hero联合创始人Ryan Prinz;
- 前谷歌Chronicle Security工程主管Rohit Prsad;
- DeepLearning.AI(吴恩达创办的在线学习平台)特殊项目负责人John Santerre;
- 在线酒水销售平台Provi高级工程师Kevin Solorio;
- Meta生成式AI工程师、原高通高级工程师Jeff Tang。
同时,这一项目也发布了贡献指南(Contributing Guide),欢迎整个开源社区帮助推动后续的工作。
GitHub:
https://github.com/andrewyng/aisuite/pulse
参考链接:
https://x.com/AndrewYNg/status/1861085482526105842
- o3挑战ARC-AGI,遇见大网格就懵圈?英国工程师:ARC-AGI不适合大模型2024-12-26
- 钛动科技陈德品:Scaling Law在营销应用中也适用,AIGC内容正在催生爆款 | MEET20252024-12-26
- 素数分布规律又有新发现!赵宇飞学生与牛津教授合作成果2024-12-22
- 突发!GPT论文一作Alec Radford离职,前两代GPT作者全部离开OpenAI2024-12-20