GPT Store都开不下去,这家平台怎么敢走这条路的??
一个让1000个大模型和20万个应用对对碰的男人
衡宇 发自 凹非寺
量子位 | 公众号 QbitAI
注意看,这个男人把超1000种大模型接入,让你可插拔无缝切换使用。
最近还上线了可视化的AI工作流:
给你一个直观的拖放界面,拖拖、拉拉、拽拽,就能在无限画布上编排自己个儿的Workflow。
正所谓兵贵神速,量子位听说,这个AI Workflow上线不到48小时,就已经有用户配出了100多个节点的个人工作流。
不卖关子,今天要聊的就是LLMOps公司Dify,及其CEO张路宇。
张路宇也是Dify的创始人。
投身创业前,有11年的互联网从业经验。搞产品设计,懂项目管理,也对SaaS有点自己的独到见解。
后来他还在腾讯云CODING DevOps团队负责产品和运营管理工作,服务超百万开发者用户的平台产品。
投身创业后,Dify迅速在他和团队的合力下成为“开源LLM应用程序开发平台”领域绝对的佼佼者,迄今在GitHub坐拥超22k星标。
这一次,借着上新AI Workflow功能,我们专门找到张路宇,和这个帮20万个AI应用接上大模型的男人聊了聊。
他说:
未来的编程,可能就是编flow。
拖放拽完成workflow设置
不久前,AI大牛吴恩达发表了一个引发广泛讨论的观点。他断言,AI agent workflow将在今年推动人工智能取得巨大进步,甚至可能超过下一代基础模型。
吴恩达视workflow为一个重要趋势,并呼吁所有从事AI工作的人都关注它。
于是Dify就趁热打铁地上线了AI workflow。(但其实Dify看到这个机会是在半年之前,这个我们待会说。)
正式上线后,它是酱婶儿的:
核心是一个直观的拖放界面。
用户可以通过连接不同的节点,在一个无限的画布上构建自己的Workflow。
没错,是“无限画布”——目前版本允许不断扩大可用节点的类型,且每个节点均可配置,用户可以为每个节点定义输入和输出,确保workflow的工作逻辑和数据流动符合预期。
也就是说,你既可以端到端地测试你的Workflows,也可以单独测试每个节点,快速定位问题所在。
值得注意的是,一些核心节点被优先支持,包括:
- LLM:选择任意一个主流的大型语言模型,并定义它的输入和输出
- 工具:使用内置的和自定义的工具来扩展你的 workflow 能够实现的功能。
- 意图分类器:让LLM对用户的输入自动分类,根据不同的类别进行工作流转。
- 知识检索:为你的LLMs挂载来自现有知识库的上下文数据。
- 代码:执行自定义的Python或Node.js代码。
- If/Else块:定义条件逻辑以创建分支的Workflows。
此外,AI workflow支持DSL的导入导出,张路宇称其为“最酷的功能之一”。
简单来说,用户可以导出自己的workflows,然后导入到其它工作区,让Workflows来去自如,同时还能根据需要再次自定义它们。
这个特性为社区内的合作、分享,以及在他人工作基础上再构建,打开了一扇窗户。
并且workflow中可以利用Dify平台的全部能力,用户已经设置好检索方案的知识库、平台提供的第一方丰富工具、自定义的工具等,都能作为其中一个节点能力编排。
可以说是和Dify生态无缝适配了。
不会把门槛降到无限低
AI Workflow上线后,Dify就有了两种应用模式。
一种是Workflow,一种则是传统的Chatflow。
“绝大多数用户会使用传统的Chatbot类型,它背后没有复杂的逻辑,基本上依靠接入的大模型的自我运作。”张路宇解释道,相比之下,Workflow会强大很多,但这不代表不能用Workflow做出聊天机器人。
这下就明了了,“workflow”虽然翻译为工作流,但其实代表的是Dify背后的运作机制。
而Dify之所以朝这样一个方向进化,原因是团队有自己的“信仰”。
我们认为,未来的编程,可能编的就是(work)flow。
据了解,Dify的下一步规划,是上线RAG的Pipeline,以及prompt的协同范式。
那么,不断给自己打补丁的Dify,到底把哪些群体视为自己的用户和潜在用户?
“假设全中国有1000万名开发者,其中有50万人现在有能力去创作、去影响别人,大模型对他们有天然的吸引力;剩下的人需要时间去理解和接纳新事物。”
有价值的、有留存的、能充分产品化的,在自己行业或技能有丰富技能的人——张路宇这么来“界定”Dify服务的主要用户群体,并称其为“真正的我们认为的专业的开发者,或者说这个有极具创造力的创新者”。
这部分群体,在所有人群中占比不超过10%。
所以,张路宇也坦白,DIfy一直做的事是降低工具的使用门槛,但门槛不会低到没有。
Dify更不会把使用门槛降为零。
我们还聊到了功能上线时间的选择。
Dify上线AI Workflow的时间并不早,去年下半年起,借着Agent概念大热的东风,不少创业公司就已经上线了类似功能。
但Dify称这个时间是主动选择的时机,在GPTs上线前,团队就对Workflow的机会有所洞察。
既想观察模型侧和产品侧的动态,又要交付完整能力,不打没有准备好的仗,“我们其实节奏故意放慢了一些。”
出身大厂,“但我离经叛道”
Dify有自己的节奏,大约和团队对自我技术的评估有关系。
当被问及是否担心大厂下场挤压市场空间时,得到的答案是正面的三个字:不害怕。
他们的理由是这样的:
一来,市场竞争似乎并没有那么紧迫与激烈。
去年5月Dify成立时,核心创始团队一直担心入场时间过晚,怕有团队先声夺人,“但事实是,没有别的团队做起来”。
二来,大厂往往是因为看到市场上有这么一个机会,供给推动,而选择押注;Dify则是因为看到切实需求才驱动研发。
不仅不怕大厂,Dify也不惧同类创业公司的力量。
张路宇表示,虽然有许许多多的现在这一波创业者,大多还是十年前的那一波创业者。这群人身上的标签,是在大厂进行过修炼。
“在打上大厂经历标签的同时,大厂部门之间写作流程复杂等,也成为了这些人固有的思维模版。”
同样在大厂呆过的张路宇,称自己是“大厂叛逆者”,标榜着自己的离经叛道——
我不归于(被思维掣肘)的那一类。我第一份工作在一个很大的游戏公司,21岁,当工程师。那时候只要我判断我做的事有价值,产品很好,我会忽略一切流程,把产品弄上线,叫偷渡上线。
这在很多公司属于违规,但我一定要做。为什么呢?如果按流程走,可能走不通;但我把它上线,用户体验后带来的价值是显著的。
这和创业一样,需要接受风险。
创业有风险,下场需谨慎,好在有一些令张路宇高兴的事情。
他说,过去一年最兴奋的事情,就是有特别多的年轻人在涌入这个行业,有无数顶尖学校的应届生愿意投身到里面来。
这群人不缺好的机会,毕业后轻松能拿下500强或大厂的高职级,但现在愿意拿非常少的钱来做大模型相关的事情。
“在以前,我们如果想招聘这样的人是很难的,甚至不知道从哪里去找到这样的简历,更别提说服他们来加入。”
“这样的人在我们公司内部有很多吗?”
“已经至少有1/3?但这个比例我认为还不够高,这些人应该成为我们的主力。”
- 国产模型指令跟随全球第一!来自LeCun亲推的「最难作弊」大模型新榜单2024-11-21
- 百度打通两大国民产品!六边形AI创作新物种「自由画布」来了2024-11-14
- AI毒液刷屏抖音小红书!闲鱼10元代生成一次,但官网其实免费2024-11-10
- 钉钉上线工单等六大场景AI助理,AI继续深入到业务中2024-11-13