16家头部大模型公司上海神秘碰头,现场人挤人人人
云计算一哥开大会,却被大模型公司们挤爆了
金磊 明敏 发自 上海
量子位 | 公众号 QbitAI
挤爆了,简直要被大模型公司们给挤爆了。
来感受一下这个feel:
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/e9808e89287ecca4a1a0176cfcf0c772.png)
毫不夸张地说,国内外叫得上来的大模型公司基本上都来了——
Anthropic、Meta、Mistral.AI、Stability.ai、月之暗面、智谱AI、百川、MiniMax……
到底是什么样的事情能让它们纷纷聚集到了一起?
不卖关子,这正是“云计算一哥”亚马逊云科技所举办的中国峰会,整场活动的关键词就是大热的生成式AI。
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/0e1a5bd3712ba1fac984d0b6c3b4a687.png)
不过有一说一,自打AIGC大战开局以来,全球科技巨头如谷歌、微软、OpenAI等一直呈现出你追我赶的态势。
而亚马逊云科技的“出镜率”似乎并没有它们那么高,但这场活动又为何会引来如此多的厂商和围观群众?
其实在深入了解和体验一番之后,我们不难发现,亚马逊云科技在AIGC这件事上已然是“全栈+全能”的状态了。
已经可以上岗的AIGC应用
之所以说是全栈,是因为亚马逊云科技的能力已经覆盖到了生成式AI最为关键的三大层面,即:
- 算力层:用于基础模型训练和推理的基础设施
- 模型层:使用基础模型加速生成式AI应用构建
- 应用层:开箱即用的生成式AI应用
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/fc21fc9a80877667224f7d08122ec189.png)
至于能力如何,我们直接来看下最为直观的效果。
在生成式AI应用方面,亚马逊云科技面向企业和开发人员所推出的是生成式AI助手——Amazon Q。
它相当于给企业配备了一个量身定制的AI专家,可以根据企业既有的人员、角色和权限对每个用户交互进行个性化的定制。
例如用上Amazon Q Developer(开发者版),编程这件事就只需简单的“点点点”和“提要求”。
以功能开发和代码转换为例,开发者只需要向Amazon Q描述想要的新功能即可,然后它就能自己进行规划、执行和迭代:
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/a408852df958d5cceff353c05f156ca4.gif)
而且Amazon Q还会根据任务的内容,动态地分配最合适的大模型,让性能做到Pro Max。
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/3f0965f0559556dc9de83c0e2aba447d.gif)
再如Amazon Q Business(企业版),同样也是只需要简单的语言输入,就能帮助员工简化任务、加速决策。
例如员工可以根据公司已有但分散的数据信息,让Amazon Q来做整理和分析的工作,从而给员工答疑解惑、增加工作效率:
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/3d00bf8b58dce9f83da07a3ec0f90afb.gif)
诸如整合分析、撰写报告和制作PPT文稿等工作也是不在话下:
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/dc1350e8bb915a5e67e9b7b4e4555029.gif)
除此之外,亚马逊云科技为了让提高效率这事更上一层楼,还推出了Amazon Q Apps,它是Amazon Q Business中的一项功能,可以让员工能够迅速且安全的基于企业信息创建、分享应用程序。
而且Amazon Q Apps是无需任何编程经验、可以基于历史对话、自动化的那种。
例如一个HR如果要创建一个新人的入职30天计划,就只需要向Amazon Q Apps“喂”员工姓名和工号即可。
而整个过程,也只需要短短几秒钟的时间!
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/3ab15919196e4cf9ee3e3851a5bfaac6.gif)
在数据分析处理方面,亚马逊云科技则是将Amazon Q集成到了QuickSight中。
以往生成一个商业智能仪表盘可能需要数个小时的时间,但现在,几分钟就可以搞定了。
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/4114c177ff36c4edba3d29e7de71591f.gif)
而且所有员工都可以根据这样可视化的数据内容,向Amazon Q提出自己的问题,让复杂的数据分析任务变得简单且高效。
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/c15417b0d84e0cbe8a499bdd910ac630.gif)
总而言之,纵观Amazon Q的效果和能力,亚马逊云科技主打的就是用生成式AI的力量把繁琐复杂的工作任务变得简单,简单,再简单。
但Amazon Q之所以能在企业场景做到如此方方面面且丝滑,离不开背后大模型的能力。
不会有一个大模型一统天下
亚马逊云科技的大模型能力对外输出,主要依靠处于模型层的Amazon Bedrock。
它是亚马逊云科技正式加入大模型浪潮竞争的标志,也是亚马逊云科技和微软OpenAI正面硬刚的关键。
基于Bedrock打造的生成式AI应用,已经多达数十种,让人看得眼花缭乱。
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/00e5540c6c0d22a9b7e374dc8f49a19f.gif)
简单理解,Bedrock是一个集成了多种先进AI大模型的平台,只需单个API,就可以提供包括Claude、Mistral、Llama、Stable Diffusion、自研Titan系列在内30个模型的能力。通过提供预训练、微调、知识库、RAG、模型评估等功能,能够灵活定制大模型或应用。
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/e1fce9192adc9459363665fb368a3e05.png)
亚马逊全球副总裁、亚马逊云科技大中华区总裁储瑞松在峰会上表示,亚马逊云科技一直认为“不会有一个模型一统天下”,企业有从多个大模型中做选择的权力。
因此,在Bedrock上被放置了数十个业界领先的大模型供企业选择。包括和GPT-4并驾齐驱的Claude 3、主打开源的Llama系列和Mistral AI、以及图像生成方面的Stable Diffusion。
同时还包括亚马逊云科技自研的Titan系列,目前已陆续推出7个模型,能力范围包括文本摘要检索生成、图像生成、RAG、思维链、问答、搜索、个性化、推荐等。
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/702f22ae90155586d58631c857e62de0.jpeg)
具体能力上,Bedrock重点关注4个方面:
- 丰富灵活的模型选择
- 轻松定制模型
- 简化AI应用集成
- 保障隐私安全
最首要的,构建生成式AI应用关键的一步是找到合适的模型。
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/25ae7dbe4c4dea51121b41d8d2d38fc3.png)
Bedrock提供了业内最广泛的模型选择,并推出Model Evaluation功能,支持企业快速分析和比较不同模型。
一般需要企业先给出评估标准,比如对准确性、鲁棒性的要求,并上传自有数据集/提示词库,或者从Bedrock内置的、公开可用的资源中选择。一些主观或需要细致判断的的评判内容,平台会引入人工审核,根据特定应用场景的指标进行评估。
完成设置后,Bedrock便可开始评估并生成报告,最短仅需几个小时,企业就能找到适合自己的模型。
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/16b844419a43fb8cd54ef95057f6ca60.png)
在选择好模型后,企业可利用专有数据,通过RAG、提示词工程或微调来定制对应大模型功能,以创建私有模型。
比如针对Command R、Llama 3、Titan Text Lite等模型,只需简单几步即可进行微调。如果选择了Titan Text模型,还能对未标记的数据持续预训练,以更适应对应行业和领域。
Bedrock知识库可自动执行完整的RAG工作流程,包括摄取、检索、提示词增强和引用。
同时,Bedrock还推出了自定义模型导入(Custom Model Import)功能。企业现在能将自己定制模型导入到Bedrock中,以完全托管的API形式进行访问。由此,自定义模型可以方便地被集成到现有应用程序和工作流中,并同样得到隐私安全保护。
目前Bedrock专有模型导入功能已推出预览版并支持Flan-T5、Llama和Mistral三种开放模型架构。
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/4d42a9b133a6ff28ad42ac42fcf313a8.png)
模型推理方面,Bedrock Batch支持有效执行大量数据的模型推理任务,可在大规模推理任务中避免限流问题,无需编写代码即可处理故障并重启,适用于基础模型及用户自定义模型。
AI应用层面,Bedrock Agents功能支持构建基于企业系统和数据来执行任务的Agent。使生成式AI应用能够使用自然语言来执行多步骤的业务任务。
包括利用LLM使用自然语言进行交互和相应;任务拆分和编排;通过动态调用API完成任务执行;追踪基础大模型思维链流程并优化底层Agent的提示工程。
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/accc502a56faa1b5f17271e10ff6b786.png)
比如使用Bedrock构建一个AI造型师,效果大概会是酱婶儿的。
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/f0f80baf60f5156ff0d3e25b80c8a27b.gif)
最后在安全隐私保障方面。Bedrock的Guardrails功能在基础模型的原生能力之上提供了安全保护,可阻挡85%有害内容。
企业只需通过自然语言来定义不予显示的内容,就能快速创建一个Guardrail。同时还可设置阈值以过滤带有仇恨羞辱、暴力、攻击性等内容,并移除任何个人信息和敏感信息。
这一功能可用于Bedrock上的所有大模型,并且能与微调、Agent功能结合使用。
总结来看,Bedrock以企业定制大模型为出发点,提供模型选择、定制、应用开发、安全保障等一系列功能,使各行各业能更加简单方便用上大模型。
在正式推出1年之后,Bedrock为亚马逊云科技带来的增长和影响已经在具体数据直观体现:
亚马逊2024年第一季度财报显示,亚马逊云科技收入连续两季度加速增长,运营利润率创下历史新高,达到37.6%。
为啥能增长如此迅速?亚马逊云科技的最强基本盘——算力基础设施,为其提供了最关键的保障。
还有“云计算一哥”的看家本领
基础设施一直都是亚马逊云科技的强项。
2023年第四季度数据显示,亚马逊云科技依旧是“云市场一哥”,拥有全球31%市场份额。
全球1000家独角兽中,超过80%都使用亚马逊云。目前亚马逊云科技的年化收入已经超过1000亿美元,并且还在以17%的增长率增长。
在前大模型时代,亚马逊云科技构建了服务全球245个国家和地区的基础设施建设、超过200大类的云服务,过去十余年中已服务全球数百万客户。
其底层算力构成主要由两部分构成,可以为企业提供高性能、高性价比、低功耗的算力选择:
- 和英伟达密切合作
- 持续投入自研芯片
一方面,亚马逊云科技和英伟达的合作已经长达13年,二者保持长期的战略合作关系,曾共同推出了世界上第一个GPU Cloud实例。
在披露的最新进展中,亚马逊云科技将推出基于英伟达最新一代Blackwell架构GPU的Amazon EC2(Amazon Elastic Compute Cloud),以加速构建及运行数万亿参数大模型的性能。
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/38ee839689cdf92beba97a5fbeb22329.png)
同时将提供首款搭载英伟达Grace Hopper超级芯片的云AI超级计算机,以及首款采用英伟达GH200 NVL32的NVIDIA DGX Cloud。
另一方面,在算力瓶颈愈加明显的环境下,亚马逊在很早期便开始自研芯片。
2019年亚马逊云科技推出了高性能机器学习推理芯片Inferentia,2020年底又推出了定制机器学习训练芯片Trainium。
目前最新一代用于AI训练的Trainium 2可支持千亿、万亿级参数大模型训练。与上一代相比,其训练性能提高4倍,能效功耗比提高2倍,内存增加3倍。
一个Amazon EC2可部署多达16个Trainium 2,相较于部署同类芯片的EC2,部署Trainium 2的可节省50%训练成本。
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/7c81281926b9ef4bf06ff860d8283428.png)
用于AI推理的Inferentia 2专门针对千亿参数大模型进行优化,与上一代相比,计算性能提高3倍,内存扩大4倍,吞吐量提高了4倍,延迟降低至1/10,并可支持大模型分布推理。
Inferentia 2是Amazon EC2中首个推理优化实例,可通过加速器之间的超高速链接支持横向扩展分布式推理。
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/2ea49caa91087c02a44c4d4c7d7d107d.png)
搭配SageMaker Hyperpod和SageMaker Jumpstart, 可进一步加速基础模型推理与训练。
前者可简化大模型基础训练的过程,后者则提供了一个机器学习中心,通过提供一系列基础模型,让用户无需自己从头构建和训练模型,进行快速训练和部署。
现在亚马逊云科技还在不断拓展中国区域SageMaker Jumpstart中的基础模型种类,引入领先的中文基础模型。亚马逊云科技在中国峰会2024上宣布,由百川智能提供的基础模型Baichuan2-7B即将登陆中国区域SageMaker JumpStart,由零一万物提供的基础模型Yi-1.5 6B/9B/34B正式登陆中国区域SageMaker JumpStart,在为中国企业提供丰富模型选择的同时满足了企业对安全合规、快速扩展、免运维的需求。
作为首批登陆中国区域SageMaker JumpStart的中文基础模型,Baichuan2和Yi-1.5与亚马逊云科技托管服务深度集成,助力中国企业应用一流的生成式AI技术实现本土创新与业务转型。
如上多个方面,共同构成了亚马逊云科技的底层算力建设,更为其生成式AI全栈架构提供扎实底座。
在生成式AI大潮下,亚马逊云科技提出,未来真正能创造最大价值的将是生成式 AI 的行业应用。如金山办公、沐瞳科技、涂鸦智能、礼来科技等拥抱大模型的厂商都选择与亚马逊云科技合作。
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/99dcdc8501630e73dda29aaaff92f1ac.png)
其中,礼来制药是一家全球跨国药企。去年开始,他们重点布局打造以生成式AI为核心的AI基础能力。基于亚马逊云科技提供的生成式AI云服务,他们快速打造了员工聊天问答机器人、医学文献引用验证、竞品及市场推广分析、基于医学内容的FAQ生成。
实际上,这也是亚马逊云科技一直以来强调的路线与理念。
他们提出,企业应用是行业应用未被泛化的一个个实例。
而亚马逊云科技当下要做的,就是成为企业构建和应用生成式AI的首选,以推动各个行业真正意义上拥抱生成式AI大潮。
![16家头部大模型公司上海神秘碰头,现场人挤人人人](/wp-content/uploads/replace/d6d4bed224f80f107fdd2cef6787b12c.png)
从宏大远景到具体行动,亚马逊云科技的生成式AI战略已然全盘托出。
那么当下,也就到了重新审视亚马逊云科技的时刻。
AIGC时代,如何评价亚马逊云科技?
首先,不论是大模型时代的当下还是此前的传统AI时代,一切的一切都绕不开算力这个核心关键点。
而亚马逊云科技早早发力于云计算领域,已然在全球范围内处于公认的“云计算一哥”的位置。
加之与英伟达的密切合作,亚马逊云科技无疑是在Scaling Law为主旋律的当下妥妥的算力大玩家。
其次,在模型层面上的战略,亚马逊云科技走的是一条“集大成者”的路线——当下每个大模型都各自擅长的能力,将它们集成到一起,方便客户选用。
也正如储瑞松在这次Keynote中所述:
大模型已不再是企业生成式AI创新的唯一要素;企业在确定生成式AI场景之后,需要根据自身的要求选择合适的大模型。
不同的模型在应用过程中所擅长的领域是不同的,要最大发挥生成式AI的能力,需要将它们结合起来产生复合效应,从而提高系统整体的智力水平。
正是基于这样的一个思路,在更上层的应用方面,诸如Amazon Q这样的应用才能做到“多、快、好、省”地上岗诸多领域。
而这也是符合当下“应用为王”的大趋势。
总而言之,有算力、有模型、有应用、有市场,亚马逊云科技绝对是AIGC时代不容小觑的巨头之一。
- 刚刚,英特尔发布最强CPU,AI PC迎来最高效x86芯片2024-09-04
- 全国首个上手机的AI视频通话来了!《黑神话:悟空》经文也能破译2024-08-29
- Windows、Mac只是装了个夸克,整个电脑都AI了!2024-08-28
- 英特尔全新至强W:60个性能核提升26% AI性能2024-08-29