700亿参数LLaMA2训练加速195%,开箱即用的8到512卡LLaMA2全流程方案来了!
可无代码训练、一键部署
明敏 发自 凹非寺
量子位 | 公众号 QbitAI
LLaMA2训练微调推理,大提速了!
针对700亿版本,训练加速195%。
而且还能基于云平台实现无代码训练个性私有化模型,并一键部署。
![700亿参数LLaMA2训练加速195%,开箱即用的8到512卡LLaMA2全流程方案来了!](/wp-content/uploads/replace/9de0ffb9f83dae8165f8a4649f3d5fe5.jpeg)
超活跃的大模型系统开源项目Colossal-AI又上新了!
可提供开箱即用的8到512卡LLaMA2训练、微调、推理方案,并提供一站式云平台解决方案。
大模型开发和应用落地成本,再降亿点点~
LLaMA2训练加速195%
得益于开源特性,LLaMA系列大模型在短短几个月内已经衍生出诸多应用和项目,也成为很多公司企业应用大模型的首选。
最新的7B~70B LLaMA2大模型,进一步提高了语言模型的基础能力。
但由于LLaMA2的预训练预料大部分来自英文通用知识,而仅用微调能够提升和注入的领域知识和多语言能力也相对有限。
此外,高质量的专业知识和数据集通常被视为各个行业和公司的核心资产,仅能以私有化形式保存。
因此,以低成本预训练/继续预训练/微调LLaMA2系列大模型,结合高质量私有化业务数据积累,帮助业务降本增效是众多行业与企业的迫切需求与瓶颈。
![700亿参数LLaMA2训练加速195%,开箱即用的8到512卡LLaMA2全流程方案来了!](/wp-content/uploads/replace/52379825b4f234e4c778120df7a2cb16.png)
但LLaMA2大模型仅发布了原始模型权重与推理脚本,不支持训练/微调,也未提供数据集。
所以,针对这些现有问题,Colossal-AI开源了针对LLaMA2的全流程方案,并具备高可扩展性,支持从70亿到700亿参数的模型,从8卡到512卡都可保持良好的性能。
在使用8卡训练/微调LLaMA2-7B时,Colossal-AI能达到约54%的硬件利用率(MFU),处于业界领先水平。
而对于预训练任务,以使用512张A100 40GB预训练LLaMA2-70B为例,DeepSpeed ZeRO3策略因显存不足而无法启动,仅能通过速度衰减较大的ZeRO3-offload策略启动。Colossal-AI则因卓越的系统优化和扩展性,仍能保持良好性能,训练提速195%。
![700亿参数LLaMA2训练加速195%,开箱即用的8到512卡LLaMA2全流程方案来了!](/wp-content/uploads/replace/9df640e3ca6909a65ac2bcc95b36472f.png)
Colossal-AI LLaMA-2训练/微调方案的高性能来源于新的异构内存管理系统Gemini和高性能算子(包括Flash attention 2)等系统优化。
新Gemini提供了高可扩展性、高鲁棒性、高易用性的接口。其Checkpoint格式与HuggingFace完全兼容,减小了使用和转换成本。其对于切分、offload等的设置更加灵活且易用,能够覆盖更多硬件配置下的LLaMA-2训练/微调任务。
仅需数行代码即可使用:
from colossalai.booster import Booster
from colossalai.booster.plugin import GeminiPlugin
plugin = GeminiPlugin()
booster = Booster(plugin=plugin)
model, optimizer, train_dataloader, criterion = booster.boost(model, optimizer, train_dataloader, criterion)
ShardFormer多维细粒度并行
虽然对于主流硬件条件和大多数模型,Colossal-AI的新Gemini已经能够提供良好的性能,但是对于一些极端硬件条件,或者是特殊模型,可能仍然需要多维并行的细粒度优化。
现有其他方案通常需要分布式系统资深专家,手动对代码进行大规模重构和调优,Colossal-AI的ShardFormer提供了开箱即用的多维并行和算子优化的能力,仅需数行代码即可使用,在单机/大规模集群上都能提供良好的性能。
from colossalai.booster import Booster
from colossalai.booster.plugin import HybridParallelPlugin
from transformers.models.llama import LlamaForCausalLM, LlamaConfig
plugin = HybridParallelPlugin(tp_size=2, pp_size=2, num_microbatches=4, zero_stage=1)
booster = Booster(plugin=plugin)
model = LlamaForCausalLM(LlamaConfig())
model, optimizer, train_dataloader, criterion = booster.boost(model, optimizer, train_dataloader, criterion)
Colossal-AI ShardFormer支持包括LLaMA1/2、BLOOM、OPT、T5、GPT-2、BERT、GLM在内的主流开源模型,也可以直接使用Huggingface/transformers模型导入,Checkpoint格式也与HuggingFace完全兼容,对比Megatron-LM等需重写大量代码的方案,大大提升了易用性。
![700亿参数LLaMA2训练加速195%,开箱即用的8到512卡LLaMA2全流程方案来了!](/wp-content/uploads/replace/e2744a2cc4656ac9accf821d314fd48d.png)
对于并行策略,已支持以下多种并行方式:张量并行、流水线并行、序列并行、数据并行、Zero数据并行等,并可将多种并行方式组合使用,只需通过简单的配置命令,即可适配各种复杂的硬件环境/模型。
同时,其内置了各种高性能算子,免去了繁琐的兼容/配置过程。其中包括:
- Flash attention 2
- Memory efficient attention (xformers)
- Fused Normalization Layer
- JIT kernels
云平台大模型一站式解决
为了进一步提升开发和部署效率,Colossal-AI团队还将上述系统优势与算力结合,提供Colossal-AI云平台,提供廉价算力和开箱即用的AI主流应用,包括对话大模型,多模态模型,生物医药等,现已开启内测。
![700亿参数LLaMA2训练加速195%,开箱即用的8到512卡LLaMA2全流程方案来了!](/wp-content/uploads/replace/6360c9378efeebaec2962a16f0c3fd8f.png)
通过屏蔽大模型底层的分布式并行计算、内存、通信管理与优化等,AI开发者可以继续专注于AI模型与算法设计,以更低成本更快速度完成AI大模型助力业务降本增效。
![700亿参数LLaMA2训练加速195%,开箱即用的8到512卡LLaMA2全流程方案来了!](/wp-content/uploads/replace/41ca927535f391c8af84c4a676863b3a.png)
用户只需要上传相关数据,即可无代码训练个性化私有模型,并将训练好的模型一键部署。相关的应用都经过Colossal-AI团队精心优化,得益于算法和系统的双面优化,能大大降低模型训练以及部署的成本。
![700亿参数LLaMA2训练加速195%,开箱即用的8到512卡LLaMA2全流程方案来了!](/wp-content/uploads/replace/2bdb32e86c50e07518d4be418e3b034f.png)
感兴趣的童鞋可访问Colossal-AI GitHub地址查看详情,云平台可通过搜索“Colossal-AI Platform”了解更多~
参考链接:
https://www.hpc-ai.tech/blog/70b-llama2-training
- AI落地新战场,云厂商开卷MaaS:大模型即服务,华为给所有人发船票了2024-09-05
- 阿里通义上新PPT创作!PC端“效率”功能三合一,听读写一站搞定2024-09-01
- 为产业数字化注入“智”能量 看腾讯全球实践2024-09-01
- 纯数学方法证明量子纠缠会突然消失!MIT科学家无心插柳提供论证2024-09-01