"大模型加速"最新资讯 | 量子位

大模型加速

推理效率提升超200%，易用性对齐vLLM，这款国产加速框架啥来头？

运营成本最高降低 64%

白交 2024-09-18

大模型加速腾讯云

用上这个工具包，大模型推理性能加速达40倍

满足LLM更多场景应用需求

白交 2023-12-01

CPU 大模型大模型加速英特尔

PyTorch官方认可！斯坦福博士新作：长上下文LLM推理速度提8倍

已在64k CodeLlama上通过验证

丰色 2023-10-17

Transformer 大模型加速

(●`ω`●)没有更多啦～

热门文章

全球首个无限时长视频生成！新扩散模型引爆万亿市场，电影级理解，全面开源

o3/o4-mini幻觉暴增2-3倍！OpenAI官方承认暂无法解释原因

业界首创，海螺集团携手华为发布水泥建材人工智能大模型

SkyReels-V2开源：突破视频生成技术边界，开启无限时长电影生成新时代

微软开源“原生1bit”三进制LLM：2B参数，0.4GB内存/单CPU就能跑，性能与同规模全精度开源模型相当