"大模型加速"最新资讯 | 量子位

大模型加速

推理效率提升超200%，易用性对齐vLLM，这款国产加速框架啥来头？

运营成本最高降低 64%

白交 2024-09-18

大模型加速腾讯云

用上这个工具包，大模型推理性能加速达40倍

满足LLM更多场景应用需求

白交 2023-12-01

CPU 大模型大模型加速英特尔

PyTorch官方认可！斯坦福博士新作：长上下文LLM推理速度提8倍

已在64k CodeLlama上通过验证

丰色 2023-10-17

Transformer 大模型加速

加载更多

热门文章

神秘模型“小熊猫”一夜刷屏：排名超Flux、Midjourney

豆神教育发布“超拟人”AI导师，语言文学教育赛道迎来革新

突破短视频局限！MMBench 团队构建中长视频开放问答评测基准，全面评估多模态大模型视频理解能力

4499元起，一加“十三香”来了：戴手套依然能触控，北京骑行导航到天津无需充电

什么会影响大模型安全？NeurIPS’24新研究提出大模型越狱攻击新基准与评估体系