"大模型加速"最新资讯 | 量子位 - Part 2

大模型加速

推理效率提升超200%，易用性对齐vLLM，这款国产加速框架啥来头？

运营成本最高降低 64%

白交 2024-09-18

大模型加速腾讯云

用上这个工具包，大模型推理性能加速达40倍

满足LLM更多场景应用需求

白交 2023-12-01

CPU 大模型大模型加速英特尔

PyTorch官方认可！斯坦福博士新作：长上下文LLM推理速度提8倍

已在64k CodeLlama上通过验证

丰色 2023-10-17

Transformer 大模型加速

加载更多

热门文章

谷歌杀回来了！新版Gemini跑分超o1登顶第一，CEO：这才哪到哪儿

ChatGPT深夜更新：Mac版支持“读屏编程”，Windows版全员可用了

杨植麟发布Kimi新模型：数学对标o1，中考高考考研成绩全第一

长安发布飞行汽车、人形机器人计划，数智技术引领车市新风向

小马智行作价50亿美元冲刺IPO，募资3.78亿美元，北汽带头认购