首页
资讯
数码
智能车
智库
活动
MEET大会
AIGC
扫码关注量子位
大模型加速
推理效率提升超200%,易用性对齐vLLM,这款国产加速框架啥来头?
运营成本最高降低 64%
白交
2024-09-18
大模型加速
腾讯云
用上这个工具包,大模型推理性能加速达40倍
满足LLM更多场景应用需求
白交
2023-12-01
CPU
大模型
大模型加速
英特尔
PyTorch官方认可!斯坦福博士新作:长上下文LLM推理速度提8倍
已在64k CodeLlama上通过验证
丰色
2023-10-17
Transformer
大模型加速
加载更多
热门文章
杨植麟发布Kimi新模型:数学对标o1,中考高考考研成绩全第一
2024-11-16
不做Sora背后:百度的多模态路线是什么?
2024-11-16
量化能让大模型“恢复记忆”,删掉的隐私版权内容全回来了
2024-11-16
马斯克新官上任再起诉OpenAI!新证据称Ilya七年前就不放心奥特曼
2024-11-16
2024全球AIGC产业全景图谱及报告重磅发布
2024-11-18