"推理加速"最新资讯 | 量子位

推理加速

3140亿参数Grok-1推理加速3.8倍，PyTorch+HuggingFace版来了

明敏 2024-03-26

开源推理加速

用BigDL-LLM 即刻加速百亿级参数LLM推理 | 最“in”大模型

英特尔开源LLM加速库，可快速启动并充分利用英特尔CPU AI加速能力

十三 2023-09-01

BigDL-LLM 大语言模型推理加速英特尔

加载更多

热门文章

Sora/可灵/海螺/混元大PK！多场景对比，谁是最强视频生成模型？

AI音乐战火升级！三路国产大军全面对决Suno

谷歌“狙击”OpenAI，发布新一代大模型！主打Agent+多模态

OpenAI版《Her》全量来袭：实时视频对话，你每个动作AI都看得见

《2024年度AI十大趋势报告》发布：技术创新、产品洗牌、行业动态一文看尽