"推理加速"最新资讯 | 量子位 - Part 2

推理加速

3140亿参数Grok-1推理加速3.8倍，PyTorch+HuggingFace版来了

明敏 2024-03-26

开源推理加速

用BigDL-LLM 即刻加速百亿级参数LLM推理 | 最“in”大模型

英特尔开源LLM加速库，可快速启动并充分利用英特尔CPU AI加速能力

十三 2023-09-01

BigDL-LLM 大语言模型推理加速英特尔

(●`ω`●)没有更多啦～

热门文章

大模型终于通关《宝可梦蓝》！网友：Gemini 2.5 Pro酷爆了

OpenAI最新技术报告：GPT-4o变谄媚的原因万万没想到

用多模态LLM超越YOLOv3！强化学习突破多模态感知极限｜开源

2年就过气！ChatGPT催生的百万年薪岗位，大厂不愿意招了

细节直逼亚毫米级！港科广分层建模突破3D人体生成｜CVPR 2025