"推理框架"最新资讯 | 量子位

推理框架

2080 Ti就能跑70B大模型，上交大新框架让LLM推理增速11倍

充分利用模型和硬件特点

克雷西 2023-12-20

上海交大大模型推理框架

加载更多

热门文章

开源Llama版o1来了，3B小模型反超80B，逆向工程复现OpenAI新Scaling Law

这届AI创业：不敲一行代码，营收突破百万级

AI已经在直播间狂刷KPI了

GPT-4o数学能力跑分直掉50%，上海AI Lab开始给大模型重新出题了

苹果Mac用户狂喜！ChatGPT深度集成应用，最后再藏AGI彩蛋