"大模型推理"最新资讯 | 量子位

大模型推理

o1不是唯一路径！MIT新研究：在测试时训练，模型推理能力最高升至5.8倍

配合其他方法课超越人类平均水平

克雷西 2024-11-12

大模型推理

小模型越级挑战14倍参数大模型，谷歌开启Test-Time端新的Scaling Law

扩展模型测试时计算比扩展参数可能更有效

西风 2024-09-11

大模型推理谷歌

Q*项目公开发布！研究团队并非OpenAI

百倍提升小模型推理能力

西风 2024-06-25

大模型推理昆仑万维

小米大模型提效新框架：训练最高提速34%，推理最高提速52%！Kaldi之父合作出品

文本也能像语音一样下采样

西风 2024-06-24

大模型推理小米大模型团队

运行LIama2得8400万元！最快AI推理芯片成本推算引热议

英伟达GPU成本只需30万美元

白交 2024-02-21

GPU 大模型大模型推理芯片英伟达

400万token上下文、推理再加速46%！最新开源方案升级MIT成果

来自爆火大模型系统开源社区

明敏 2024-01-08

AI加速大模型推理开源社区

(●`ω`●)没有更多啦～

热门文章

AI应用突围，中小企业的新周期已至

全球首个Linux开发本：50TOPS算力，DeepSeek都配好了，可随地大小开发

SOTA自动绑骨开源框架来了！3D版DeepSeek开源月大礼包持续开箱ing

又一上海人形机器人加入开源！全套图纸+代码，来自傅利叶

手机实现GPT级智能，比MoE更极致的稀疏技术：省内存效果不减｜对话面壁&清华肖朝军