Mamba写代码真的超越Transformer!原始论文入选顶流新会议
Mistral AI和Mamba强强联合
西风 发自 凹非寺
量子位 | 公众号 QbitAI
“欧洲OpenAI”和“Transformer挑战者”强强联合了!
Mistral AI刚刚推出了其第一个基于Mamba2架构的开源模型——Codestral Mamba(7B),专搞代码生成。
![Mamba写代码真的超越Transformer!原始论文入选顶流新会议](/wp-content/uploads/replace/11e7ed452908ada068a086e90caea0e0.png)
与Transformer架构不同,Mamba架构可进行“线性时间推理”,理论上能够支持无限长度输入。
Mistral AI:这也就是为啥我们用Mamba架构推出的代码推理模型抗打。
![Mamba写代码真的超越Transformer!原始论文入选顶流新会议](/wp-content/uploads/replace/ce09efd1d22cfbc8c69a5e6c888cc842.png)
Mistral AI表示已经在最多256k token上下文中测试了Codestral Mamba。
基准测试中,Codestral Mamba总体性能超越CodeGemma-1.1 7B、CodeLlama 7B、DeepSeek v1.5 7B、CodeLlama 34B。
有网友表示,这一波是Mistral AI要带飞Mamba架构的节奏。
Mamba架构作者之一、CMU助理教授Albert Gu表示:
具有较弱“tokenizations”的不同模态或数据格式(例如代码、byte级建模)会越来越多地从压缩模型(如SSM)中受益。
![Mamba写代码真的超越Transformer!原始论文入选顶流新会议](/wp-content/uploads/replace/8197160e4a628d255b284aa35a0618e5.png)
除了Codestral Mamba,Mistral AI这次还同时发布了一个新的数学模型——Mathstral(7B)。
有意思的是,网友让它做这几天大模型频频翻车的“9.11和9.9哪个大”的问题,Mathstral先比较整数,然后再比较小数部分,最后成功做对。
![Mamba写代码真的超越Transformer!原始论文入选顶流新会议](/wp-content/uploads/replace/689b8330511d4de56b1fde21b9b29db8.png)
![Mamba写代码真的超越Transformer!原始论文入选顶流新会议](/wp-content/uploads/replace/46197d0adfca6ffdde87917d2d0aa499.png)
7B性能接近22BTransformer
Codestral Mamba完整基准测试结果如下:
![Mamba写代码真的超越Transformer!原始论文入选顶流新会议](/wp-content/uploads/replace/349eef0a825699338c9ebacbdca7ccbd.png)
在HumanEval C++/Java/JavaScript/Bash等所有基准上,Codestral Mamba全面超越CodeGemma-1.1 7B、CodeLlama 7B,且超越比它更大的CodeLlama 34B。
Mistral AI此前自家的最强开源编程模型Codestral 22B也没有和Codestral Mamba拉开太大差距。
除此外,DeepSeek v1.5 7B在基准中也比较突出,和Codestral Mamba打得有来有回。
DeepSeek v1.5 7B在Spider(复杂跨域语义分析和文本到SQL任务)、HumanEval Java、HumanEval Bash、MBPP等方面优于Codestral Mamba。
除了基准测试结果,Codestral Mamba最令人关注的当属它是首批Mamba2架构模型。
Mamba架构由FlashAttention作者Tri Dao和CMU助理教授、Cartesia AI联合创始人及首席科学家Albert Gu在去年年底提出。
![Mamba写代码真的超越Transformer!原始论文入选顶流新会议](/wp-content/uploads/replace/ef71f2a816dab9d9872e2c1907237c8f.png)
此前,ChatGPT等Transformer架构大模型有一大痛点:处理长文本算力消耗巨大。其背后也是因为Transformer架构中注意力机制的二次复杂度。
而Mamba是第一个真正实现匹配Transformer性能的线性时间序列模型,也是一种状态空间模型(SSM,State Space Model)。
Mamba建立在更现代的适用于深度学习的结构化SSM(S4, Structured SSM)基础上,与经典架构RNN有相似之处。
主要有三点创新:对输入信息有选择性处理、硬件感知的算法、更简单的架构。
Mamba架构一问世就引起了圈内广泛关注。Stability AI创始人、英伟达科学家Jim Fan等都对它的出现感到兴奋。
![Mamba写代码真的超越Transformer!原始论文入选顶流新会议](/wp-content/uploads/replace/48093a1d3158497e3003595cedfa8c14.png)
![Mamba写代码真的超越Transformer!原始论文入选顶流新会议](/wp-content/uploads/replace/fe0348de56a19b309fcfefaa6f4b92ff.png)
Mamba初代论文年初被ICLR拒稿,当时在圈内引起热议。
不过,最近已经被新生代顶流会议CoLM2024接收了。
![Mamba写代码真的超越Transformer!原始论文入选顶流新会议](/wp-content/uploads/replace/4dea354a91b2df4d92f515ceffe44ab1.png)
Mamba2是其二代,状态空间扩大8倍,训练速度提高50%。
Mamba2论文中更是发现,Transformer中的注意力机制与SSM存在着非常紧密的数学联系,论文成功入选ICML 2024。
![Mamba写代码真的超越Transformer!原始论文入选顶流新会议](/wp-content/uploads/replace/79c69a7990a8a6022488dc79194cb2b2.png)
还发布了一个数学模型
除了Codestral Mamba,Mistral AI还同时推出了一个开源数学模型——Mathstral(7B),作为对阿基米德诞生2311周年的纪念。
Mathstral在Mistral 7B基础之上,专注于STEM(科学、技术、工程、数学),上下文窗口32k。
在基准测试中,Mathstral MATH得分56.6%,MMLU达到了63.47%。
重点是,Mathstral还可以通过更多的推理时间计算获得更好的结果:
使用多数投票机制时,Mathstral 7B在MATH测试中的得分为68.37%,而在64个候选模型中应用一个强效奖励模型时,得分能够提升到74.59%。
![Mamba写代码真的超越Transformer!原始论文入选顶流新会议](/wp-content/uploads/replace/7fc3b1d29a34091a00380d660e631bb1.png)
以下是Mathstral 7B和Mistral 7B在MMLU各科目中的表现差异:
![Mamba写代码真的超越Transformer!原始论文入选顶流新会议](/wp-content/uploads/replace/0c43c050554b0452fc0118dd81dff6ec.png)
参考链接:
[1]https://mistral.ai/news/codestral-mamba/
[2]https://mistral.ai/news/mathstral/
[3]https://x.com/MistralAI/status/1813222156265791531
[4]https://x.com/GuillaumeLample/status/1813231491154899012
[5]https://x.com/theo_gervet/status/1813226968600469824
[6]https://x.com/tuturetom/status/1813238885453033540
[7]https://x.com/WenhuChen/status/1812562112524226569
- 科技大会顶流们,上海都要包圆了啊2024-09-04
- 开源大模型新王干翻GPT-4o,新技术可纠正自己幻觉,数学99.2分刷爆测试集2024-09-06
- 三星高管剧透GPT-5:3-5万亿参数,7000块B100训练2024-09-05
- Ilya新公司融资10亿美元!被曝估值50亿美元,公司现仅有10人2024-09-04