"注意力机制"最新资讯 | 量子位

换掉Transformer，7B开源模型立刻登顶！任意长序列都能处理

完全没用注意力机制

明敏 2024-08-13

Falcon Transformer架构开源模型注意力机制

H100利用率飙升至75%！英伟达亲自下场FlashAttention三代升级

大模型训练再提速

明敏 2024-07-12

大语言模型注意力机制英伟达训练加速

谷歌爆改Transformer，“无限注意力”让1B小模型读完10部小说

114倍信息压缩

明敏 2024-04-12

Transformer 注意力机制

注意力机制作用被高估了？苹果等机构新研究：把注意力矩阵替换成常数矩阵后，性能差异不大

性能越好，越依赖注意力机制

萧箫 2022-11-19

Transformer 注意力机制

斯坦福博士提出超快省显存Attention，GPT-2训练速度提升3.5倍，BERT速度创纪录

Flash is all you need！

白交 2022-06-08

Transformer 斯坦福博士注意力机制

把大核卷积拆成三步，清华胡事民团队新视觉Backbone刷榜了，集CNN与ViT优点于一身

超越SwinTransformer与ConvNeXT

梦晨 2022-02-23

CNN ViT 注意力机制

颜水成发了个“简单到令人尴尬”的视觉模型，证明Transformer威力源自其整体架构

终结最强变体之争

梦晨 2021-11-24

SAIL Transformer 新加坡国立大学注意力机制颜水成

arXiv爆款：想了解Attention就看它！清华计图胡事民团队出品

引用上百篇文献，GitHub推特双双300+热度

博雯 2021-11-21

attention 注意力机制胡事民

还需要“注意力层”吗？一堆“前馈层”在ImageNet上表现得出奇得好

牛津博士和谷歌同时发现

十三 2021-05-07

ImageNet 注意力机制深度学习

注意力机制

换掉Transformer，7B开源模型立刻登顶！任意长序列都能处理

H100利用率飙升至75%！英伟达亲自下场FlashAttention三代升级

谷歌爆改Transformer，“无限注意力”让1B小模型读完10部小说

注意力机制作用被高估了？苹果等机构新研究：把注意力矩阵替换成常数矩阵后，性能差异不大

斯坦福博士提出超快省显存Attention，GPT-2训练速度提升3.5倍，BERT速度创纪录

把大核卷积拆成三步，清华胡事民团队新视觉Backbone刷榜了，集CNN与ViT优点于一身

颜水成发了个“简单到令人尴尬”的视觉模型，证明Transformer威力源自其整体架构

arXiv爆款：想了解Attention就看它！清华计图胡事民团队出品

还需要“注意力层”吗？一堆“前馈层”在ImageNet上表现得出奇得好

热门文章

大模型玩你画我猜：Claude6局3胜，GPT-4o表现迷惑

微软清华改进Transformer：用降噪耳机原理升级注意力，一作在线答疑

商汤徐冰最新访谈：商汤最近在做什么？数万亿AI投资能回本吗？

洗衣新生代强势崛起石头科技洗衣机技术品鉴会北京场圆满落幕

明星飞行汽车破产：巅峰市值700亿，腾讯多轮投资，烧光100亿仍难载人试飞