"注意力机制"最新资讯

换掉Transformer，7B开源模型立刻登顶！任意长序列都能处理

完全没用注意力机制

明敏 2024-08-13

Falcon Transformer架构开源模型注意力机制

H100利用率飙升至75%！英伟达亲自下场FlashAttention三代升级

大模型训练再提速

明敏 2024-07-12

大语言模型注意力机制英伟达训练加速

谷歌爆改Transformer，“无限注意力”让1B小模型读完10部小说

114倍信息压缩

明敏 2024-04-12

Transformer 注意力机制

注意力机制作用被高估了？苹果等机构新研究：把注意力矩阵替换成常数矩阵后，性能差异不大

性能越好，越依赖注意力机制

萧箫 2022-11-19

Transformer 注意力机制

斯坦福博士提出超快省显存Attention，GPT-2训练速度提升3.5倍，BERT速度创纪录

Flash is all you need！

白交 2022-06-08

Transformer 斯坦福博士注意力机制

把大核卷积拆成三步，清华胡事民团队新视觉Backbone刷榜了，集CNN与ViT优点于一身

超越SwinTransformer与ConvNeXT

梦晨 2022-02-23

CNN ViT 注意力机制

颜水成发了个“简单到令人尴尬”的视觉模型，证明Transformer威力源自其整体架构

终结最强变体之争

梦晨 2021-11-24

SAIL Transformer 新加坡国立大学注意力机制颜水成

arXiv爆款：想了解Attention就看它！清华计图胡事民团队出品

引用上百篇文献，GitHub推特双双300+热度

博雯 2021-11-21

attention 注意力机制胡事民

还需要“注意力层”吗？一堆“前馈层”在ImageNet上表现得出奇得好

牛津博士和谷歌同时发现

十三 2021-05-07

ImageNet 注意力机制深度学习

注意力机制

换掉Transformer，7B开源模型立刻登顶！任意长序列都能处理

H100利用率飙升至75%！英伟达亲自下场FlashAttention三代升级

谷歌爆改Transformer，“无限注意力”让1B小模型读完10部小说

注意力机制作用被高估了？苹果等机构新研究：把注意力矩阵替换成常数矩阵后，性能差异不大

斯坦福博士提出超快省显存Attention，GPT-2训练速度提升3.5倍，BERT速度创纪录

把大核卷积拆成三步，清华胡事民团队新视觉Backbone刷榜了，集CNN与ViT优点于一身

颜水成发了个“简单到令人尴尬”的视觉模型，证明Transformer威力源自其整体架构

arXiv爆款：想了解Attention就看它！清华计图胡事民团队出品

还需要“注意力层”吗？一堆“前馈层”在ImageNet上表现得出奇得好

热门文章

AI应用突围，中小企业的新周期已至

GPT-4o图像生成架构被“破解”了？自回归主干+扩散解码器

阿里云造“Agent工厂”，百炼MCP服务上线，无需代码5分钟建Agent

“AI眼镜的终极功能，是AI+社交” | 对话影目科技创始人