"Transformer"最新资讯

何恺明LeCun改造Transformer！9行代码替代归一化性能不减还加速

入选CVPR 2025，代码已开源

克雷西 2025-03-14

CVPR Transformer 何恺明

嚯！大语言扩散模型来了，何必只预测下一个token | 人大高瓴&蚂蚁

正向掩码+反向预测

明敏 2025-02-18

Transformer 扩散模型

谷歌新架构一战成名，打破Transformer记忆瓶颈，姚班校友钟沛林新作

新的长期记忆模块

梦晨 2025-01-14

Transformer

视频大模型无损提速：删除多余token，训练时间减少30%，帧率越高效果越好

推理阶段也适用

克雷西 2024-11-17

Transformer

o1方法性能无上限！姚班马腾宇等数学证明：推理token够多，就能解决任意问题

CoT让Transformer更接近图灵完备

克雷西 2024-09-17

Transformer

Transformer作者预警：只卖模型玩不过OpenAI！

预言5年内机器人领域将迎来大突破！

十三 2024-08-24

OpenAI Transformer 谷歌

Transformer“贡献最大”作者，重返谷歌出任Gemini联合技术主管

与Jeff Dean一起共事

十三 2024-08-23

Gemini Transformer 谷歌

爆火神经网络架构KAN更新2.0！可专属定制，轻松应对经典物理学研究

作者：和MLP不能互相取代

白交 2024-08-21

KAN MIT Transformer

首位AI科学家问世！已独立生成10篇学术论文，还顺手搞了AI审稿人

Transformer作者创业成果

衡宇 2024-08-13

AI科学家 Transformer

打乱/跳过Transformer层会怎样？最新研究揭开其信息流动机制，一口气解答8大问题

ViT作者等一众学者点赞

西风 2024-07-26

Transformer 信息流动机制

陈丹琦团队揭Transformer内部原理：另辟蹊径，从构建初代聊天机器人入手

数据集/架构/训练全都新来一遍

一水 2024-07-18

Transformer 陈丹琦

拆分Transformer注意力，韩国团队让大模型解码提速20倍

内存开销也大幅降低

克雷西 2024-07-01

Transformer

全面超越Transformer！清华蚂蚁纯MLP架构，长短程时序预测大提升

性能和效能双飞升

白交 2024-06-12

MLP Transformer 时序预测

新架构Mamba更新二代！作者：别争了，数学上Transformer和SSM是一回事

统一两大序列建模架构

梦晨 2024-06-04

Mamba Transformer

ICML2024高分！魔改注意力，让小模型能打两倍大的模型

动态组合多头注意力

西风 2024-06-03

AI大模型 Transformer

全新神经网络架构KAN一夜爆火！200参数顶30万，MIT华人一作，轻松复现Nature封面AI数学研究

对MLP“进行一个简单的更改”

白交 2024-05-02

MIT Transformer 神经网络架构

谷歌爆改Transformer，“无限注意力”让1B小模型读完10部小说

114倍信息压缩

明敏 2024-04-12

Transformer 注意力机制

谷歌更新Transformer架构，更节省计算资源！50%性能提升

MoE正火，MoD也来了

明敏 2024-04-05

Transformer 谷歌

Mamba架构第一次做大！混合Transformer，打败Transformer

取两架构之长，混合模型Jamba诞生

丰色 2024-03-29

Mamba Transformer

模型合并就进化，直接拿下SOTA！Transformer作者创业新成果火了

英伟达科学家：最有想象力的论文

丰色 2024-03-25

Transformer 大模型

Transformer

何恺明LeCun改造Transformer！9行代码替代归一化性能不减还加速

嚯！大语言扩散模型来了，何必只预测下一个token | 人大高瓴&蚂蚁

谷歌新架构一战成名，打破Transformer记忆瓶颈，姚班校友钟沛林新作

视频大模型无损提速：删除多余token，训练时间减少30%，帧率越高效果越好

o1方法性能无上限！姚班马腾宇等数学证明：推理token够多，就能解决任意问题

Transformer作者预警：只卖模型玩不过OpenAI！

Transformer“贡献最大”作者，重返谷歌出任Gemini联合技术主管

爆火神经网络架构KAN更新2.0！可专属定制，轻松应对经典物理学研究

首位AI科学家问世！已独立生成10篇学术论文，还顺手搞了AI审稿人

打乱/跳过Transformer层会怎样？最新研究揭开其信息流动机制，一口气解答8大问题

陈丹琦团队揭Transformer内部原理：另辟蹊径，从构建初代聊天机器人入手

拆分Transformer注意力，韩国团队让大模型解码提速20倍

全面超越Transformer！清华蚂蚁纯MLP架构，长短程时序预测大提升

新架构Mamba更新二代！作者：别争了，数学上Transformer和SSM是一回事

ICML2024高分！魔改注意力，让小模型能打两倍大的模型

全新神经网络架构KAN一夜爆火！200参数顶30万，MIT华人一作，轻松复现Nature封面AI数学研究

谷歌爆改Transformer，“无限注意力”让1B小模型读完10部小说

谷歌更新Transformer架构，更节省计算资源！50%性能提升

Mamba架构第一次做大！混合Transformer，打败Transformer

模型合并就进化，直接拿下SOTA！Transformer作者创业新成果火了

热门文章

数学家们仍在追赶天才拉马努金

7×24小时非人类科学家入场：当AI开始自主探索科学未知领域 | 多伦多大学

全栈AI基础设施支撑，跑出全球首个开放使用视频生成DiT模型

蔚来李斌：一年减少了数十亿英伟达芯片采购

不到2年，AI PPT赛道第一！像素绽放CEO赵充：今年是AI应用创业最佳时期 | 中国AIGC产业峰会