挑战GPT-4V!清华唐杰&智谱开源多模态14边形战士,在线可玩
从浅层对齐到深度融合
梦晨 发自 凹非寺
量子位 | 公众号 QbitAI
看看这张图中有几个房子?如果你回答3个,就和GPT-4V的答案一样。
但是最新开源的国产多模态模型CogVLM-17B,就能看出另有玄机。
![挑战GPT-4V!清华唐杰&智谱开源多模态14边形战士,在线可玩](/wp-content/uploads/replace/27aef1c670d3f961554f983244c0dd12.png)
甚至能区分在图中完整可见的有3个和部分可见的有1个。
![挑战GPT-4V!清华唐杰&智谱开源多模态14边形战士,在线可玩](/wp-content/uploads/replace/d68c8364bed1d9445be59997221bc339.png)
CogVLM由清华和智谱AI合作开发,通讯作者为唐杰和丁铭,论文和开源代码已上传到GitHub。
![挑战GPT-4V!清华唐杰&智谱开源多模态14边形战士,在线可玩](/wp-content/uploads/replace/0ab4304df82f7b322bf194ea61195d0e.png)
除这个单独案例之外,CogVLM-17B还在10项权威跨模态基准上取得了SOTA性能。
另外在VQAv2, OKVQA, TextVQA, COCO captioning取得第二,超越或匹配谷歌的PaLI-X 55B。
与之前的开源多模态大模型相比,可以算是14边形战士。
![挑战GPT-4V!清华唐杰&智谱开源多模态14边形战士,在线可玩](/wp-content/uploads/replace/0877f40be7dea47ca61cec87828c4262.png)
雷达图中包含13个基准,最后一个TDIUC单独展现。
![挑战GPT-4V!清华唐杰&智谱开源多模态14边形战士,在线可玩](/wp-content/uploads/replace/3c3fb6a44f679c8b9dbfb710cc176a12.png)
CogVLM可以回答各种类型的视觉问题,比如从马斯克的阴阳怪气中推理出小扎假装去旅行了,回避约架。
![挑战GPT-4V!清华唐杰&智谱开源多模态14边形战士,在线可玩](/wp-content/uploads/replace/70545e7f9a4bece3ad4d1a45caf8f022.png)
认出照片中的C罗,并回答他在2018年世界杯中有多少进球。
![挑战GPT-4V!清华唐杰&智谱开源多模态14边形战士,在线可玩](/wp-content/uploads/replace/7bbf76bd984c18dddb390a372fd12d39.jpeg)
带图的编程题也能给出代码了。
![挑战GPT-4V!清华唐杰&智谱开源多模态14边形战士,在线可玩](/wp-content/uploads/replace/79eed86e121c69c1f7d663890d3fc057.png)
甚至能完成复杂的目标检测,并打上标签,自动数据标注成了。
![挑战GPT-4V!清华唐杰&智谱开源多模态14边形战士,在线可玩](/wp-content/uploads/replace/0bfb23cf05696735a0a8e57eceb4d177.png)
从浅层对齐到深度融合
CogVLM模型包含4个基本组件
- ViT编码器
- MLP适配器
- 大型预训练语言模型
- 视觉专家模块
![挑战GPT-4V!清华唐杰&智谱开源多模态14边形战士,在线可玩](/wp-content/uploads/replace/9112b8496c747a105c400c2a49cb701f.png)
其中,每层中都添加了可训练的视觉专家模块,以实现图像特征和文本特征的深度对齐,而不会牺牲任何NLP任务的性能。
之前主流的浅层对齐方法,如BLIP-2,图像特征和语言模型之间缺乏深度融合,导致性能不佳。
但微调语言模型的全部参数又会损害其NLP能力。
CogVLM的方法可以说是改变了视觉语言模型的训练范式,从浅层对齐转向深度融合。
另外值得注意的是,CogVLM训练数据中没有专门的OCR数据,但表现出了很强的文字识别能力。
CogVLM开源并给出了在线试玩。
![挑战GPT-4V!清华唐杰&智谱开源多模态14边形战士,在线可玩](/wp-content/uploads/replace/358c0d0836940c899dc33c3bcdff5c4f.png)
不过目前仅支持英文,后续会提供中英双语版本支持,可以持续关注。
试玩地址:
http://36.103.203.44:7861
开源及论文地址:
https://github.com/THUDM/CogVLM
— 完 —
量子位 QbitAI · 头条号签约
关注我们,第一时间获知前沿科技动态
- 第一批“AI原住民”小学生,正在用大模型搞开发2024-09-04
- AIGC的风口上,中国企业如何提升出海胜算?|出海大咖说2024-09-03
- 腾讯全球数字生态大会 大咖共解数字化新问2024-09-03
- 米哈游蔡浩宇新AI公司曝光,挖Llama 3科学家坐镇大模型2024-08-30