英特尔投下「座舱」核弹:229TOPS独显GPU上车!跑满大模型畅玩3A
200亿参数大模型车上跑!
贾浩楠 发自 副驾寺智能车参考 | 公众号 AI4Auto
半导体“祖师爷”级玩家英特尔,正策划着一场针对智能汽车的“颠覆”
——针对自从智能座舱诞生以来,从底层架构到功能体验所有的“约定俗成”。
“为什么一定要用ARM?”、“为什么只有智驾算力的几分之一?”,甚至“为什么只能有一个SoC?”。
于是在中国这个全球智能车最热的热土,英特尔率先做出了汽车工业史、科技史、AI发展史上前无古人的一项产品:
车载独立显卡。
在PC领域,独立显卡意味着比集成显卡更强的性能。
但在智能汽车领域,这一先进性是否依然成立?
英特尔做了什么?
8月8日,英特尔院士、英特尔公司副总裁、汽车事业部总经理Jack Weast,在深圳发布了一块独立显卡dGPU——A760-A,参数上是本年度的性能领跑,还有独特的技术加持。
但这次,英特尔的独显供应给汽车,给出了今年乃至明年年度智能座舱平台的性能天花板,代表着最前沿技术的应用方向。
首先是绝对算力数值上,可达229TOPS,是目前主流智舱芯片算力的4-6倍。
衡量深度学习计算能力的另一重要指标FP32单精度算力为14TFLOPS(与大模型训练所用的主流GPU A100相当)。
这意味着锐炫A760A首先是一个车端的AI大杀器。
在大语言模型争相上车,带来全新座舱体验的今天,英特尔给出了参考范围:A760-A,支持从60亿到200亿参数的大模型。
截至目前,大模型落地终端的进程中,70亿参数算是一个基准。因此,英特尔给出的这个冗余,不仅充分,而且远远充足,面向未来。
绝对性能之外,A760-A在图形计算性能上也有出色表现。游戏玩家应该不陌生,前两年英特尔发布了自己的Arc独立显卡,成为N卡A卡之外的“第三极”。
而这一次,英特尔的核心技术Xe Core,同样是芯片上不可分割的子单元,包含主要的数学运算机制,每个Xe Core都具有一个线程排序单元(TSU)和一个光线追踪单元(RTU)。
代表着英特尔让你的车机也能支持光线追踪!在“大彩电”成为智能汽车标配的时代,这意味着你可以在座舱里体验更多大制作游戏,有游戏PC一样的体验。
最后,A760-A拥有英特尔的核心架构——X86架构,性能和功耗久经考验,开发和应用生态现成且丰富,避免车厂重复造轮子。
英特尔AI座舱,能干什么?
车端200亿参数大模型,英特尔特别强调其与国内外多个主流大模型的适配,包括智谱、绝影、百川和百度。这些模型的适配使得 A760-A能够支持业内公认的端侧模型上限。
具体到应用场景上,多模态模型上车,可以作为端到端智能驾驶的“点读机”,不仅规范驾驶行为,还能使整个过程更具解释性。
比如绝影出现在了英特尔车载独立显卡发布现场,它的多模态大模型智能车参考详细介绍过,一方面可以作为智能驾驶方案的认知理解世界能力的外挂,一方面又能作智能座舱的超级助手。
但这一切体验,都离不开“英特尔高性能座舱平台的强大为算力,支持绝影多模态座舱大模型端侧部署”。
同样是车端大模型应用的部署,英特尔车载独立显卡具体能提供多强的支持,智谱AI COO张帆,给了具体数字参考:
英特尔的最新芯片上,我们的模型在解码速度上甚至能跑到88个Token,相当于每秒都要150多字的信息。
这个速度是非常快的,可以让很多场景功能首次在端侧完成。
此外,独显GPU上车,游戏玩家懂得都懂。以前需要外接游戏主机才能在车载大彩电上玩的游戏,现在可以直接在车内操作。
X86架构意味着不仅是微软Xbox生态,几乎可以在车上玩所有PC端的游戏,生态丰富且开放。
高性能独立显卡在车端的应用,当然也不仅仅是游戏,对于车机HMI界面也是一次直接的革新。
中科创达子公司Rightware CEO钱强认为,未来HMI将朝着集中化、沉浸场景层和一镜到底的方向去发展,从单一车建模,还到超大场景完全渲染。
但这些需要强大芯片算力支持,才可以实现。
不仅游戏、车机,AI大模型如果作为商务助手,可以没有任何障碍地在车端自由调用各种办公、通信软件,包括但不限于Office、微信、飞书。
英特尔的车载 “独立显卡”,卷出智能座舱2.0时代
在智能汽车、智能座舱领域,英特尔的方案虽然入局不早,但绝对切中客户痛点和刚需。
在英特尔之前,智能座舱领域的计算平台方案,基本都是通过一块SoC解决所有问题,即使在AI算力提升上,也更多依赖下一代产品“升级”来实现。
英特尔发布独显GPU作为首发,成为行业唯一,这是由于当前需求和痛点息息相关。英特尔认为:
一方面,在AI大模型技术革命背景下,以往的座舱芯片平台显然已经“力不从心”。用户侧生态封闭、算力有限、功能受限,导致用户体验不满意;更令应用服务提供商头疼的是,App适配迁移成本高昂,大模型在车端只能运行“阉割版”。
英特尔提供了简单而直接的解决方案:车载独显的算力拉满到229TOPS,采用性能和功耗更稳定且生态成熟的X86架构。
另一方面,大模型浪潮下,车端算力硬件的需求不仅体现在“大”,还有更高的要求。
诸如芯片的多AI任务并行、计算资源合理分配、能耗控制与可扩展性等挑战,英特尔CEO认为这些正是英特尔的强项,并在历史上多次提供过相应的解决方案。
例如,在多任务并行方面,车载独显GPU可以同时支持多个数十亿参数大模型各司其职,并相互配合。能耗控制方面,在不同任务场景下,芯片上的核心可以合理分配负载,实现高效运行。
这些都是英特尔在半导体领域深耕50多年积累的成熟经验,可以直接应用于AI座舱。
最后,与其他所有智能计算供应商最大的不同在于:英特尔本身就是芯片制造商,不需要第三方代工。
因此,与英特尔合作的车企可以利用X86架构指令集高度定制、设计自己的座舱芯片(芯粒),由英特尔生产,然后自由搭载自研的软件和算法。这也呼应了另一大汽车趋势。
智能化浪潮席卷汽车领域,分工被重构,生态位面临重估。最引人注目的是,在智能化核心技术和体验上,车厂纷纷自研,以确保效率和用户体验。
过去供应商提供标准化软件+硬件方案的范式,正在被“软件定义硬件”的新范式替代。这就要求计算平台和底层芯片供应商需具备高弹性和可扩展性,同时兼顾成本,覆盖各个价位的车型。
这些要求也是英特尔的强项。在AI或计算领域,英特尔以性能、成本和稳定性兼顾闻名。
在大模型或先锋技术训练开拓中不一定首选英特尔,但在产品化和规模化落地过程中,一定首选英特尔。把智能汽车视为AI在汽车场景的落地,这一现象仍在持续。
英特尔不仅在芯片设计和制造方面具有优势,还为竞争激烈、差异化逐渐缩小的智能汽车领域带来了全新卖点、故事和差异化空间。
在英特尔入局之前,智能座舱竞争基本迈入安卓手机轨道:相同的底层平台,同质化比拼,终端和用户体验难以展现差异性卖点。而汽车发布会上,座舱的性能展示和体验已经固化,瓶颈明显。
英特尔的入局,几乎提供了全新的阶段和维度。
如果过去是将语音交互和手机娱乐体验带入汽车,即智能座舱的1.0时代。那么,现如今大模型上车、X86生态上车、以及生产力上车,则标志着智能座舱的2.0时代。
正所谓一个时代有一个时代的智能座舱,大模型正在重写一切应用,带来生产力,也需要全新的车载计算方案和车载芯片。
对于车厂而言,时代变迁中的铁律不变——供应链的多元性和冗余性非常重要。
汽车工业备受重视,与其关系重大,牵一发而动全身的供应链生态密切相关。供应商不冗余,车厂便难以掌握主动权。在智能汽车关键零部件中,座舱芯片是一个当前重要且亟待解决的领域。只有强大鲶鱼入场,才能将性能、体验和成本带入更优新阶段,实现车厂和汽车供应链生态的良性循环。
在智能汽车领域,特斯拉曾引发鲶鱼效应。而在智能座舱和智能汽车芯片领域,英特尔现也在引发类似的鲶鱼效应。
最后从技术角度看,大模型驱动智能座舱向AI座舱变革,英特尔率先拿出了从工具链到硬件平台的完备方案,站在了最前沿。
车企要在新的趋势中占先发优势,英特尔是至关重要的合作伙伴。
- 大疆自动驾驶,获中国销量TOP 2车企同时入股2024-12-17
- 比亚迪三十年庆,王传福:1000亿投入智能化2024-11-29
- 华为智驾首次上车比亚迪!38万元硬派越野车标配端到端2024-11-12
- 小鹏也背叛纯电了!增程首秀续航1400公里,自研智驾芯片亮相,还给老用户搞硬件升级2024-11-07