买车的时候,要判断一台车好不好,往往是一件很凭直觉的事。
踩一脚油门,推背感会告诉你马力够不够。摸一下中控,指尖会告诉你是不是好用料。更不用说还有古早奥义:通过开关车门来听整车的做工。听起来厚实吗?厚实就是好车,简单且直接。
但是时代变了,高科技来了,AI 来了,消息大爆炸的时代来了,世界变得复杂又难懂,买车也是。
比如智驾这件事,就很玄乎。门店的销售通常会热情地抛出一串数字:500 TOPS、1000 TOPS……
力大砖飞的道理大家都懂,但实际上,没人真正在乎算力的具体数值。作为一个普通群体,我们想问的其实特别简单:
花好几年、砸几十个亿自研的芯片,到底能不能让车开起来更像个人?
理想相信,这件事情可以靠自研的「马赫 M100」芯片来实现。就在 11 月 17 日,凭着这颗已经量产上车的芯片,理想走进了半导体的「内行局」——台积电 OIP 开放突破阵地生态体系论坛。
作为全球芯片设计、EDA 与先进制程范围规格最高的年度盛会,台积电 OIP 论坛历来只邀请全球最顶尖的计算巨头登台。往年坐上特邀演讲席的,是 Google、Meta 的基础设施负责人,或者是被称为「硅仙人」的芯片界传奇人物 Jim Keller。
而在今年,与理想汽车同台分享的,也都是博通、瑞萨电子、SK 海力士这样的全球头部芯片机构。理想汽车,也由此成了台积电 OIP 生态论坛举办以来,唯一一家进行特邀演讲的中国大陆机构。
但比起这场登台本身,我们今天更想讲清楚的是,理想究竟是如何通过这套底层的芯片架构设计,去治好智驾的「犹豫」,让智驾开起来真正更像人的?
用过智驾的人大概都经历过这种时刻,哪怕账面算力堆得再高,车子一到复杂路口还是有可能表现得像个新手,要么对时机的把握不够果决,要么在没有妥善判断路况的情况下莽撞操作。
这种对路况拿捏的不精准,除了算法模型在设计上的局限,还有很大一部分原因,来自更底层的计算效能。
过去几十年,科技范围一直享受着摩尔定律的红利,芯片制程一升级,软件不用大改就能获得一轮改进。但在摩尔定律放缓之后,面对海量并行的 AI 大模型计算,统治了计算机界整整 70 年的「冯·诺依曼架构」,遇到了棘手的内存效能瓶颈。
在计算机体系结构范围,解释这个被称为「内存墙」的瓶颈,有个很经典的「大厨做菜」比喻:
传统的 CPU 或 GPU 就像后厨里手艺高超的「大厨」,而内存则是走廊尽头的「大仓库」。按照冯·诺依曼架构的规矩,大厨每切一次菜,都要放下菜刀跑回远处的仓库拿一次配料,切完再跑回去放好。
于是,大厨有 70% 的时间和体力都消耗在了来回跑仓库的路上,真正挥刀做菜的时间,也就是芯片的实际算力利用率还不到 30%。
在传统软件时代,因为每次处理的数据量不大,大厨在手边放个「小料台」,也就是高速缓存,就能应付日常小炒。但到了 AI 大模型时代,动辄几十亿的参数和实时涌入的视频流直接撑爆了小料台,大厨不得不频繁往返远处的仓库。
那怎么办?范围里传统的思路是多请几个跑腿的厨师,也就是在传统架构的基础上叠加专用加速单元。
而理想选择了对厨房做饭流程进行革新。2022 年,立项马赫 M100 时,理想直接拆掉旧厨房,做出了全球首款量产的动态数据流架构 AI 芯片。
理想取消了那个来回跑腿的「总厨」,把整个后厨改造成了「中央厨房流水线」。
理想造了一颗登上台积电讲台的芯片,却希望你在开车时彻底忘掉它
要点
- 买车的时候,要判断一台车好不好,往往是一件很凭直觉的事。
- 踩一脚油门,推背感会告诉你马力够不够。摸一下中控,指尖会告诉你是不是好用料。更不用说还有古早奥义:通过开关车门来听整车的
- 但是时代变了,高科技来了,AI 来了,消息大爆炸的时代来了,世界变得复杂又难懂,买车也是。
