一芯6系统,车端大模型!国产芯片黑科技即将上车

rmbk17e56

时间 2024年5月2日 预览 110

转载:https://www.toutiao.com/article/7363964613023531520/

2024-04-30 17:27·智能车参考

贾浩楠 发自 副驾寺智能车参考 | 公众号 AI4Auto

北京车展比车企竞争更激烈的,恐怕就是车的供应链了。

两个大趋势:所有玩家集体拥抱大模型;以及所有品类关键零部件,都在上演和整车一样的“自主超车、替代。”

新的趋势下,有一家公司格外与众不同——

芯驰科技,刚刚坐上了国内智舱芯片“一哥”的位置,还发布了一系列确保持续领先的黑科技。

十亿级参数大模型,怎么上车?

芯驰最新座舱芯片X9CC,以及明年的X10产品,最主要的优势是面向中央计算,并支持大模型的车端本地化部署。

芯驰给出的具体数字,是十亿级别参数的大模型,直接上车。

所以这就有两个问题,首先是为什么大模型要在车端本地部署,以及为什么是十亿级参数?

分别来看,大模型车端直接部署,可以带来座舱交互体验的直接提升。

比如更强大的语音助手直接部署在车端,体验上不再区分“在线”和“离线”,任何时间任何地点,都能做到“有问必答”的强大交互能力。

或者你在车上点燃一支烟,座舱摄像头捕捉到信息后,图像模型首先调用X9CC的计算资源,识别并理解你的动作,之后再由座舱“大脑”(通常是一个多模态大模型)做出决策,向不同MCU给出指令,执行一系列打开天窗、开启空气净化、弹出烟灰缸等等动作,一气呵成,不需要用户单独给出指令。

第二个问题,为什么是十亿级参数模型上车?而不是像ChatGPT那样千亿级参数大模型?

实际上,千亿参数级别的通识类大模型,用户一侧任何终端设备,都没办法配备如此强大的计算资源,能耗受不了,成本也受不了。

你体验的“大模型”,其实都是依赖网络的应用,从来没有任何一个是直接加载在你的设备上的。

智能汽车也是同理,但面临更复杂的问题。首先是任务更复杂,需要综合语音、文字、图像等等;第二是汽车难以保证永久稳定的网络连接。

所以车端大模型本地化、专用化(小型化)和云端配合部署,就成了一个大趋势。

而AI算法公司们在研发过程中发现,几个billion或十几个billion参数的专有模型,处理特定任务其实比规模巨大的通识模型效果更好。

而这样规模的模型,目前对应的就是几十TOPS算力芯片。

所以这也基本确定了芯驰X9CC的参数:上一代X9SP的NPU算力为8 TOPS,而最新的X9CC,算力扩大了3-5倍。

实际上,芯驰CTO孙鸣乐认为,首先是芯片架构、算力的发展促成了大模型的上车趋势,但随后会进入一个软件定义芯片的时代。

即用户、车企对智能座舱的功能需求,以及智能汽车底层电子电气架构的演变,共同决定芯片性能参数。

这也是为何X9CC还在NPU外,还在单个芯片中集成多种高性能计算内核:

24个Cortex-A55 CPU,12个Cortex-R5F CPU,2个NPU,4个GPU,4个Vision DSP,以及支持国密算法的Crypto引擎。

所以,X9CC不仅是一款座舱芯片,更重要的角色是中央计算处理器。

一芯6系统

这也是芯驰X9CC产品的一大独特亮点:

单芯片可支持运行六个独立的系统。根据软件部署,X9CC可以支持各个运算内核在不同系统的灵活配置,合理分配算力资源。

具体来说,这6个不同系统分别是:

负责娱乐导航的安卓、负责液晶仪表的QNX、负责

Copyright2025黑虎科技

拨打电话拨打电话

Copyright2025黑虎科技