详情
大模型时代,边缘AI芯片技术架构将如何演进?
作者:来源网络(侵权删)
时间:2025-05-19 10:08:36
我们今天就来聊聊,边缘AI芯片在大模型技术驱动下将如何进行产业升级。
关键词: 大模型

如果说深度学习是培育智能的土壤,那么大模型就是这片土壤中生长出的参天大树。


依托深度学习的算法根基,大模型通过海量数据灌溉和算力滋养,将特征提取、模式识别等能力推向新维度,让人工智能从“感知”迈向“认知”新跨越。


随着AI大模型不断迭代升级,特别是在2025年春节期间以DeepSeek为代表的大模型技术开源化,不仅大幅拓展了人工智能的应用边界,也为边缘、端侧AI应用发展带来颠覆性变革。


除市场应用带来变革之外,大模型也将对边缘计算AI芯片的技术架构、应用场景和产业生态等方面进行重构。


那么,我们今天就来聊聊,边缘AI芯片在大模型技术驱动下将如何进行产业升级。


图片


视觉物联了解到,目前边缘AI芯片架构呈现多元化趋势,企业根据能效、算力、灵活性需求选择不同方案,主要有GPU、NPU、ASIC、FPGA、RISC-V和存算一体等。


其中,NPU因高能效占据主流,代表企业包括高通、瑞芯微、全志科技、恒玄科技、国科微和爱芯元智等。但因大模型运算使得边缘推理算力需求指数级攀升,传统单核NPU架构已无法满足需求,企业开始纷纷创新升级。


例如,为解决传统NPU芯片大模型推理效率不足问题,国科微创新提出MLPU芯片概念(面向多模态大模型的新型AI芯片架构),既能高效支持大模型推理计算,同时兼容传统小模型的高效推理。


据了解,国科微基于MLPU创新架构设计的AI SoC产品,预计将于2026年开始逐步量产上市。该架构具有高能效、低功耗、高性价比的特点;相比于市面已有的NPU芯片,能够更高效地支持大模型的端侧部署和推理应用,从而保证模型推理效率和应用效果。


同时,基于MLPU的创新架构设计,国科微积极布局AI生态建设。其围绕大模型及其大模型产品,深度优化适配,提供从模型压缩转化、推理部署、应用开发端到端全栈大模型工具链,方便开发者和客户能够简单高效地完成模型部署和应用开发。


而瑞芯微则通过Chiplet异构集成的方式,为满足不同市场、产品应用对性能和算力的差异化需求,其在自研NPU中内置不同性能层次的CPU、GPU内核,从而帮助客户有效缩短产品研发周期,节省研发投入。


面向AI大模型部署、大数据实时处理等场景带来的复合算力需求,多核化、专用化、低功耗的多核异构SoC也成为多模态复杂场景下的高效处理方案。


其中,全志科技通过集成CPU、GPU、NPU、DSP等不同架构的处理核心,可以在适应不同场景功能需求的同时,提升整体计算能力,结合软件系统带来的异构基础功能拓展衍生,构建起"分工协作"的高效计算体系,以支持更多样化的应用。


目前,全志科技的多核异构方案已经在大量产品场景中实际应用。例如,在消费电子产品中,通过协处理器在主核上电前预加载引导程序,异步解压系统镜像,同时延迟加载驱动至CPU启动后执行,使开机动时间相较传统方案显著提升,搭配低功耗控制、AI ISP视觉引擎,可将快启差异化类法案部署在低功耗IPC、智能门铃等产品中。


小结



大模型时代正推动边缘AI芯片架构从“专用加速”向“智能原生”演进,企业需在架构创新、生态构建和场景深耕三方面同步发力,推动边缘AI在消费电子、智能汽车和工业物联网等领域的规模化落地。未来,能效比优化、大模型端侧部署能力及生态兼容性将成为竞争关键。


近日,视觉物联联合AIoT星图研究院即将启动《2025边缘计算市场调研报告》,将从技术发展与落地应用等方面展开深度调研,揭示行业基本面,洞察竞争格局,为企业战略制定、投资决策、市场拓展等提供结构化的参考依据,欢迎边缘计算产业朋友一起参与报告调研中。

图片


上一篇:成功挂牌!(874771) 湖北四线城市一传感器公司登陆 “新三板” 下一篇:背靠北斗,这家卫星通信企业启动IPO!