6月17日消息，在3D架构AI云端大算力芯片领域深耕的算苗科技对外发布重要进展，其自主研发的3D TokenPU芯片A4E已于6月15日顺利完成流片。这款芯片聚焦于大模型推理场景的应用需求，依托自主研发的RISC - V架构，采用国内成熟的芯片制造工艺，致力于在推理场景中实现极致性能表现，同时降低总拥有成本（TCO）。

算苗科技创始人兼CEO汪福全，作为中科院声学所国家重点实验室的博士，在接受《每日经济新闻》记者采访时充满信心地表示：“我们并非在既有的赛道上艰难追赶，而是勇于开拓全新的方向。3D TokenPU芯片是专门为大模型的Token处理量身打造的，无需过度依赖制程工艺的持续缩小，就能够实现算力密度和能效比的显著跨越提升。”

图片来源：每经记者 刘曦 摄

据了解，A4E芯片在设计上独具匠心，它将8层存储晶圆垂直堆叠在计算逻辑晶圆之上。通过运用硅通孔（TSV）与凸点（bump）技术，实现了微米级的互联。这一创新设计，把传统芯片间毫米级的传输距离大幅压缩了两个数量级，从而带来了超大的访存带宽。这对于缓解大模型推理过程中，因数据搬运效率低下而引发的“数据饥饿”问题，起到了极为有效的作用。

从行业发展趋势来看，当前AI算力的需求重心正逐步从训练侧向推理侧转移。德勤的预测数据显示，从长远角度分析，全球推理负载在AI算力中所占的比例有望超过80%。与此同时，开源的RISC - V架构也正经历着从“备选方案”向“主流选择”的转变，在数据中心以及AI推理等应用场景中加速渗透。

车百智库发布的报告也指出，无论是汽车的电子电气架构，还是智能驾驶解决方案，都对算力的合理分布和高效利用有着极高的要求。可以说，算力已经成为智能汽车的核心要素之一。与车端计算芯片相比，云端芯片需要承担更为复杂的训练任务，以及处理海量的数据，因此对算力的要求更为强劲。

算苗科技的技术人员向记者介绍道，3D TokenPU芯片目前主要面向云端大算力AI推理场景。其应用范围广泛，涵盖了头部大模型公司的超节点服务器、大型智算中心服务器，以及部分金融等专业领域需要进行私有化本地部署的场景。随着汽车智能化程度的不断提高，汽车的智联、智驾功能日益普及，许多智能化处理任务都需要通过云端服务器来完成，这其中必然会涉及到云端AI服务器，也就为3D TokenPU这类推理芯片提供了应用机会。