对话清华大学教授马凯胜：AI芯片理论上可以远程?

清华大学交叉信息研究院副教授马凯胜强调了要点：1、高端AI芯片必须具备chiplet、3D Dram堆叠、3D Flash堆叠、晶圆级集成等先进技术路线。 2、从技术角度来看，芯片可以通过实时定位验证并远程关闭，因此使用海外厂商的芯片存在安全风险。 3、寒武纪股价超过茅台一定是好事，因为做芯片非常贵。 4、在Arctic Hero Core车载场景中，我们算是“先行先试”，可扩展性和时效性相对于传统方案有很大优势。制造|搜狐科技作者|张颖编辑|杨进：“国产芯片就是战场，今天我们因为技术，算力落后国外很多代。”近日，该所副教授马凯胜清华大学跨信息专家在搜狐技术交流会上表示，大规模模型将改变人们的生活，国内不缺与国外并驾齐驱的数据和算法。 AI芯片是必备的基础设施。马凯胜2018年毕业于美国宾夕法尼亚州立大学，同年受学者姚启智邀请回国到清华大学工作。研究方向为后摩尔时代先进芯片架构，荣获EDAA 2018优秀博士论文等奖项。 AI芯片，尤其是GPU，长期被NVIDIA“统治”，占据80%以上的市场份额。不过，从今年开始，国产AI芯片发展迅速。资本市场上，摩尔线程、木希科技、必仁科技等GPU头部厂商集体冲刺IPO。国内人工智能的发展hips也是基于安全考虑。 7月底，国家网信办就H20算力芯片后门漏洞的安全风险约谈了NVIDIA。此前，美国人工智能领域专家透露，英伟达计算芯片的“跟踪定位”和“远程关机”技术已经过时。马凯胜表示，从纯粹的技术角度来看，确实很危险。 Nvidia 是否锁定了该卡？因为 Nvidia 不希望任何人使用它进行“挖矿”。总体而言，马凯胜认为，国产AI芯片处于“以前不用，现在用”的状态。想要在芯片领域超越别人，就必须“另辟蹊径”，而不是走别人走过的路。例如，使用chiplet（3D DRAM堆叠、3D闪存堆叠、晶圆级集成）等技术来制造芯片。 2021年，马凯胜创立北极雄信公司任何。基于chiplet等先进技术，计划在AI、汽车、机器人三大领域打造芯片业务。他希望在“卡住”的基础芯片技术领域，推动采用不同技术路线制造的芯片的应用。 Chiplet概念起源于20世纪70年代诞生的多芯片模块。通俗地说，这意味着原来在同一个SOC中设计的芯片被分割成许多不同的小芯片。制造然后包装或组装。近年来，摩尔定律逐渐失效，算力的进一步积累成为一大挑战。这就导致了芯片集成的需求超出了掩模尺寸，甚至需要对多卡、多机器、多数据中心进行纵向扩展、横向扩展和规模交叉。搜狐科技马凯胜表示，chiplet技术可以让大型芯片变得更小，这在国内也具有非常现实的意义。国产芯片技术什么时候技术和良率仍在攀升，如何利用仍在攀升的良率工艺生产有竞争力的产品，以及如何利用国内相对有竞争力的封装技术具有重大的战略意义。以下为谈话实录： 搜狐科技：几个小时前，国家网信办约谈了英伟达公司，要求其说明在华销售的H20计算芯片存在“后门”漏洞的安全风险。从技术角度来看，该芯片能否实现实时定位验证和远程关机？马凯胜：确实有可能。比如说除了这个东西之外，Nvidia很早就锁定了这张卡，因为Nvidia不想让任何人用它来“挖矿”。大多数服务器都连接到互联网，理论上可以远程关闭并具有实时位置验证。但从公司的角度来看，并不清楚是否有必要花费如此大的精力来做这件事。苏u科技：尽管NVIDIA芯片存在一些风险，为什么商业公司仍然优先考虑NVIDIA？马凯胜：从实践来看，互联万卡、十万卡与国产芯片还有差距。 Nvidia具有更好的稳定性，但在互连技术和软件方面存在局限性。从推理上来说，NVIDIA的产品更有效，比如4090、5090级卡，毛利润只有50%，而且都采用先进的3NM、4NM制程技术。中国大陆由于已知原因仍存在显着差距，且产能有限。在惩罚方面，晶圆价格和NRE（非经常性工程成本）都偏高。搜狐科技：目前国产AI芯片的研发处于什么范围？凯胜先生：其实目前还缺乏一个比较公正的评价标准。许多公司声称自己做得很好，但实际测试结果却有所不同。根总体来说，（国产）AI芯片处于以前不能用，现在可以用的状态。搜狐科技：研发国产芯片紧迫吗？马凯胜：这是一个战场。这一代大型车型将真正改变人们的生活方式。所以我们不缺数据，算法至少也达到了标准，但是计算能力落后了好几代。芯片是基础设施。如果这件事情不解决，其他事情就更困难了。搜狐科技：为什么选择使用Chiplet技术来制作芯片？马凯胜：走别人的路是很难超越别人的，所以你必须“另辟蹊径”。例如，使用chiplet、3D DRAM堆叠、3D闪存堆叠和晶圆级集成也可以被认为是一种解决方案。通过chiplet，有望利用国产技术将单芯片计算能力提升数十倍。时间性价比，解决单片机性能有限的问题d 国内技术下良率较低。搜狐科技：您回国做芯片的初衷是什么？马凯胜：2018年4月，姚期智院士把我从美国招回来，目的是获得算力。姚先生极具战略眼光。当时我们觉得国际形势已经出现了一些分裂的迹象，我们必须储备相关技术。搜狐科技：你们建立的北极英雄核心主要有哪些场景？例如，在车内？马凯胜：从创始人的角度来看，没有规模的公司是没有意义的。汽车芯片的尺寸很好。中国市场每年有20-3000万辆汽车。这个批量市场可以使上下游供应链成熟，让供应链可以大批量出货，从而降低批量成本。我们与吉利、长安等大型车企的合作进展很快。我们现在处于 POC（Pro的概念）阶段。如果我们更乐观的话，也许明年我们会出货20万到30万件。在汽车场景中，我们被认为是“最先尝试的”，而且由于pinits的良好收获，这种技术路线比目前的解决方案便宜10%到20%。另外，贴装芯片当然也可以和机器人芯片一起使用，我们也在积极推动这一点。北极雄芯主要提供具有自主知识产权的国产智能芯片；我们明年推出的新一代产品可以有10TB的带宽，7B型号可以运行到800Token/s。搜狐科技：你们在大模特场景的进展如何？马凯胜：我们不仅针对客户端AI场景，我们也在做云推理解决方案。基于多年核心研发积累的NPU和工具链能力、模型优化能力、芯片到芯片的集成能力，公司积极推动促进专用解决方案的开发，以进一步加速基于云的 PD 隔离技术。通过Chiplet+PIM/PNM等前沿技术，整合全国供应链资源，有效解决大规模模型智能应用面临的成本痛点。与目前主流部署方案相比，公司性能进一步提升5-10倍，性价比提升10-100倍。大批量发货可能会在明年年底开始。我们已经有国内大型模型公司的订单请求，有上千台服务器可供使用。搜狐科技：国产AI芯片概念火爆，寒武纪股价一度超越茅台成为A股新王。对于这种现象你怎么看？马凯胜：这绝对是一件好事，因为芯片的生产是要花钱的，而股市融资的成本确实很低，可以推动芯片的发展。提供足够的储备资金。这对于整个行业来说是一个非常积极的消息。搜狐科技：北极雄芯近期完成新一轮过亿元融资。从您自己的创业经历来看，今年市场的温度如何？马凯胜：现在比几年前好多了。有很多趋势：从过去的美元一统，到现在的国有资产一统；从短期、激进的逐利资本转向耐心资本；另外，整个资本行业的精神都很好，大家都非常看好国家未来的形势和向上的发展。返回搜狐，查看更多