离职芯片巨头,清华校友携手创立AI芯片公司,获英诺等投资

黄泽正 2023年06月27日 创业者说
离开巨头,避开巨头,领先巨头

AI芯片正在成为新的摇钱树。 

据业内人士透露,因为英伟达AI芯片供不应求,有人从机房把旧A100芯片拆出来倒卖。这些旧货非但没有贬值,反而卖到10万一片,比去年同期新品8万左右的售价还要更贵。 

自AI大模型风起以来,英伟达显然吃到了最多红利,股价一路飙升,市值突破万亿美金。业内只能一边感叹黄仁勋all in AI的远见,一边被动接受英伟达对AI芯片市场的垄断。 

但出身国际芯片巨头公司的 方绍峡、原钢 两人,却认为 “巨头公司不可能覆盖行业的方方面面,初创公司在AI芯片市场还有很大的机会。”

因此他们离开国际芯片大厂,在今年4月创办了自己的AI芯片企业—— 原粒半导体 。据小饭桌了解, 原粒是一家AI Chiplet供应商,通过提供高能效、低成本的通用AI Chiplet组件与工具链,为多模态大模型提供算力支持。

近日,原粒半导体宣布完成数千万元人民币种子轮融资,本轮融资由英诺天使基金领投,中关村发展集团、清科创投、水木清华校友种子基金、中科创星等多家机构跟投。本轮融资将用于公司核心团队组建以及创新技术研发。 

本轮领投方,英诺天使基金创始合伙人李竹在被投企业创始人群里写道:“当新一代AI大模型出现,最大的需求和瓶颈就是算力,英诺相信绍峡、原钢能解决其中的一些关键问题。” 

在当下,什么样的AI芯片初创企业还能拿到融资?为此,小饭桌找到了原粒创始人方绍峡、原钢,希望了解芯片行业老兵对AI算力竞争格局、国产芯片替代、大模型支撑等现实问题的看法。 

大模型时代,AI Chiplet迎来新机遇

“随着大模型时代到来,AI算力芯片设计范式正在发生巨大的变化。” 方绍峡告诉小饭桌。 

在创立原粒半导体之前,方绍峡是国际半导体巨头下一代AI处理器架构审批委员会成员之一,该委员会成员全球共有六位,每位都拥有对新一代AI专用处理器的一票否决权。 

方绍峡发现,在过去数年间,客户对语言类模型的需求,已经上升到整体业务量的三分之一,且这一比例还在持续攀升,业务模型本身也呈现出显著的多模态趋势。 

方绍峡判断,AI大模型创造的窗口期非常宝贵,行业对新一代的AI 2.0算力芯片也有切实需求,在行业发生巨变之际, 以创业公司这种更加轻巧的方式入局,会比留在行业巨头中更容易抓住市场机遇。

而针对创业公司与大公司之间客观存在的差异性,原粒半导体所选择的,是更加 高能效、低成本AI Chiplet(芯粒) 技术路线。 

Chiplet是一种新的芯片设计理念,通过将不同工艺和功能的小规模硅片,像拼接乐高积木一样整合,再通过芯粒互联和封装技术进行封装,可以在降低成本的同时获得更高的集成度。 

这种新型AI芯片架构,天然具有更高的计算弹性和更好的算法适应性。 根据Omdia报告,2024年Chiplet的全球市场规模将达到58亿美元,2035年将超过570亿美元,Chiplet市场前景广阔。 

方绍峡认为, 通用AI Chiplet将是AI 2.0时代算力芯片的核心。 “因为AI 2.0时代算力芯片不仅需要高计算性能,也需要强大的自适应互联能力。” 

原粒半导体采用多模态AI处理器技术来设计AI Chiplet。 

通过这种创新技术, 客户可以根据实际业务需求灵活、快速配置出不同算力规格的AI芯片,例如自动驾驶芯片、智能机器人芯片等。

而通过芯粒积木式组合的方式,则可以支持大算力扩展,以满足超大规模多模态模型的推理及边缘端训练微调需求,以此解决各类客户在不同场景下的实际问题。 

出身国际半导体巨头,交过更多学费

当然,正确的技术路线只相当于开了个好头,在技术门槛更高的AI芯片领域,研发团队的技术背景和行业积淀,往往决定了技术路线能否最终落地。 

在技术背景方面,原粒半导体的核心团队来自国际半导体巨头,深耕AI芯片领域多年。 

原粒半导体创始人兼CEO方绍峡博士毕业于清华大学电子工程系,拥有10余年高性能处理器架构与SoC芯片研发经验,30余项AI芯片美国及中国发明专利。曾任国际半导体巨头AI处理器研发总监,所负责相关成果已成为其AI加速器的核心技术之一。 

原粒半导体联合创始人原钢毕业于清华大学电子工程系及中科院半导体所,拥有20年+集成电路从业经历,曾任芯片设计服务上市公司销售及技术支持经理、知名AI芯片初创公司芯片商务拓展总监、国际半导体巨头AI及异构计算业务负责人等,AI芯片市场、销售经验丰富。 

- 原粒半导体联合创始人 原钢 -

除了出身行业巨头的背景,原粒半导体团队还拥有丰富的行业实战经验。 

用方绍峡的话来说:“原粒团队是业界最早做AI芯片的团队之一,七年来从创业公司一路走到国际半导体巨头,交过的学费,踩过的坑,比一般创业公司要多得多。在AI芯片领域,行业积淀非常关键。” 

AI芯片的需求并非最近才出现,早在AI 1.0时代,就已经涌现了如地平线、寒武纪、燧原科技、瀚博半导体等一批知名AI芯片企业。这意味着,现阶段如果创业公司要一切从零开始,将很难在竞争激烈的AI芯片市场拥有一席之地。 

方绍峡也告诉小饭桌: “没有前六七年的技术积累、行业迭代,AI芯片不可能拥有今天的技术进展,但是市场不会再给创业公司六七年时间,再走一遍同样的路了。”

因此,某种程度上,AI芯片行业对新人并不友好,往往只有在AI芯片领域里经历过长期历练沉淀、拥有宽广视野、积累了足够Know-how的团队,才能抓住AI 2.0时代的机遇。 

做跟巨头不一样的AI 2.0芯片

同时拥有国际半导体巨头公司与AI芯片创业公司经验的另一优势在于, 原粒半导体团队相对了解巨头与初创公司之间的差异性。

“巨头们的主战场,是面向数据中心应用的超级AI算力芯片,而对于创业公司来说,受制于各方面因素,正面迎战巨头难度极高。”原粒联合创始人原钢告诉小饭桌,“更合理的做法应该是, 从巨头尚未覆盖的市场空白切入,在特定领域领先巨头。”

按照原钢的说法,巨头尚未覆盖的市场空白主要可分为技术、市场需求两个方面。 

首先在技术侧,随着通用大模型日渐走向更广泛的应用,原粒半导体团队判断大模型必然走向边缘端,届时英伟达所擅长的GPU芯片并不能发挥最大功效。

简单来说,GPU更适合数据中心端大模型的高并发输入场景,多个并发请求同时输入,可并行同时处理,性能高度优化。 

但边缘端单一请求场景下,并不具备这一条件,GPU无法充分发挥其性能,大量面积与功耗浪费,性价比和能效比较低。 

而随着大模型开源力量快速崛起,出现了一系列尺寸相对压缩但效果优秀的大模型,这意味着在边缘端,高性价比部署多模态大模型成为可能。 

通过将大模型计算任务部署于接近数据产生源的网络边缘,利用边缘资源为用户提供大量服务或功能接口,既可以减少上传至云数据中心的数据量,缓解数据中心带宽与计算压力,也可以以更低延迟、更低成本、更高能效满足客户需求。 

此外, 在市场侧,原钢表示,面对垂直行业对高性能、低成本、规格灵活的算力支撑的切实需求,在边缘端以SoC +AI Chiplet组合的方式,既能节约成本、缩短响应时间,也可以给边缘端大模型应用提供高性价比的算力基础,本质上是在与行业巨头进行差异化竞争。

相比传统方式,AI Chiplet对客户需求的满足更加灵活。 

比如在自动驾驶领域,原粒半导体的芯粒可以支持车端多模态大模型推理部署,给客户带来全新可能。同时,芯片算力规格定义更加灵活,可根据用户实际需要缩放,切换成本更低,产品到市场周期也被缩短。 

“AI 2.0芯片设计范式正在迎来巨大改变,算力需求也远未得到满足。因此尽管当前市场被巨头高度垄断,AI芯片市场仍有初创公司的位置。关键是要给客户提供足够的差异化价值。”方绍峡告诉小饭桌。 

本文是小饭桌原创文章,作者:黄泽正,如需转载请注明出处。
赞(0)
呵呵(0)

最新文章