阿里平头哥发布AIoT芯片平台,欲引领芯片开发新模式

距离阿里云峰会平头哥宣布第一款产品“玄铁 910”近一个月,今天,同样是在上海,平头哥又发布其芯片版图中的又一重要产品——SoC 芯片平台“无剑”。

据介绍,无剑是面向 AIoT 时代的一站式芯片设计平台,能够帮助芯片设计企业将设计成本降低 50%,设计周期压缩 50%。作为系统芯片开发的基础共性技术平台,无剑由 SoC 架构、处理器、各类 IP、操作系统、软件驱动和开发工具等模块构成,能够承担 AIoT 芯片约 80% 的通用设计工作量,让芯片研发企业专注于剩余 20% 的专用设计工作,降低系统芯片的研发门槛,提高研发效率和质量,让定制化芯片成为可能。

阿里巴巴平头哥半导体研究员孟建熠在接受 DeepTech 独家专访时表示,相比推出更加具体形态的芯片产品,接下来,“无剑”这一芯片设计平台会是平头哥的工作重点。

无剑的诞生,包含了平头哥对未来芯片开发行业趋势的几点判断:AIoT 市场有强应用驱动和场景碎片化等特点,芯片公司按照传统的方式设计芯片都显得太重,很难去适应未来小批量、定制化的需求;在摩尔定律时代,芯片研发追求通用性,比工艺、比投入,在后摩尔定律时代,碎片化的 AIoT 场景对芯片的要求更多在于市场灵敏度,芯片研发比的是需求适配和成本。

“平头哥定位是做 IoT 芯片行业基础设施的提供者。无剑将代表新的芯片设计模式”,他说。

大象转身:行业呼唤新的芯片开发范式

去年的“中兴事件”、今年的“华为事件”引发了全国范围内对芯片产业的关注,在诸多讨论中,这个产业动辄需要上亿元资金投入、人才配套、投资周期长、风险大的特点暴露无遗。虽然现在 SoC 芯片设计方法相比 ASIC 设计方法已经有了很大的效率提升,但从 IP 到系统集成验证再到软件调试的过程依然耗时久投入大,再加上软件上面的投入,做一个芯片的整体成本很高。一旦梳理个中因果,还会发现其问题一环接一环还形成了死结,似乎一时难以突围。

究其源头回顾芯片设计的历史,1990 年到 2000 年,可以说是芯片设计 1.0 时代,芯片设计基于 AISC 流程进行,每次研发新的芯片都需从电路开始重新设计。2000 年以后,基于 IP 的模块化的设计方法将行业带入 2.0 时代,降低了芯片的开发成本和设计风险。

现在,这种 2.0 模式面临的最大挑战便是 AIoT 提出的新需求:碎片化的计算场景将成为主流,通用芯片难以通吃,还有与日增长的异构计算需求。

据预测,2025 年全球联网的 IoT 设备将超过 400 亿台,其中 80% 需要 AI 加持。AIoT 市场的强应用驱动和场景碎片化等特征,势必催生小批量、定制化的芯片设计需求。通用芯片时代的芯片设计方法成本投入高、设计周期长,很难应对未来定制化特色化产品挑战。这也是为什么很多 AI 芯片初创公司涌现的原因——大家都希望在某个细分市场分一杯羹。但最根本的问题仍未得到解决,即新的时代需要一个什么样的芯片开发范式?

放在更广阔的时空背景下,芯片的设计逻辑发展至今,又到了该“大象转身”的时刻。

(来源:DeepTech)

世界需要更加高效的芯片设计方法。芯片设计进入 3.0 时代,追求的是在基础框架/模板基础上,定制符合应用需求的芯片产品,以最快速度推向精准市场。

事实上,这个逻辑已经在互联网的发展上得到验证:互联网的底层基础设施基本上实现了统一和开放,加之各种各样丰富的开发工具链、软件包以及配套开发流程,创新生态各大要素的到位使得互联网产品能够快速迭代优化、对市场需求快速反应,互联网的市场价值终于在过去几十年内实现了大爆发。中国科学院院士倪光南也曾表示,开源软件的成功根源于用户和市场对其有强烈需求,因为开源软件有源代码,可以及时作出修改,可以快速适应变化的市场需求,受到青睐。

平头哥则认为,AIoT 时代的市场竞争重点就在于这种快速反应速度,像“无剑”这样的统一基础设施+定制化开发芯片的模式,将能满足 AIoT 芯片市场需求,帮助厂商快速部署其芯片,实现类似互联网市场的快速试错迭代的节奏。

“如同造房子需要砖块、钢筋、水泥等基础的产品,这些就是造房子的基础设施,然后给一张图找施工队就可以建了。从芯片行业看,基础设施就是 CPU、存储器、核心 IP、芯片架构、OS、基础软件等等,未来芯片行业也是一样,基础设施标准化,找到好的芯片设计团队,就可以快速造出芯片产品。

AIoT时代做芯片,不是比谁做的芯片投入大,谁做的芯片通用,而是比谁做的芯片更贴近应用,更快地推出产品。7 月 25 日我们发布的玄铁 910 RISC-V 处理器,是我们基础设施里面非常重要的一块,它是整个软件生态的起点,今天的无剑,是我们基础设施里面第二个内容”,孟建熠说。

(来源:麻省理工科技评论)

无剑出鞘:让天下没有难做的 AIoT 芯片

“无剑”典出金庸小说。独孤求败四十岁前使用玄铁重剑,“四十岁后,草木竹石均可为剑,渐进于无剑胜有剑之境。”顶级剑客手中无剑,正如平头哥无剑平台并无芯片,但可帮助各路芯片设计企业“铸剑”。

基于无剑,平头哥提出了芯片设计的“平头哥模式”——以无剑平台为核心,面向应用领域全栈开放集成,实现处理器、算法、操作系统等软硬件核心技术的深度融合,为企业提供从芯片到应用的全栈技术能力。全栈、开放、被集成是平头哥模式的三大特点。

更具体的介绍是,无剑平台将是集芯片架构、基础软件、算法与开发工具等于一体的整体解决方案:

在硬件上,为了充分发挥各种不同硬件的效能,平头哥团队打造了一个多场景灵活可配置的异构 AI 加速引擎框架,该 AI 加速引擎可以是用户自定义的。平头哥提供神经网络加速库及异构编译器技术,向芯片厂商提供多粒度的硬件抽象接口;芯片厂商可以根据硬件特征(无论是面向低功耗低成本的语音芯片还是高性能高实时性的视觉芯片),都能快速对接到 AI 加速引擎,并可高效地发挥硬件性能。该引擎支持当前所有主流框架,几乎所有的标准模型都能够在上面一键部署;它也提供一套便捷的自定义层开发接口,方便开发者多样化需求。

在应用开发上,平头哥开发了一套标准统一的应用开发框架,同一个应用可以在不同算力的硬件上进行无缝迁移。另外,为了进一步降低使用难度,提升开发效率,平头哥集成开发环境完美融合该引擎,并添加一键部署、图形化算力分析、异构多核联合调试等功能,解决实际开发过程中最困难的问题。根据实际客户开发数据的统计,整个软件框架可为芯片厂商节省 60% 的 AI 基础软件开发成本,缩短方案厂商50%的应用开发时间。

据 DeepTech 了解,无剑的软件算法均为自研,自研的人力主要来自达摩院和阿里云。

而平头哥此前发布的“玄铁 910”,将是无剑视觉平台的主控 CPU,玄铁 910 与芯片设计公司自研的 AI 加速引擎形成高性能异构计算的完整方案。

图|玄铁 910(来源:DeepTech)

发布会当天,平头哥发布了无剑视觉 AI 平台,平台基于高性能玄铁全系列 CPU,最大存储带宽 400Gbps,单通道 PCIE 接口带宽 16Gbps,可支持 16TOPS 以下的边缘侧 AI 计算需求。该平台已经应用到多家 IoT 厂商的产品中,产品包括多媒体 AI 芯片、AI 视觉芯片、边缘 AI 服务器芯片等。

无剑平台同时对IP公司开放,吸纳全球最有竞争力的 IP 产品与无剑平台进行原型流片验证,提供硅验证可量产的芯片级整体解决方案。未来,无剑平台还将面向 MCU、工业、安全、车载、接入等应用领域,持续推出面向领域的 SoC 平台。

“转身”之后能看到什么?

据孟建熠介绍,以无剑 SoC 平台为例,作为一个高效开发系统芯片的基础共性技术平台,无剑可为芯片设计企业提供基础支撑,减少约 80% 的通用设计工作量,从而专注于 20% 的专用设计工作,大幅提高系统芯片的研发效率和质量,降低研发门槛。

换句话说,80% 的通用工作量形成芯片开发的基础设施之后,20% 的专用工作能够让厂商更加注重来自端侧的需求,快速构建出面向特定应用领域的系统芯片,由此带来的可能是 80% 的商业价值。

“很多中小企业技术上并不是最先进的,他们和大企业比拼的是满足需求的速度快慢。小企业如同一条小船,面对新的需求市场灵敏度高,而大公司如同航空母舰,它要转弯难度挺大。大公司靠技术吃饭,小公司靠市场吃饭。体现在芯片上,通用芯片是大鱼,体量大,但在IoT领域,通用芯片难以考虑定制化的需求。

过去,芯片厂商需要进行前端论证得很好才能开发芯片,现在,有了芯片平台赋能,很多中小型公司可以快速定制出芯片产品,我们可以实现定制芯片、实现快速迭代。快速迭代,意味着快鱼就能吃掉慢鱼,这个格局变化我们今年就能看到”,他说。

(来源:DeepTech)

目前,这个“快鱼”的名单上已经有了清微智能、云天励飞、博雅鸿图、杭州微纳等公司,他们已经在无剑上开发相应的芯片产品。

对于平头哥来说,无剑是一个探索新时代的芯片设计方法的产物,留给我们的最大悬念,是其是否能引领 AIoT 时代芯片设计范式。孟建熠表示,接下来无剑发展的最大不确定性便在于 AIoT 的市场能否迎来爆发期,“市场起来的周期可能是 1 年,也可能更长”。

(来源:阿里巴巴)

但必须承认的是,随着玄铁和无剑的登场,在整个阿里平头哥的存在感也变得越来越强。对于阿里来说,无剑的问世和阿里云形成云端一体的进化格局。

端云一体指的是下一代芯片产品开发的时候不仅要考虑到端上的计算能力,还要考虑云上的能力,两层能力共同进化。典型表现在 AI 芯片的网络模型需要频繁地与云端互动,需要从芯片底层到操作系统方面的架构支持。平头哥隶属于阿里云智能,将根据阿里云业务场景进行云端一体架构的探索与尝试,具体到无剑AI芯片平台上,其端云一体体现在围绕云计算的场景中,端侧设备具有实时与云端应用互动的能力。

另外,阿里云是国内最大的云服务商,在云端已经有了丰富的应用生态资源。基于平头哥芯片平台的产品能天然接入阿里云,与云端应用生态对接后将形成新的产品形态,相信也会是无剑的市场吸引力之一。