为AI/ML芯片提供更灵活、高效的运算核心

　　SiFive产品副总裁Chris Jones指出，AI技术快速演进，各种演算法与架构推陈出新，为了最佳化PPA，特别是在边缘端的推论引擎，业者普遍采用hard-wire的专用硬件加速器设计。但却因此缺乏可编程性，无法因应演算法的未来变化，这是目前主要的挑战之一。

　　「我们认为，边缘端的推论引擎有庞大商机，且其工作负载主要是AI、影像处理等，非常适合采用矢量处理。而矢量指令集扩充是原生RISC-V架构的一部分，对此深具优势。」

　　有监于此，SiFive已于2021年推出首款专为AI/ML打造的矢量运算核心X280，企图提供具可编程性的另一个选择。然而推出后虽有成功案例，卻发现许多客户仍不愿放弃自订加速器的做法。因此决定进一步扩充核心功能，真正满足市场的需求。

　　「我们学习到，客户会把X280作为神经网络加速器的协同处理器，NN相关运算在加速器中执行，再把数据传到X280做基本的矢量运算。由于数据的往返传输，不仅造成延迟，功耗也较高，因此我们新增了矢量协同处理器界面扩展(VCIX)功能，使客户的自订加速器能与X280直接介接，加速矢量运算的执行。」

　　由于无需再透过汇流排传输界面，此做法能显着提升自订加速器的执行速度。Google已是SiFive的重要成功案例，透过采用此架构来加速其AI运算。Chris Jones强调，对Google来说，他们可以专注于其专精的AI演算法运算，并运用我们优异的矢量指令集架构，结合两家公司的强项，将能为AI运算带来更大的突破。

　　此外，为了提供更高效能，X280也新增了多核心、多丛集功能，最多可扩展到4丛集、共16个核心，使其可适用于从一般的边缘装置，到更高端的应用。

　　X280自2021年推出以来，已取得了两位数的设计成功案例，「今年我们还会再继续推出新产品，例如支持更宽位元的矢量长度，并提供更高的运算效能，以持续推动创新。对我们来说，AI应用未来将触及各领域，而这正符合我们的矢量运算强项。因此，我们会把矢量处理功能带到更多的产品线，做整合性的强化。此外，车用市场也是一大重点，去年我们已推出车用处理器，2023年也将推出包含矢量运算功能的新款车用处理器。」

　　新推两款核心，推动RISC-V架构进入高端消费市场

　　另一方面，SiFive亦为Performance系列核心推出了两款具备矢量运算功能的新产品，分别P670与P470。Chris Jones表示，「P670是目前市场上最高效能的可授权RISC-V处理器，已获得市场的热烈反应，证明了RISC-V核心也能够朝高端市场迈进，足以与竞争对手的A77及A78核心真正的竞争。而P470则是锁定穿戴装置，能针对这类应用提供最佳的效能、面积与功率之间的平衡。」

　　SiFive拥有架构上的优势，能够提供更高的运算密度，也就是说在单位面积内，可提供比竞争对手更高效能的运算效能，或是以相同功率能够提供更高的效能，这是真正符合业界所需的。举例来说，就单一执行绪效能来比较，P470的运算密度是Cortex-A55核心的四倍，P670则是Cortex-A78核心的两倍。

　　「虽然ARM也有矢量扩展功能，但仅限于高端核心才有，其他应用则须采用NEON处理器。我们的方案可直接取代NEON，同时我们也提供了软件工具来协助客户从ARM架构转换到RISC-V架构。此外，即使客户熟悉SVE架构，我们亦能提供更具成本效益的解决方案。」

　　过去，纯量处理器是主流，但随着进入AI应用时代，Chris Jones认为，业界将需要矢量处理来支持更多的平行运算需求，这是未来运算的一个重要趋势。我们相信，乱序(OoO)、矢量的低功耗高效能运算处理器将会有广大的市场，这将为SiFive带来绝佳的成长机会，使RISC-V架构被更广泛地采用。