新创公司Gyrfalcon借由一款针对深度神经网络(DNN)打造的推论芯片正迅速崛起, 但也面对人工智慧(Artificial Intelligence; AI)芯片领域日益拥挤的市场竞争. 在该公司获得第一笔资金的一年后, 最近展示了可用的AI推论芯片, 并宣称在智能手机, 安全摄影机与工业自动化设备等领域取得多笔设计订单.
数据中心通常进行深度神经网络训练, 并利用一系列服务器对其执行推论任务. 目前, 从汽车到手机等领域, 越来越多的客户端和嵌入式系统都采用加速器以加速推论工作.
苹果(Apple), Google和华为(Huawei)等公司都已经在其客制SoC中推出搭载推论模组的智能手机了. Google和微软(Microsoft)也为其数据中心打造了推论加速器.
在多家供应商中, 目前隶属于英特尔(Intel)旗下的Movidius已开始出货推论芯片, 益华电脑(Cadence), Ceva和新思科技(Synopsys)则供应IP区块(IP block), 而Imagination和ARM也有相关计划发布. 此外, 目前还有至少十几家 AI新创公司仍然处于隐身模式, 其中包括由一群前Google芯片开发人员共同创办的Groq正致力于打造推论芯片.
市场观察家The Linley Group负责人Linley Gwennap表示: '有关AI推论芯片的大部份移动主要来自于IP供应商; 在很大程度上, 这将会是一个整合芯片的市场. '
Gyrfalcon自去年秋季开始推广其用于卷积神经网络(CNN)的Lightspeeur SPR2801处理器可用芯片. 它采用台积电(TSMC)的28nm制程以及7x7-mm封装, 内含数万个专用核心和嵌入式静态随机存取存储器(SRAM), 无需外部动态随机存取存储器(DRAM)即可实现9.3TOPS/W效能. 这些核心主要是具有相关存储器的算数逻辑单元(ALU), 以及用于控制数据流程的逻辑元件.
Gyrfalcon第一代Lightspeeur 2801采用APiM技术, 能够为云端和边缘提供较市场其他方案更高几个数量级的平行运算能力, 完成深度学习的各种训练和推理任务. 加速卡可搭配M.2和PCIe介面, 支援TensorFlow, Caffe等多个开放来源环境.
新芯片的开发理念来自于其共同创办人——首席科学家杨林(Lin Yang)在其1988年博士论文中提出的想法; 当时他在美国加州柏克莱大学(UC Berkeley)进行有关CNN的研究. 这款芯片专用于加速CNN, 这也是目前最广泛的神经网络应用之一.
Gyrfalcon共同创始办人兼总裁Frank Lin指出, 前五大智能手机制造商将在未来的旗舰级手机中导入这款芯片. 在中国, 一家大型保险公司将设计于其监控摄影机中, 还有上海的一家钢铁制造商也将在其检测系统中使用这款芯片.
杨林表示: '我们从去年2月取得第一笔资金后迅速发展, 在4月验证了FPGA, 9月中就完成在台积电的芯片制造. '
与Socionext, QuickLogic联手开发
Gyrfalcon在去年12月宣布其芯片将被用于索思未来科技(Socionext)的视讯分析平台, 搭配其平行处理器使用. 这款与Socionext, QuickLogic合作开发的产品将于3月上市, 土耳其安全监控系统制造商Bilkon Ltd.将是其首家客户.
QuickLogic正在评估Gyrfalcon芯片搭配其下一代感测器中枢, 用于各种 '可听式' (hearable)产品中检测唤醒词的可能性. QuickLogic技术长Timothy Saxe表示: '在十几家打造推论芯片的公司和QuickLogic评估过的公司中, 他们比其他公司更贴近我们的市场. '
Saxe说, 人工智能助理如亚马逊(Amazon)的 'Alexa将使人们想要更广泛的词汇进行更自然的语言处理, 所以我们必须透过结盟以加速这一过程. '
Gyrfalcon计划在今年6月推出支援更高性能的第二款产品, 并在今年年底前发表全新系列芯片. 它还将为大量客户探索量身打造低至50mW功耗的客制版芯片之可能性.
该新创公司设计了一款PCI Express卡, 用于服务器中搭配芯片. 此外, 它将跟随Movidius的脚步, 在4月时伴随新芯片发布一款USB dongle, 旨在吸引更广泛的CNN软件开发商.
'我们希望不是只有博士才能执行这项任务——这款USB dongle支援几种预加载的神经网络模型, 而且使用起来非常简单. ' 杨林在加入Gyrfalcon创业之前还曾经协助中国移动(China Mobile)推广其国际业务.
但他并未透露Gyrfalcon至今从来自中国, 韩国, 日本与美国的两轮投资中总共获得多少资金, 仅表示: '在2018年, 我们所筹措的资金已足以支持整体营运了, 再加上取得的设计订单和潜在订单, 今年可望获利, 甚至希望能够盈亏平衡. '
截至目前为止, 该公司有41名员工, 其中大部份的人员都位硅谷总部.
编译: Susan Hong