人工智能加速器芯片被大肆炒作，但这个市场究竟有多大，如今有哪些公司是真的在卖人工智能芯片的？
来自ABI Research的两份新报告详细分析了当今人工智能芯片组市场的发展状况。其中，ABI Research首席分析师Lian Jye Su谈到了正在进入这个潜在利润丰厚市场的公司和技术。
云端的人工智能
第一份题为“云AI芯片组：市场格局和厂商定位”的报告，突出了云AI推理和训练服务的快速增长情况。ABI Research由此预计，AI芯片组市场规模预计将从2019年的42亿美元增长到2024年的100亿美元。目前这一领域的领导者Nvidia和英特尔正受到来自Cambricon Technologies、Graphcore、Habana Labs和Qualcomm等公司的挑战。
据Su介绍，Nvidia仍然是这个市场明显的领导者，这主要取决于Nvidia具有成熟的开发者生态系统及先发优势。
“随着人工智能模型、库和工具包的不断变化和更新，Nvidia成为了一个很好的选择，因为它能提供通用AI芯片组。当然，随着市场的不断成熟，这些优势将逐渐弱化，但至少在可预见的未来，Nvidia仍将处于强势地位。”
今天的云AI芯片组市场可以分为三个部分：首先是托管公有云的云服务提供商，包括AWS、微软、谷歌、阿里巴巴、百度和腾讯等；其次是企业数据中心，也就是私有云；此外，还有混合云，也就是公有云和私有云(VMware、Rackspace、NetApp、HPE、Dell)的结合体。
该报告还确定了另一个新兴的细分市场——电信云，指的是电信公司为其核心网络、IT和边缘计算工作负载部署的云基础设施。
Su表示，这个新的细分市场为AI芯片组制造商带来了巨大的机遇。
“我们已经看到了像华为这样的网络基础设施厂商，还有诺基亚这样的厂商，推出了针对电信网络功能进行优化的ASIC。这是一个巨大的市场，Nvidia最近也一直在努力进入这个市场。”
虽然Su认为短时间内其他厂商无法取代Nvidia在云端AI训练领域的主导地位，但具体在AI推理领域却并非由一家厂商主导，这在一定程度上是由推理工作负载在垂直方向各有不同的性质决定的。他说，预计ASIC将从2020年开始在该细分领域实现强劲增长。
眼下，将AI推理转移到边缘设备这一趋势意味着智能手机、自动驾驶汽车和机器人等设备对云的依赖减少了，但这并不意味着推理工作负载——一些云服务提供商认为推理工作负载要比训练工作负载大——就会减少，Su这样表示。
“一些人工智能永远不会走向边缘，例如聊天机器人和会话AI、欺诈监控和网络安全系统。这些系统将从基于规则的系统发展为基于深度学习的人工智能系统，这实际上会增加推理的工作量，使其足以取代那些转向边缘的推理工作负载。”
此外，谷歌的TPU可以解决在云端进行训练和推理问题，被视为CPU和GPU技术(分别由英特尔和Nvidia主导)的强大挑战者。正如报告所述，谷歌在TPU上取得的成功为其他自主开发AI加速器ASIC的云服务提供商(CSP)提供了蓝图，例如已经行动起来的华为、AWS和百度。
如果云服务提供商都在使用他们自己的芯片组，那么对于其他芯片组提供商来说，这个细分领域还有市场空间吗？
这对于刚开始使用自己芯片组的CSP来说是极具挑战的，我们甚至预测，到2024年CSP这个市场将下降15%至18%。而机会更多地来自于私有数据中心领域。银行机构、医疗机构、研发实验室和学术界仍然需要运行人工智能，他们会考虑使用那些针对AI工作负载进行了更多优化的芯片组，这就给Cerebras、Graphcore、Habana Labs和Wave Computing等新手提供了一些优势。
其他将从这些趋势中受益的是IP核心授权厂商，例如ARM、Cadence和VeriSilicon，他们将负责帮助那些甚至是开始自主研发的企业进行芯片组设计。
边缘的人工智能
ABI第二份题为“边缘AI芯片组：技术展望和使用案例”的报告称，2018年边缘人工智能推理芯片组市场规模为19亿美元，边缘训练市场规模为140万美元。
今天有哪些应用是在边缘位置进行训练的？Su解释说，这些数据中包括网关(历史数据库或设备Hub)和内部部署服务器(在私有云中，但物理位置是靠近AI数据生成的地方)。专为内部部署服务器的训练任务设计的芯片组包括Nvidia的DGX，华为的网关和服务器，其中包括Ascend 910芯片组，以及针对来自Cerebras System、Graphcore和Habana Labs等内部部署数据中心的系统级产品。
“‘边缘训练’市场仍然很小，因为云仍然是人工智能训练的首选，”Su说。
边缘AI推理是2019年至2024年期间边缘人工智能市场实现31%复合年增长率的主要推动力。Su提到了三个主要市场(智能手机/可穿戴设备、汽车、智能家居/白色家电)以及三个利基市场。
