机器学习计算成本的绝大部分用于推理，这一比例高达90%。AWS发布的云端AI专用芯片Inferentia将极具成本效益。从软件到硬件，AWS的产品和服务覆盖面越来越广。就在本周，AWS还发布了基于ARM架构的Graviton云计算处理器芯片，这一产品更侧重于低成本高能效的计算。AWS在数据中心使用Arm芯片，或许将对英特尔的主导地位提出挑战。
据千讯咨询发布的《中国芯片市场前景调查分析报告》显示，AWS发布的上述芯片与此前收购的以色列芯片企业AnnapurnaLabs密不可分。2015年，亚马逊以3.5亿美元收购了这一公司。不过，这并不意味着AWS将重点转移到硬件上。AWS致力于打造自己的软件和服务，而硬件方面可以选择不同的硬件产品。AWS早期主要使用戴尔、惠普等OEM厂商的产品，现在则会自己设计硬件和芯片，欢迎不同的硬件供应商，希望能够获得合适的硬件价格，这样客户也可以降低成本，因此打造更好的客户体验。
纵观全球，越来越多的云服务厂商开始推出自己的AI专用芯片。在今年I/O大会上，谷歌发布了其第三代TPU芯片。阿里巴巴也在今年宣布将推出AI芯片。与英伟达、英特尔这些芯片厂商相比，云服务厂商的AI芯片计划仍处于相对初级阶段。同时，从目前来看，云服务厂商的芯片主要是自用，基于自身的AI应用打造，并不向外出售。
但这一趋势最终仍可能会影响传统芯片厂商的业务，因为AWS、谷歌和阿里这些云服务大厂是英特尔和英伟达等的重要客户。随着上述云服务厂商的自研AI芯片越来越成熟，他们将会减少对芯片供应商的依赖。同时，初创企业或许也将受到影响。据市场研究公司CompassIntelligence发布的全球AI芯片排行榜，除了英伟达、英特尔等传统芯片公司巨头，寒武纪、地平线等AI芯片公司也位居前列。这类初创公司吸引了众多投资者的兴趣，甚至在未发布产品的情况下获得大量投资。但是，初创企业能获得的客户有限，而且市场容量也有限。
从商业模式看，做芯片的目的是为了减少芯片的体积、功耗和成本。而要能够达到低成本，必须达到一定的销量，“这就意味着你要去做的应用场景必须是一个标准的可被复制的场景，不能太针对化。而一旦找到一个非常标准的应用场景，巨头们都进来了。在这种情况下，不是我们这种公司所能够做好的。