英特尔能否在AI Space中与NVIDIA竞争

在过去几年中，英特尔(INTC)一直将其重点从PC转向以数据为中心的业务。它正在寻求利用未来的技术，如人工智能，自动驾驶汽车和5G网络基础设施。NVIDIA(NVDA)是AI领域的领导者。英特尔已将NVIDIA确定为其AI竞争对手，因为数据中心更倾向于使用后者的Tesla GPU(图形处理单元)来处理其AI工作负载。英特尔试图通过其Altera现场可编程门阵列，Xeon Phi处理器和传统的Core处理器与NVIDIA的Tesla GPU竞争。

为了加速在AI领域的努力，英特尔投资了以色列人工智能创业公司Habana Labs和NeuroBlade，并于2016年收购了AI创业公司Nervana Systems。在Hot Chips研讨会上，英特尔发布了首款基于AI的Nervana NNP(神经网络处理器)：NNP -T用于训练，NNP-I用于推理。尽管拥有自己的制造设施，但英特尔正在台积电(TSM)的16纳米(纳米)CLN16FF +处理器上构建这些NNP。之所以这样做，是因为在英特尔收购之前，Nervana Systems已经开始在台积电的节点上制造NNP芯片。制造设施的任何转变都可能导致产品延迟，产量低，产品质量不佳。因此，英特尔决定继续与台积电合作。

英特尔深入学习培训和推理

到目前为止，英特尔正在优化其现有的通用Xeon CPU(中央处理单元)，用于DL(深度学习)培训和推理。这种技术效率不高，因此它开发了专用处理器，以便在各种类型的DL模型中提供灵活性和效率。

英特尔的NNP-T(代号为Spring Crest)是一款可扩展的16 nm处理器，具有专门用于AI工作负载的24个张量内核。即便是NVIDIA的Volta和Turing GPU以及Google的自定义张量处理单元也会使用AI的张量核心。NNP-T具有32 GB的HBM2(高带宽内存)，可提供119 TOPS(每秒理论运算)的性能。CPU支持x16 PCIe 4.0(外围组件互连快速)连接，预计功耗为150-250瓦。Nervana Systems使用TSMC先进的基于芯片的基板上芯片封装将所有这些元件连接在一个芯片上。

Intel’s NNP-T balances memory, processors, and networking, which enables it to train a network on larger models and datasets within a given power budget. NNP-T has four-lane quad small form-factor pluggable network ports, which enable users to connect multiple NNP-T chips together on the same chassis. NVIDIA also offers such a feature, with which consumers can connect multiple Tesla GPUs.

与NNP-T(从零开始构建)不同，NNP-I(代号为Spring Hill)是改进的10 nm Ice Lake处理器。NNP-I具有12个支持各种指令格式的推理计算引擎，并且具有高度的可编程性。它有四个64 GB LPDDR4x(低功耗动态随机存取存储器)模块，用于高速存储器带宽。它消耗10-50瓦的功率，并支持PCIe 3.0和4.0。NNP-I的性能为每瓦4.8 TOPS。百度正在使用NNP-T，Facebook正在使用NNP-I。英特尔尚未宣布何时推出其NNP芯片。

NVIDIA仍然是AI的领导者

英特尔的NNP芯片是其首款基于AI的芯片。相比之下，NVIDIA已经推出了第三代AI架构Turing(仅次于Pascal和Volta)。图灵GPU包括用于AI和DL工作负载的Tensor内核以及用于光线跟踪和渲染的RT内核。NVIDIA还报告了AI和DL的关键里程碑。

根据8月13日的NVIDIA博客文章，“带有92个DGX-2H节点的NVIDIA DGX SuperPOD在短短53分钟内通过训练BERT-Large [来自变压器的双向编码器表示]创造了新纪录。”Bert-Large是全球的最大的基于变压器的语言模型。与业界的10毫秒相比，经过训练的模型能够在短短两毫秒内推断出来。英特尔在构建基于AI的芯片方面还有很长的路要走，这些芯片实际上可以与NVIDIA的GPU竞争。

AMD能否在AI中与英特尔竞争?

虽然英特尔已经通过专用的NNP芯片在AI领域取得了进展，但AMD正在寻求利用AI的机会。一方面，AMD在传统的x86 CPU市场上领先于英特尔。另一方面，AMD在其未来的AI技术方面落后于英特尔。AMD在人工智能领域取得进展还有很长的路要走，但它拥有成为关键人才的技术和能力。目前，AMD在CPU市场上与英特尔竞争，在GPU市场上与NVIDIA竞争。在未来，我们可以看到AMD在AI市场上与英特尔和NVIDIA竞争。