英特尔AI硬件负责人Carey Kloss:什么是真正的AI芯片( 二 )


bfloat最近变得更受欢迎 , 我所知道的是 , 在过去四个月中 , 有多个客户来到我们这里并特别要求bfloat 。
问:哪些类型的顾客或者行业对Spring Crest感兴趣?
Carey:Spring Crest可以说是最高等级的Nervana神经元处理器架构 。
因此 , 它有同样的客户 , 例如超大规模中心 , 超大规模CSP , 已经拥有相当强大的数据科学工作的大型企业客户 , 例如政府和其他企业 。
我想从另一种角度来回答这个问题 , 哪些客户对此不感兴趣 。 数据科学或人工智能还是比较新的 , 这是一个非常热门 , 非常激动人心的领域 , 而且正在迅速改变 。 传统的企业客户可能拥有数据 , 但他们可能无法在其数据中心部署高端设备 。 我们作为英特尔提供的服务 , 以及我们的路线图和我们的总体策略是提供整个产品组合 。 你可以基于nGraph和Xeon开始工作 。 你的数据中心已经部署了英特尔至强处理器 , 那你没有理由再去购买神经网络处理器或者其他类似产品 。 你有了至强并且围绕至强做一些工作 , 你可以得到你的数据状态 。
但如果你发现神经网络可以帮助你 , 并且尝试找到如何能够让它赚钱 , 这时候你可以说你更加严肃认真对待它 , 当然英特尔可以提供神经网络处理器产品 , 能够让你更严谨地去进行训练 。 现在你可以购买很多NNP产品 , 并可以运用相同的软件栈 , 你可以获得相同的优化和优化路径 , 你可以为不同的硬件进行优化 。 甚至你可以用不同的Crest或者Xeon , 这取决你想要干什么 。 或者 , 你已经开始了训练阶段 , 你的数据科学家开始尝试去训练不同的模型 , 现在你的需求是大规模部署推理阶段 。
重中之重是 , 不是一种解决方案满足所有需求 , 如果你需求的是低延且小模型 , 至强就能帮助到你 , 它可以把数据从云到端手机起来 。 如果是一些大型模型 , 而不是只处理一种类型的数据 , 你需要一些更具体能够进行推理的部署 。 这就是和我们今天早上宣布有关 , 这里潜在蕴含着 , 我们正计划给数据中心提供推理加速 , 当然更多细节不能透露 。
整合资源快速迭代初始团队只有45人
问:在开发新芯片的时候你们遇到了什么样的困难?
Carey:我们先来谈一下Lake Crest , 我们创业初期就开始研发Lake Crest , 我们整个团队大概45人 , 当时正在构建一个最大的Die(硅芯片) , 我们开发了Neon , 我们还构建了云栈 , 这些都是40-45人团队所完成的 。
这就是挑战 , 公司成立在2014年 , 直到去年芯片才真正问世 , 3年的时间不短 , 现在一切都是新的 , 我们现在属于英特尔 , 可以访问英特尔的资源 , 流程也变得简单 , 同时也有足够的员工同时进行处理器多代开发 , 就像一个真正CPU公司 。
我认为我已经具备了明年取得成功所有要素 , 小团队成长会有阵痛 , 我们花了很长时间才把第一批产品拿出来 , 但我们现在处于合理的节奏中 , 现在我们每年都会看到改进 , 当前我们的人员配置合理 , 资源配置合适 , 能够更好的展开工作 。
问:但整合所有需要的资源并不是一件容易的事吧?
Carey:当然不是一件容易的事情 , 但英特尔在将产品推出市场方面拥有丰富的经验 , 我曾经在大大小小不同的公司工作过 , 英特尔这点让我印象非常深刻 , 英特尔有迄今为止我见过的最佳的后硅培养(post-silicon bring-up)和架构分析 。 出品芯片 , 我们有数百个系统同时运行 。
而且 , 同事们夜以继日协同工作 , 不仅仅来自Nervana的员工 , 6个月前刚加入的员工也是如此 。 当然让数以百计的员工朝着同一个愿景工作是很困难的 , 但英特尔是我所经历过的做的更好的一家公司 。

推荐阅读