白皮书 云基础设施技术需求( 四 )


然而,在边缘基础架构中部署云服务要求运行云服务的设备能够容忍边缘环境,因为边缘环境不一定拥有与典型云数据中心相同的物理空间、环境控制或电力供应 。因此,允许的延时越短,服务就越需要部署到边缘,而且允许的功耗也可能越低 。

白皮书 云基础设施技术需求


人工智能最后,用于数据分析的人工智能已成为云数据中心的重要功能 。人工智能加速器在设备中和云端无处不在 。人工智能加速器支持执行卷积、递归、尖峰和其他深度神经网络,以支持大量应用 。针对云环境的人工智能加速器一般针对 TOPS进行了优化,以提供最高的性能 。这些加速器的设计支持扩展,以缩短训练时间并适应最复杂的人工智能算法(支持超过 80 亿个参数) 。由于人工智能加速器倾向于处理大量数据,因此,内存接口通常是瓶颈所在,这使得高带宽内存对于这些设备特别有益 。
白皮书 云基础设施技术需求


针对边缘计算(尤其是聚合器和网关应用)的人工智能加速器通常针对每瓦性能 (TOPS/W) 进行了优化,以解决边缘基础架构和服务的功耗与延时问题 。这些设备具有较高的计算能力和相对简单的软件模型,能够提供快速响应能力 。它们往往为实现低成本和低功耗而进行了优化,而这通常会要求使用低功耗 DDR (LPDDR) 内存 。
为了支持人工智能解决方案的扩展,加速器必须包含一个高速接口,例如 56Gbps 或 112Gbps SerDes 或 HBI 。芯片间的高速接口提供了加速器缩放和扩展能力,可满足苛刻的人工智能应用的需求 。
云基础架构的IP解决方案新思科技提供了高质量且经过硅验证的全面 IP 产品组合,使设计人员能够开发支持当前和未来云计算应用的 SoC 。新思科技的 DesignWare? 接口 IP、处理器 IP、安全 IP 和基础 IP 针对高性能、低延时和低功耗进行了优化,同时支持从16nm 到 5nm FinFET 的先进处理技术 。新思科技针对云 SoC 的全面 IP 产品组合包括:
● DDR5/4 内存控制器和 PHY:提供一流的性能,数据速率高达 DDR5-6400,引入了 DDR5 相位感知调度引擎,与竞争对手相比,面积减少了 15%,功耗降低 10%
● HBM2/2E 内存 PHY:具有业界领先的面积和功耗,并且功耗比竞争对手的 IP 低 80%
● 112G 多协议 SerDes:以 <5.5pJ/ 比特的速率支持多种数据速率(1.25 至 112 Gbps)
● 112G USR/XSR SerDes 和 HBI 接口:针对芯片间接口进行了面积优化
● 高速以太网解决方案,包括原型设计套件和 IP 子系统,可加快产品开发速度,并缩短上市时间
● PCIe 5.0 解决方案:经过硅验证,并已被 90% 的领先半导体公司使用
● CXL 解决方案:基于新思科技经过硅验证的 PCIe 5.0 IP 而构建,可降低集成风险,其中包括用于验证 I/O、内存访问和一致性协议功能的 VC 验证 IP
【白皮书 云基础设施技术需求】● ARC HS 处理器:提供从 1 到 12 个 CPU 内核的业界领先的扩展性,并支持多达 16 个用户硬件加速器,以适应极端工作负载
● 高能效 CCIX PHY 和最低 延时的控制器
● USB 3.0、USB 3.1、USB 3.2 和 USB4 解决方案:具有行业领先的低功耗和小面积实施能力,在数百万 SoC 中提供了经验证的互操作性,并且降低设计风险
● 高质量、经过硅验证的基础 IP:包括内存编译器和非易失性存储器 (NVM)、逻辑库、通用 I/O (GPIO) 和测试解决方案,使片上系统 (SoC) 设计人员能够 降低集成风险,并加快产品上市速度
● TCAM 和多端口内存:支持用于网络和其他应用的高速、低功耗网络解决方案

推荐阅读