Amazon Web Services 周二宣布了新的 EC2 实例,这些实例由其定制设计芯片 Graviton3 和 Trainium 的新版本提供支持。
AWS 专注于“为所有客户提供机器学习的全部功能”,AWS 首席执行官 Adam Selipsky 在他的 AWS re:Invent 主题演讲中表示。 “降低训练和推理的成本是旅程的主要步骤。”
在 2018 年推出第一款 AWS 设计的 Graviton 处理器之后,这家云公司现在推出了 Graviton3,用于计算密集型工作负载,如高性能计算、批处理、电子设计自动化 (EDA)、媒体编码、科学建模、广告服务、分布式 分析和基于 CPU 的机器学习推理。
与 Graviton2 相比,新芯片将提供高达 25% 的计算性能以及高达两倍的浮点和加密性能。 对于机器学习,Graviton3 包括对 bfloat16 数据的支持,并将能够提供高达 3 倍的性能提升。
AWS 取笑了即将推出的由 Graviton3 处理器提供支持的 C7g 实例。
Selipsky 还宣布了由 Trainium 提供支持的新 Trn1 实例。 AWS 去年推出了 Trainium,这是一种专门用于训练深度学习模型的芯片。 新实例将为图像识别、自然语言处理和欺诈检测等应用程序的深度学习训练提供最佳性价比。
这些实例将提供高达 800Gbps 的网络带宽。 Trn1 实例现在可以预览。