介绍三款基于 NVIDIA GPU 的 Amazon EC2 实例 机器学习博客

新发布的三款NVIDIA GPU基础的Amazon EC2实例

重点摘要

Amazon 已扩充其 Elastic Compute CloudEC2服务，推出三款新实例，均搭载最新的 NVIDIA GPU。这些新实例包括 Amazon EC2 P5e、G6 和 G6e，将为人工智能AI、机器学习ML、图形和高性能计算HPC工作负载提供卓越的性能与成本效益。

Amazon Elastic Compute CloudAmazon EC2的加速计算产品组合为人工智能AI、机器学习ML、图形处理和高性能计算HPC工作负载提供了最广泛的加速器选择。我们非常高兴地宣布这一组合现已扩充，新增了三款搭载最新 NVIDIA GPU 的实例：Amazon EC2 P5e 实例搭载 NVIDIA H200 GPU，Amazon EC2 G6 实例配备 NVIDIA L4 GPU，以及 Amazon EC2 G6e 实例搭载 NVIDIA L40S GPU。这三款新实例将在2024年上市，我们期待看到您如何使用它们。

AWS 和 NVIDIA 之间的合作已有超过 13 年，双方共同开发了大规模、高性能且具成本效益的 GPU 解决方案，面向不同领域的开发者和企业。我们将 NVIDIA 强大的 GPU 与 AWS 的差异化技术相结合，例如 AWS Nitro System、3200 Gbps 的 Elastic Fabric Adapter (EFA) v2 网络、数百 GB/s 的数据吞吐量与 Amazon FSx for Lustre，以及 Amazon EC2 UltraClusters 的 exascale 计算能力，从而为 AI/ML、图形处理和 HPC 提供最优性能的基础设施。配合 Amazon Bedrock、Amazon SageMaker 和 Amazon Elastic Kubernetes Service (Amazon EKS)等其他托管服务，这些实例为开发者提供了构建和部署生成式 AI、HPC 和图形应用的最佳平台。

高性能且具成本效益的 GPU 实例，适用于 AI、HPC 和图形工作负载

为支持大型语言模型LLMs的开发、训练和推理，EC2 P5e 实例将配备 NVIDIA 最新的 H200 GPU，提供 141 GB 的 HBM3e GPU 内存，这比 H100 GPU 的内存大 17 倍，速度快 14 倍。这种 GPU 内存的提升加上支持高达 3200 Gbps 的 EFA 网络由 AWS Nitro System 提供支持，将使您能够在 AWS 上继续构建、训练和部署尖端模型。

EC2 G6e 实例搭载 NVIDIA L40S GPU，旨在为开发者提供广泛可用的选项，以便训练和推理公开可用的 LLM，同时也支持小型语言模型SLM的日益普及。这些实例还非常适合使用 NVIDIA Omniverse 进行数字双胞胎应用，描述和模拟三维工具和应用程序，以及创建虚拟世界和工业数字化的高级工作流。

EC2 G6 实例搭载 NVIDIA L4 GPU，将为自然语言处理、语言翻译、视频和图像分析、语音识别和个性化等 ML 模型的部署提供一种低成本、高能效的解决方案，同时也适用于图形工作负载，例如创建和渲染实时的电影质量图形以及游戏流媒体。

关于作者

Chetan Kapoor 是 Amazon EC2 加速计算产品组合的产品管理总监。