NVIDIA 與 AWS 規劃在 2027 至 2028 年再部署 200 萬部 GPU，並擴大 CPU 與 AI 基礎設施合作。

這次擴大全堆疊基礎設施，反映企業、前沿研究實驗室、政府與新創正把代理型 AI、科學研究、企業自動化及實體 AI 從試點推向正式生產。

運算容量 AWS 表示，2026 年 GTC 公布自 2026 年起增加超過 100 萬部 NVIDIA GPU 後，實際需求已超出原先預期，因此再規劃部署 NVIDIA Blackwell Ultra、Rubin 與 Rubin Ultra GPU。AWS 也會擴大 Blackwell 供應，將 NVIDIA RTX PRO 4500 Blackwell Server Edition GPU 導入 Amazon EC2 G7 執行個體；相較前一代 G6，G7 的 AI 推論效能為 4.6 倍、圖形效能為 2.1 倍。AWS 稱自己是首家提供 RTX PRO 4500 加速運算執行個體的大型雲端服務商，並將與 NVIDIA Spectrum 網路合作，改善大型 GPU 叢集的 AI 訓練效能。

CPU 與異質架構雙方正合作把 NVIDIA Vera CPU 基礎設施帶到 AWS，提供需要高效能 CPU 與加速運算並用的 agentic AI 工作負載更多選擇。AWS 也將擴大 NVIDIA NVLink Fusion 的支援，與 Amazon 的 Annapurna Labs 及記憶體供應商合作導入 NVIDIA 高頻寬記憶體 NVHBM。這套架構可讓 Trainium 使用更快且更省電的記憶體，並在共同的機櫃級架構中整合 Trainium 與 GPU；目前仍屬合作推進中的基礎設施方向。

政府 AI 工廠 AWS 與 NVIDIA 計畫為美國政府建置 AI 工廠，包含在安全的 AWS 基礎設施上提供 100,000 部 GPU，支援聯邦政府與國家安全工作負載。公告指出，相關服務將瞄準 Impact Level 6（IL6）及更高等級的機密工作，顯示 AI 基礎設施競爭已延伸到高安全性政府運算。NVIDIA GPU 與採用 Trainium 的 EC2 執行個體則持續建置於 AWS Nitro System，並透過 Elastic Fabric Adapter（EFA）擴展，以維持正式生產環境所需的安全性、可靠性與網路效能。

全堆疊整合合作不只增加硬體，也涵蓋模型、資料管線與應用程式服務：

NVIDIA Nemotron 開放模型可在 Amazon Bedrock 以全代管、無伺服器形式使用，也能在 Amazon SageMaker 上由使用者自行部署與微調；支援範圍依兩項 AWS 服務的使用方式而定。 Amazon EMR 搭配 NVIDIA cuDF 與 EC2 G7，可讓 GPU 加速資料處理速度最高達 CPU 架構的 3.7 倍，價格效能提升 30%。 Amazon OpenSearch Service 將向量索引建置卸載至專用 GPU，向量索引建置速度最高達 9 倍，成本降至四分之一；功能涵蓋代管叢集與 Amazon OpenSearch Serverless。 Amazon Robotics 將採用 NVIDIA 實體 AI 平台，包括 NVIDIA Jetson、NVIDIA Omniverse libraries 與 NVIDIA Isaac 開放式機器人開發平台，涵蓋模擬、合成資料生成、機器人訓練、路線最佳化、功能安全與真實環境轉模擬（real-to-sim）驗證。

產業訊號 AWS CEO Matt Garman 強調，使用者希望自由選擇最適合的工具，也要求不同元件能順暢協作；Jensen Huang 則表示，NVIDIA 與 AWS 合作 16 年後，需求已「跑在每一項預測之前」，因此此次將合作從 GPU 擴展到 CPU、網路、開放模型與軟體。整體而言，公告呈現的是一項分階段部署與整合計畫，而非所有新能力已經全面可用；其中既有 AWS 服務的效能數據已被提出，Vera、NVHBM 與 2027 至 2028 年 GPU 產能則仍是後續落地承諾。

原文：https://easyvibecoding.app/curated/3155-nvidia-aws-deploy-gpus-expand-cpu-ai-infrastructure

NVIDIA 與 AWS 規劃在 2027 至 2028 年再部署 200 萬部 GPU，並擴大 CPU 與 AI 基礎設施合作

EasyVibeCoding Podcast

NVIDIA 與 AWS 規劃在 2027 至 2028 年再部署 200 萬部 GPU，並擴大 CPU 與 AI 基礎設施合作