EP146 - 市值只有 NVIDIA 的 1%，卻想挑戰 AI 晶片霸主：深度解析 Cerebras

AI 硬體設計的核心在於算力、頻寬與記憶體容量之間的權衡。Cerebras 透過晶圓級晶片（Wafer Scale Engine）與 SRAM 架構，在推論速度上遠超 NVIDIA 的 GPU，但因記憶體容量受限，導致同時服務用戶數（Batch Size）較少且建置成本高昂，使其僅適用於高溢價的快速推論市場。Meta 出租閒置算力反映了當前 AI 運算資源的極度不對稱，頂尖模型訓練仍面臨算力短缺，而邊際效應遞減使得額外算力難以直接轉化為模型效能提升。AI 晶片公司如 Cerebras 與 Etched 的崛起，挑戰了現有以 NVIDIA 為主的通用架構，但其成功與否取決於能否在特定應用場景中，透過技術優化克服記憶體頻寬瓶頸，並在成本與效能間取得商業平衡。