GPU ACCELERATION · SYSTEMS · NETWORK · DATA
不要只讓函式跑在 GPU。
讓整條資料路徑留在 GPU。
從 CUDA kernel、節點內互連，到 InfiniBand 與 RAPIDS。用六個可落地的實作專案，建立 NVIDIA AI 基礎設施的完整系統觀。
06實作專案
09技術層級
01端到端路徑
LIVE DATA PATH
01STORAGEGDS · NVMe
02NETWORKRDMA · IB
03GPU MEMORYCUDA · RAPIDS
CPU 管理控制路徑
資料走 DMA 高速路徑
SYSTEM MAP
九層 NVIDIA 加速架構
點選任一層，查看它在整體系統中的角色。
HANDS-ON PROJECTS
六個專案，逐層建立能力
0 / 6 完成
BOTTLENECK FINDER
GPU 為什麼在等？
從現象開始，沿資料路徑找出真正瓶頸。
DESIGN PRINCIPLES
全棧優化的六條準則
- 資料駐留整段 pipeline 留在 GPU
- 批次傳輸攤平啟動與複製成本
- 拓撲優先先確認 PCIe、NUMA、NVLink
- 網路匹配依通訊密度選 Ethernet、RoCE、IB
- 直通路徑評估 GPUDirect RDMA 與 GDS
- 逐級擴展單 GPU → 多 GPU → 多節點