核心概念

Microsoft Research 在 NSDI 2026（USENIX 網路系統設計與實現研討會）共有 11 篇論文入選，涵蓋資料中心網路、AI 系統與雲端基礎設施三大領域。此次研究的核心主題是分散式系統與 AI 的深度交匯——AI 既是被服務的應用，也成為解決傳統系統問題的工具。

DroidSpeak（LLM 快取跨模型共享）：解決多 LLM 並行部署時的計算資源浪費。其核心洞察：架構相同的 LLM 在處理相同提示時，KV 快取（Key-Value Cache）具有高度重疊性。DroidSpeak 允許模型跨邊界共享並部分複用 KV 快取，在不降低輸出品質前提下實現 4 倍吞吐量提升，對企業多模型路由架構有直接意義。

Eywa（LLM 驅動的協議模型建構）：使用大型語言模型自動從協議規範文件中建構狀態機模型，再以此模型驅動模糊測試，成功發現 16 個此前未知的網路實作漏洞，展示 AI 在系統可靠性保障的新應用路徑。

Octopus（無交換機的解耦記憶體架構）：傳統 RDMA 記憶體解耦依賴交換機中繼，引入額外延遲。Octopus 提出直連式設計，繞過機架內交換機，使 RPC 比傳統架構快 3.2 倍，對超高頻率的分散式推論有直接幫助。

AVA（影片分析 + 知識圖譜）：將視覺語言模型（VLM）與結構化知識圖譜結合，用於大規模影片事件分析，在 120 題新基準上達 75.8% 準確率，展現多模態 AI 在結構化業務智慧的潛力。

SONiC DASH SmartSwitch：Azure 生產環境中大規模部署的雲端網路卸載方案，榮獲 NSDI 2026 社群獎，肯定其開源生態貢獻與工程影響力。

關鍵要點

  • AI 工具化基礎設施：LLM 已滲入系統層——Eywa 用 LLM 找網路 bug、DroidSpeak 讓 LLM 推論自我優化效率
  • KV 快取跨模型複用：同架構模型可共享中間計算結果，降低多模型部署的邊際成本
  • 解耦記憶體是下一代 GPU 叢集關鍵：Octopus 印證解耦記憶體池已從概念走向實用，3.2x RPC 加速對推論集群意義重大
  • 研究到生產的閉環：SONiC SmartSwitch 在 Azure 規模驗證，代表完整的工程落地能力
  • Microsoft 的 NSDI 影響力：11 篇論文、程式委員會與指導委員會席次，在系統研究頂級會議保持穩固存在

實務應用

對運行多 LLM 推論服務的工程師：DroidSpeak 的 KV 快取共享在模型路由（LLM Router）場景尤為相關——若工作負載包含相同架構的多個模型，此技術可大幅降低記憶體佔用與延遲。

對平台基礎設施工程師：Octopus 的無交換機 RDMA 設計暗示下一代 GPU 叢集將傾向直連式記憶體池架構，傳統機架拓撲設計假設需要重新審視。

Eywa 的 LLM 協議模糊測試方法對維護自訂網路協議或開發 SDN 應用的團隊有參考價值——自動化找漏洞的門檻正在快速降低。

延伸觀點

DroidSpeak 的跨模型 KV 快取共享已有多篇後續研究驗證。獨立研究 KVDirect（arxiv.org/abs/2501.14743）發現：KV 快取傳輸的真正瓶頸在於跨節點帶寬——其以 GPU RDMA 直連取代訊息傳遞，實現 22.23 GB/s（約 5.5 倍提升），最終對每筆請求延遲降低 24-55%。兩篇研究共同確認：RDMA 直連是解耦記憶體架構的核心基礎，與 Octopus 的設計哲學一致。

在 LLM 驅動的協議模糊測試方面，ChatFuMe（arxiv.org/abs/2508.01750）提供了 Eywa 之外的獨立驗證：同樣以 LLM 從協議規範自動建構狀態機，在 MQTT、Modbus、DAAP 上發現 12 個未知漏洞，且比傳統方法消耗 36 倍更少的 token。兩套系統共同說明「LLM 生成可執行測試程式碼」比「LLM 直接生成測試案例」更具效率優勢，是協議測試自動化的可靠方向。

整體而言，NSDI 2026 展現的趨勢是：AI 正在從應用層滲透進基礎設施工具鏈，而基礎設施的演進（解耦記憶體、RDMA 互連）反過來又為大規模 AI 服務提供了必要底座。

相關頁面：MRC 超算網路協議：OpenAI 的多路徑可靠連接技術 · 公開資料建構美國電力傳輸網格模型

反向連結

以下頁面引用了本頁：