共 42 篇文章包含此標籤
Hugging Face 將 **GGUF** 量化模型接進 `transformers`:開發者可從 Hub 選定量化
Hugging Face 於 2026 年 7 月 8 日發布技術部落格,宣布 transformers vLLM 後端
Hugging Face Kernels 是一套標準化自訂 GPU 核心(custom kernels)打包、分發與使用
來自 Hugging Face 的 PyTorch Profiling 系列第三部曲,透過 profiler trace
許多機器學習與科學計算問題,歸根究柢都是同一件事:從一批資料點還原其背後的機率分佈。這需要估計兩個互補的量——**密度*
這是 Hugging Face 《PyTorch Profiling》系列第二篇,聚焦在「算子融合(kernel fus
North Mini Code 是 Cohere 於 2026 年 6 月 9 日正式發布的首款面向開發者的程式碼模型,
異步強化學習(Async RL)是大型語言模型後訓練(post-training)的主流範式,但它有一個幾乎不可繞開的瓶
PyTorch 的 `torch.profiler` 是效能優化的起點。Hugging Face 用「矩陣乘法 + 偏移
非同步強化學習(Async RL)訓練流程中存在一個根本性的工程瓶頸:每個訓練步驟,訓練器必須將完整模型權重傳輸給推理引
NVIDIA 於 2026 年 5 月 23 日在 Hugging Face 發布 Nemotron-Labs Diff
Anthropic Applied AI 工程師 Margot Vanlar 以零售店排班系統為案例,展示從單一 pro
MatterSim 是 Microsoft Research AI for Science 開發的機器學習原子間勢能模型
Shopify CEO Tobi Lütke 在 2025 年公開介紹了公司內部的 AI Agent「River」。Ri
2026 年 5 月 7 日,OpenAI 在 API 中推出三個全新即時語音模型,標誌著語音 AI 從「呼叫—回應」模
2026 的 RAG 不是一個東西,是三條解法、解三種題。把「查一句話」「跨多份文件推理」「追實體之間的關係」都丟給同一
製造業 AI 落地的關鍵障礙,不在於語言模型的能力,而在於**如何把 LLM 嵌入企業既有的流程、資料系統與現場協作**
向量資料庫是專為儲存和檢索高維度向量而設計的資料庫,是 [[RAG 檢索增強生成架構]] 的核心儲存層。與傳統關聯式資料
Prompt Engineering 的進階技術圍繞一個核心問題:如何讓語言模型在不微調的前提下,產出更精確、更可靠的結
Y Combinator 總裁 Garry Tan 提出的核心洞察:相同的 AI 模型,使用者的生產力可以差距 2 倍到