標籤：LLM

tokenizers v1：以可量測的工程重寫消除分詞瓶頸

Tokenizer 原本相對模型推論很輕，但在大規模訓練、高併發服務、長輸入重複處理時，CPU 分詞可能跟不上模型，讓

以 Ising 最佳化選擇 LLM 剪枝區塊

大型語言模型要加速，直接移除完整 Transformer block（depth pruning）是最乾脆的結構化壓縮手

Fyxer × OpenAI：以記憶與偏好迴圈打造可信任的 AI 行政助理

Fyxer 的案例說明：讓使用者信任 AI 行政助理，關鍵不是單次把信寫得流暢，而是能否在**關係、歷史脈絡與工作目標*

GRPO 微調 350M 模型：100 步改善結構化輸出

Hugging Face 以一個很務實的實驗回答「小模型能不能可靠吐出符合 schema 的資料」：用 TRL 的 **

BenchMIRT：拆解 LLM 基準實際測量的能力

BenchMIRT 是 AllenAI 發布的基準審計方法。它不只看某個 LLM 在整份 benchmark 的平均分數

NeoMME：單塔多模態多語言編碼器與視覺文件檢索

H Company 與 Hugging Face 發表的 **NeoMME** 是一組 260M、800M 參數的多語言

Quantization-Aware Healing：4-bit 壓縮模型的恢復訓練與因果限制

量化通常被視為部署時必付的效率稅：先用移除層、注意力頭或神經元的方式壓縮架構，再把權重降到 4-bit，記憶體與計算量雖

Sentence Transformers 多向量嵌入模型：訓練與微調判讀

Hugging Face 於 2026 年 8 月發布〈Training and Finetuning Multi-Ve

Granite 4.2 LLM 建構方法：待原文補核的評估框架

Hugging Face 在週報 2026-W36 收錄 IBM 的〈Granite 4.2 LLMs: How The

GPT-5.6 正式發布：Sol、Terra、Luna 三層前沿模型重構效率頂點

2026 年 7 月 9 日，OpenAI 正式發布 GPT-5.6 模型家族，以「前沿智能，隨野心而擴展」為主軸。這次

AI 專業化為何不可避免

Dharma AI 這篇文章以 Goldfeder、Wyder、LeCun 與 Shwartz-Ziv（2026）的論文

GPT-5.6 Sol 預覽：OpenAI 下一代旗艦模型

2026 年 6 月 26 日，OpenAI 發布 GPT-5.6 系列的有限預覽，推出三款以太陽系命名的模型：**So

OLMo Hybrid：混合模型預測哪些標記更好

AllenAI 於 2026 年 6 月 25 日在 Hugging Face 部落格發表這篇研究，系統性比較了 OLM

超越LoRA：PEFT技術比較基準測試

LoRA（Low-Rank Adaptation）幾乎成了模型微調的代名詞。Hugging Face Hub 上，在 2

Google DeepMind 歐洲機器人加速器：Physical AI 的產業化賭注

2026 年 6 月，Google DeepMind 宣布推出首個專為歐洲機器人新創設計的加速器計畫。這是一個為期 12

North Mini Code：Cohere 首款開發者 MoE 程式碼模型

North Mini Code 是 Cohere 於 2026 年 6 月 9 日正式發布的首款面向開發者的程式碼模型，

olmo-eval：LLM 開發循環的持續評估工作台

olmo-eval 是 Allen Institute for AI（Ai2）開源的 LLM 評估工作台，核心定位不同於

ChatGPT Dreaming V3：背景記憶合成重構 AI 個人化架構

2026 年 6 月 4 日，OpenAI 推出 Dreaming V3——ChatGPT 記憶系統的重大架構升級。這次

DPO 超越對話模型：消除結構化生成任務的文本退化

直接偏好優化（DPO）在對話模型對齊領域已有廣泛應用，但 Dharma-AI 的這篇研究揭示了更廣泛的適用場景：任何具有

Mellum2：JetBrains 12B MoE 焦點模型

JetBrains 於 2026 年 6 月發布 Mellum2，一個 12B 參數的 Mixture-of-Exper

Reachy Mini 本地化對話：語音 AI 管線的離線部署實錄

Hugging Face 發布技術指南，介紹如何讓 Pollen Robotics 的桌上型機器人 Reachy Min

Ettin Reranker：六尺寸開源重排器的效率與精度突破

重排器（Reranker / Cross-Encoder）是資訊檢索管線中的第二層精篩元件。它不負責從千萬文件中找到候選

Nemotron-Labs Diffusion：擴散語言模型突破自迴歸推論瓶頸

NVIDIA 於 2026 年 5 月 23 日在 Hugging Face 發布 Nemotron-Labs Diff

專業化勝過規模：AI 採購決策的分佈對齊變數

大多數企業在採購 AI 解決方案時，習慣以「模型規模」作為代理指標：參數越多，能力越強。然而，Dharma-AI 在 H

Prompt 遷移除錯：評估套件、結構清理與三大陷阱

把現有提示詞遷移到新模型後，測試案例失敗可能出於兩種截然不同的原因：一是新模型有能力，但行為不同，可以透過調整 prom

AI 自動化的就業衝擊與社會風險

基於 [[AI 增長經濟學：弱連結模型]] 的弱連結框架，Chad Jones 進一步分析 AI 對就業市場、不平等與社

知識管理工具典範演進——從 Tags 到 LLM Wiki

知識管理工具的演進可以用「底層機制」分成五條路徑，而非用「給個人還是企業用」來分——因為知識怎麼被處理，不應該因為人數不

AI 增長經濟學：弱連結模型

史丹佛經濟學家 Chad Jones 以兩個極端情境作為分析起點：一是 AI 大幅加速經濟增長（矽谷所謂的「FOOM」）

Granite Embedding Multilingual R2：開源多語言嵌入的效能突破

IBM 於 2026 年 5 月 14 日在 Hugging Face 發布 Granite Embedding Mul

Fine-tuning 與 LoRA：LLM 參數高效微調技術

Fine-tuning（微調）是在預訓練 LLM 的基礎上，以特定領域資料調整模型參數，使其適應特定任務或領域。它是 L

AI 顛覆電影產業：新浪潮與台灣機會

馬克．庫班（Mark Cuban）將電影產業列為「未來最糟的九大產業」之首，稱之為「產業史上最糟糕的行業」。他的論據並非

AI 時代的創辦人角色

Claude Blog 發布的《AI 時代創辦人手冊》（36 頁），從創業四個核心階段（想法、MVP、上線、規模化）重新

MVP 最小可行產品實戰指南

MVP 階段的核心問題：「我該做的最小版本是什麼？人們會不會真的用它？」

RAG 三路選型：Naive、Agentic 與 GraphRAG

2026 的 RAG 不是一個東西，是三條解法、解三種題。把「查一句話」「跨多份文件推理」「追實體之間的關係」都丟給同一

GPT-5.5 Instant：ChatGPT 預設模型的幻覺減半與個人化升級

2026 年 5 月 5 日，OpenAI 宣布以 GPT-5.5 Instant 取代 GPT-5.3 Instant

EMO：混合專家模型的湧現式模組化

Allen Institute for AI（Ai2）於 2026 年 5 月發表 EMO（Emergent Modul

Natural Language Autoencoders：解讀 Claude 的未說出口

跟 AI 對話時，看得到的是它講出來的話。但它內部怎麼想、為什麼這樣判斷、有沒有知道一些它沒講出來的事——這些都是黑箱。

AI 時代職涯護城河：放射科醫師的反直覺啟示

2016 年，AI 教父 Geoffrey Hinton 在多倫多機器學習大會上宣判放射科醫師即將滅絕。他的邏輯無懈可擊

Vibe Coding 與工程師角色重構

「Vibe Coder」不是玩笑職稱，而是一個正在被產業認真對待的工作角色。Lazar Jovanovic 是 Lova

AI 是組織清晰度的照妖鏡

Daniel Miessler（美國知名 AI 與資安顧問，長期與大型企業、新創公司合作）提出一個根本性觀點：大多數公司

AI Eval 成本危機：評估比訓練更貴

AI 評估（Evals）曾被視為訓練完成後的配套工作，成本相對可控。但根據 EvalEval Coalition 在 H

Granite 4.1 LLM 建構揭密——IBM 五階段訓練策略

Granite 4.1 是 IBM 與 Hugging Face 合作發布的開源 LLM 系列，包含 3B、8B、30B

Hugging Face 推論供應商生態系：DeepInfra 整合實錄

Hugging Face Inference Providers 是 HF Hub 上的統一推論入口架構——讓開發者在同

GPT 小妖精事件：強化學習人格訓練的行為外洩

2026 年 4 月，OpenAI 發布事後分析報告，解釋 GPT-5 系列為何開始異常頻繁地在回應中提及小妖精（gob

語言演化的普遍統計模式

復旦大學、哈佛大學與石溪大學的聯合研究團隊，以詞嵌入（word embeddings）為核心工具，分析 22 種語言的詞

AI 組織作業系統：Context 飛輪與無為架構

主流 AI 工具（ChatGPT、Claude）解決的是**個人**用 AI 的問題，不是**公司**用 AI 的問題

嵌入模型基礎與選型

嵌入模型（Embedding Model）是 [[RAG 檢索增強生成架構]] 的「語意橋樑」——將文字轉換成向量（數字

向量資料庫選型：Pinecone、Weaviate、Qdrant 與 ChromaDB 比較

向量資料庫是專為儲存和檢索高維度向量而設計的資料庫，是 [[RAG 檢索增強生成架構]] 的核心儲存層。與傳統關聯式資料

AI 設計工具 Starter Components 與設計規範

現代 AI 設計工具（如 Claude Design）提供一套 **Starter Components 鷹架系統**，

企業 AI 導入實戰三原則

大多數企業的「AI 導入」停留在讓員工開 ChatGPT 聊天，真正走到系統落地的不到一成。核心障礙不是 AI 不夠強，

吳安德三問題濾鏡：AI 時代的問題選擇框架

史丹佛 CS 教授、Google Brain 與 Baidu AI Lab 創辦人吳安德（Andrew Ng）在課堂上提

AI 編碼工具的程式碼過載效應

AI 程式編碼工具（Cursor、GitHub Copilot、Claude Code 等）在 2025-2026 年間

Prompt Engineering 進階技術：CoT、Few-shot 與提示鏈

Prompt Engineering 的進階技術圍繞一個核心問題：如何讓語言模型在不微調的前提下，產出更精確、更可靠的結

Claude Mythos 系統卡分析

Anthropic 發布了長達 244 頁的 Claude Mythos Preview 系統卡，這是 AI 產業史上最

AI 模型文件標準：Model Card 與 System Card

Model Card（模型卡）由 Mitchell et al.（2018）提出，是機器學習模型的標準化透明度文件，讓開

RAG 檢索增強生成架構

RAG（Retrieval-Augmented Generation，檢索增強生成）是解決 [[LLM主流地位與替代路徑

AI 輔助知識管理