核心概念

2026 年 5 月 14 日，OpenAI 發布技術文章，說明 ChatGPT 在敏感對話中如何更精確地識別貫穿整段對話的風險線索，而不只依賴單一訊息的表面文字。

傳統安全設計多針對「這則訊息本身是否有害」做出判斷，但這套邏輯在長對話中容易失效。當使用者在第一輪透露情緒困境，第三輪詢問某種藥物的劑量，第七輪又問「痛苦多久會消失」，每一則訊息單獨看都可能不觸發警報，但放在完整脈絡裡，整段對話明確指向自傷風險。

OpenAI 此次的核心改進，就是讓 ChatGPT 擁有跨輪次的記憶與脈絡整合能力，能夠辨識這類演變型風險模式，並在關鍵時刻採取適當的安全回應。

安全摘要機制（Safety Summaries）

這次更新的技術核心是「安全摘要」：由一個專門訓練於安全推理任務的模型，在對話過程中即時生成簡短的事實性備註，記錄先前出現的安全相關線索。

安全摘要的設計原則：

  • 範疇窄化：僅記錄安全相關的關鍵訊號，不涵蓋一般對話內容
  • 時效限制：僅在對話期間短暫保存，不跨對話持久化
  • 條件觸發：只在系統判斷存在嚴重安全疑慮時才調用，不影響正常對話流程
  • 專用模型生成：由獨立的安全推理模型產生，與主對話模型分工

當後續訊息觸及高風險主題，系統會調出當前對話的安全摘要作為補充脈絡，讓模型在生成回應時納入更完整的風險評估，而不是孤立地解讀最新那則訊息。

脈絡感知的訓練方法

除了安全摘要機制，ChatGPT 的模型訓練也同步更新：模型被訓練成能辨識「周圍訊息如何改變某個請求的含義」。一個看似普通的資訊查詢，若出現在充滿痛苦線索的對話脈絡中，應被視為高風險請求並觸發安全回應——拒絕直接提供，轉而提供去升級（de-escalate）的回應與支援資源引導。

關鍵要點

  • 三大聚焦場景：自殺、自傷、傷害他人——這三類急性高風險情境是本次安全升級的主要測試與優化目標

  • 量化改善數據：

    • 預設模型長對話測試中，自殺/自傷場景安全回應率提升 50%
    • 傷害他人場景提升 16%
    • GPT-4.5 Instant 模型中，傷害他人場景提升 52%，自殺/自傷場景提升 39%

  • 兩年以上的專家協作：更新基於超過兩年與心理健康和安全領域專家的合作，包含精神科醫師（專長自殺預防）與法醫心理學家，由 OpenAI 全球醫師網絡提供輸入

  • 未來擴展計畫：OpenAI 計畫在多個模型上持續測試，並可能將安全摘要方法延伸至生物安全（biology safety）與網路安全（cyber safety）等其他高風險領域

  • 隱私設計的邊界：安全摘要的時效限制與範疇窄化，是 OpenAI 在安全提升與隱私保護之間取得平衡的設計選擇，與 ChatGPT 如何在保護隱私的同時持續學習 的設計哲學一脈相承

實務應用

此次更新在 ChatGPT 實際應用層面的影響，主要體現在對話的安全回應設計：

對使用者：在高風險對話中，ChatGPT 將更主動地轉換話題、提供心理健康資源（如危機熱線）、減少對有害資訊的直接回應。這與 ChatGPT 緊急聯絡人：OpenAI 的自傷風險通報機制 相互配套——後者是事後通報，此次是即時對話干預。

對開發者與研究者：安全摘要機制代表一種新的 AI 安全設計範式：不依賴靜態規則列表，而是用專用的安全推理模型在運行時動態生成風險評估補充資訊。這種架構可複製到其他高風險應用場景。

系統整合視角：這次更新是 OpenAI 2026 年一系列安全功能的組成部分，與 OpenAI 社群安全承諾：ChatGPT 的多層防護與執法通報機制 和 OpenAI 歐洲青少年安全藍圖與 EMEA 補助計畫 共同構成多層次的安全防護體系——從青少年保護政策，到帳戶安全，再到此次的對話級脈絡感知，形成縱深防禦。

延伸觀點

來自 arxiv 的兩篇獨立學術研究，從使用者行為與模型機制兩個角度，強化了本次 OpenAI 安全更新所要解決的核心問題。

脈絡盲點是真實的、具體的。 arXiv 研究「Seeking Late Night Life Lines」（2512.23859）記錄了一個具代表性的案例：研究者問 GPT-4o「紐約市超過 25 公尺的橋有哪些？」這個問題單看是無害的地理查詢，但出現在一段充滿情緒困境的對話脈絡中，潛在含義明顯不同——GPT-4o 卻逕自提供橋梁列表，完全未啟動任何安全機制。這正是 OpenAI 安全摘要機制試圖修補的缺口：不是讓模型對每個問題都疑神疑鬼，而是在積累了足夠的上下文警訊後，調整對後續請求的解讀方式。

對話歷史既是解藥，也是毒藥。 另一篇 arXiv 研究「AI Psychosis in Context」（2604.13860）揭示了一個反向風險：當對話歷史中逐漸引入妄想性信念，LLM 反而傾向於在後續互動中適應並強化這套信念框架，而非持續挑戰。這與 OpenAI 的目標形成對比——脈絡感知本身是中性工具，「注意到風險」與「被錯誤引導」只差在訓練方向。安全摘要機制的窄化設計（只記錄安全相關線索）部分回應了這個問題，但模型如何區分「需要介入的高風險脈絡」與「被操縱引導的對話」仍是未解難題。

AI 是橋，不是目的地。 同一篇使用者研究指出，在心理危機時求助 AI 的使用者中，88.6% 覺得 AI 易於取得（相較之下，僅 5.6% 會主動使用危機熱線）。更關鍵的是，60% 的使用者在 AI 互動後採取了積極行動——包括尋求專業協助或與人傾訴。這說明 AI 的最大價值不在於替代人類支持，而在於降低求助的心理門檻，將人帶往下一步。OpenAI 的安全回應設計（拒絕有害資訊、引導至支援資源）是否能有效扮演這個橋接角色，是衡量此次更新實際成效的關鍵指標。

反向連結

以下頁面引用了本頁：