核心概念

2026 年 5 月 7 日，OpenAI 在 ChatGPT 推出「Trusted Contact（緊急聯絡人）」功能——一個選用性安全機制：當系統偵測到使用者對話中出現嚴重自傷疑慮時，通知使用者事先指定的信任聯絡人。

推出背景

這個功能源於一個令人警醒的數字：每週超過 100 萬人在 ChatGPT 中談及自殺議題。近年來 OpenAI 也因 ChatGPT 被指控在敏感對話中未能適當介入而面臨多起訴訟。Trusted Contact 是 OpenAI 從「AI 替代人際支持」轉向「AI 促進真實人際連結」的具體嘗試。

運作機制

功能的核心流程分四個階段：

  1. 使用者設定：在帳戶設定中加入一位成人（全球 18 歲以上；南韓 19 歲以上）作為緊急聯絡人，對方須在 7 天內接受邀請才生效
  2. 自動偵測：監控系統自動偵測對話中的自傷跡象
  3. 人工審核：觸發後由訓練有素的人工審核團隊評估，目標在約 1 小時內完成
  4. 通知發送：確認為嚴重安全疑慮後，向緊急聯絡人發送簡短通知（電郵、簡訊或應用程式內通知）

隱私設計原則

緊急聯絡人不會收到任何對話內容或文字記錄，僅收到使用者可能正處於情緒危機的提示，建議主動聯繫。使用者可隨時停用功能或更換聯絡人。

專家諮詢規模

功能開發時諮詢了來自 60 個國家 260 位以上的執業醫師與 170 位以上的心理健康專家，並與美國心理學會（APA）及 Expert Council on Well-Being and AI 等機構合作。

關鍵要點

  • 人工在迴路中（Human-in-the-loop）：不依賴純 AI 自動決策，每次潛在通知都需要人工審核，降低誤判率
  • 不替代危機服務：OpenAI 明確聲明此功能僅是多層防護之一，無法取代專業心理健康照護或危機熱線
  • 範圍限制：僅適用個人版 ChatGPT，不含 Business、Enterprise 或教育工作區版本
  • 隱私優先：對話內容零洩漏，符合「AI 作為橋樑而非監視工具」的設計哲學
  • 主動連結設計：ChatGPT 在觸發通知前，會先告知使用者並鼓勵直接聯繫緊急聯絡人，優先促成真實人際對話

實務應用

AI 心理健康安全的結構性挑戰

Trusted Contact 揭示了 AI 系統在情緒脆弱情境中的根本矛盾：AI 的無評判性讓用戶更願意傾訴，但也使 AI 成為本應由人際支持網絡承接的需求之入口。研究指出，ChatGPT 對風險程度的評估有時低於心理健康專業人員，且部分用戶可透過變換對話情境繞過安全過濾。

OpenAI 選擇的解法是「AI 偵測 + 人工判斷 + 通知真實人際網絡」——而非直接升級 AI 的介入能力。這反映一個重要框架：AI 應扮演橋樑角色，降低使用者尋求真實人際支持的阻力，而非讓用戶更依賴 AI 本身。

已知侷限

一個帳戶只能設定一位緊急聯絡人，且用戶可透過建立多個帳戶規避功能，OpenAI 亦坦承此為潛在漏洞。功能有效性高度依賴人工審核速度與品質。

延伸觀點

AI 平台作為心理健康安全網的責任轉移

多個心理健康研究者與科技評論者共同指出，Trusted Contact 最重要的意義不在技術層面，而在於責任定位的轉移。OpenAI 透過引入人工審核層，明確承認 AI 獨立判斷在高風險情境中的不可靠性，這在同業中具有示範意義。美國心理學會執行長 Arthur Evans 特別強調，社會連結是自傷風險的保護因子，這一心理學原則是功能設計的核心依據。

「橋樑 AI」vs 「替代 AI」的設計哲學分歧

與同期其他 AI 安全功能相比（如 OpenAI 社群安全承諾：ChatGPT 的多層防護與執法通報機制 中的自動過濾機制），Trusted Contact 代表一種不同的取徑：不試圖讓 AI 成為更好的心理健康支持者，而是讓 AI 成為觸發真實人際介入的觸媒。這個設計選擇對整個 AI 心理健康功能的發展方向具有參考價值——特別是在 AI Companion 類產品快速擴張的當下。

相關頁面：OpenAI 社群安全承諾：ChatGPT 的多層防護與執法通報機制 | OpenAI 進階帳戶安全（Advanced Account Security）

反向連結

以下頁面引用了本頁：