Hong Kong Healthcare Artificial Intelligence Society香港醫療人工智能學會

LMM 於診斷、患者護理及行政工作

LMM 支援臨床決策、面向患者的聊天機器人及文書工作時的潛在效益與主要風險——附香港實踐核查要點。

香港臨床人員在維持監督下審阅 AI 輔助臨床文書

WHO 指出 LMM 的五個主要臨床應用領域:診斷與臨床護理以患者為中心的應用文書及行政任務醫護教育,以及研究與藥物開發。本文聚焦前三項——香港臨床人員今日最直接接觸的範疇。

診斷與臨床護理

LMM 可協助複雜個案、常規診斷覆核、摘要病歷、起草回覆患者訊息(「解放鍵盤」)及鑑別診斷支援。試點計劃已使用通用模型起草臨床人員回覆——往往需大量編輯

WHO 強調,通過筆試並不等同安全臨床實踐。主要風險包括:

  • 幻覺 — 看似合理但虛假的回應或虛構參考文獻;研究顯示即使簡單摘要任務,幻覺率約 3% 至 27%
  • 數據質量及偏誤 — 在互聯網或偏倚健康數據上訓練;當建議適用高收入環境而非本地實踐時的 contextual bias
  • 自動化偏誤 — 臨床人員忽略本可發現的錯誤
  • 技能退化 — 過度依賴於系統故障時削弱能力
  • 知情同意 — 患者可能不知 AI 協助或生成溝通內容

以患者為中心的應用

患者及照顧者可能使用 LMM 聊天機器人獲取健康資訊、虛擬助手、精神健康支援或試驗配對。風險包括虛假醫學陳述、操縱(具說服力的對話模式)、向商業模型輸入敏感數據的私隱外洩、減少醫患接觸、當患者經驗不被承認時的認識論不公,以及在受規管醫療體系外提供護理。

特殊人群需額外謹慎:WHO 專家貢獻者強調兒童(對身心福祉影響證據有限)及殘疾人士(歷史上被排除於訓練數據之外,導致歧視性輸出)。

文書及行政任務

LMM 可翻譯或簡化語言、完成電子健康紀錄、起草診症記錄及支援帳單文書——可能從文書負擔中 reclaim 數小時。然而,轉錄、翻譯或摘要錯誤仍然嚴重;WHO 建議大多數文書功能在無人工覆核下不應完全自動化。提示微調導致輸出不一致亦是已知局限。

對香港醫護人員的意義

  • 切勿將可識別患者數據輸入公開或未獲批准的 LMM 服務
  • 將每份臨床或面向患者的輸出視為需你核實的草稿
  • 記錄 AI 如何協助護理,並確保患者理解其角色
  • 使工具與你的環境匹配——主要在美國或歐洲數據上訓練的模型未必反映本地流行病學、藥物表或臨床路徑

來源:世界衛生組織 — 醫療保健人工智能的倫理與管治:大型多模態模型指引(2024)

準備好測試你的理解?

根據本文進行短測驗,檢視你的理解程度。

開始測驗