Hong Kong Healthcare Artificial Intelligence Society香港醫療人工智能學會

LMM 的管治、部署及負責任使用

了解 AI 價值鏈——開發、提供及部署——以及香港環境下的部署者職責、人力培訓及責任考量。

醫院管治環境中由開發至部署的 AI 價值鏈

WHO 於 AI 價值鏈三個階段構建 LMM 管治:

  1. 開發 — 開發者訓練基礎模型(數據質量、偏誤、私隱、環境影響)
  2. 提供 — 提供者微調或將模型整合至醫療應用
  3. 部署 — 醫院、部門、臨床人員或個人於實踐中使用獲批准工具

各階段責任不同,但人權及倫理原則全程不可協商

開發者及提供者義務

開發者應進行數據保護影響評估、納入多元持份者(包括透過「人類監督學院」的臨床人員及患者)、為準確性而設計,並標示 AI 生成內容。政府可要求預先認證、審計、醫療 LMM 目標產品概況及訓練數據透明度。

為臨床用途調適基礎模型的提供者分擔監管負擔——尤其當變更偏離開發者原設計時。由獨立第三方審計的影響評估應涵蓋生命週期內的倫理、人權、安全及數據保護。

部署者責任(你可能所處位置)

作為部署者——使用 LMM 產品的醫院、診所或個別臨床人員——WHO 期望你:

  • 在已知偏誤或情境局限時避免不當場景
  • 清楚傳達風險——不藏於細字;若發生損害則暫停使用
  • 改善可及性——語言、定價及對弱勢群組的包容
  • 培訓人力於決策、避免偏誤、患者參與及網絡保安
  • 運用採購權要求供應商透明

即使監管批准後,LMM 輸出仍可能不可預測地改變。規模化部署時建議強制發布後審計及影響評估。

責任及國際管治

隨 LMM 相關損害出現,政府可引入因果推定、嚴格責任或無過失補償基金——平衡患者救濟與抑制有益創新。

需要國際合作,使管治與全球技術同步——由所有國家而非僅高收入國家及大型科技公司塑造。

對香港醫護人員的意義

參與機構 AI 管治:記錄預期用途、監測輸出、報告事件,並維持於 AI 工具不可用時安全執業的技能。你的臨床判斷仍是最後防線。

來源:世界衛生組織 — 醫療保健人工智能的倫理與管治:大型多模態模型指引(2024)

準備好測試你的理解?

根據本文進行短測驗,檢視你的理解程度。

開始測驗