現有法律合規
WHO 指出，LMM 可能在新的 AI 專規生效前已與數據保護法（如 GDPR 對同意、刪除、解釋及年齡限制的要求）衝突。關注包括為訓練抓取個人數據、無法解釋自動化決策、保留用戶聊天數據，以及透過幻覺發布不準確的個人資訊。
許多面向患者的 LMM 應用處於受規管臨床軟件與輕度規管「wellness」應用之間的灰色地帶——然而虛假醫療建議仍可傷害患者，尤其在無臨床人員參與時。
當 LMM 為醫療目的而調適或作臨床用途推廣時，可能符合醫療器械資格，需要安全及有效性證據——而非僅在實驗性臨床決策支援工具上加免責聲明。
醫療體系以外的社會風險
WHO 強調更廣泛後果：
- 業界主導 — 少數公司控制算力、數據及人才；自願倫理承諾未必取代政府監督
- 碳及水足跡 — 訓練及推理消耗大量能源及水，影響氣候及本地資源
- 認識論權威 — 看似合理的 AI 文本可能削弱對醫學及科學人類專業的信任
- 模型 collapse — AI 生成的錯誤資訊污染未來訓練數據
- 倫理債務 — 倉促上市將損害轉嫁脆弱用戶
WHO 強調，人權及倫理義務不可協商——即使 AI 在風險為本監管框架下被列為「低風險」。
對香港醫護人員的意義
了解你機構對批准 AI 工具及個人數據的政策。評估供應商時，要求訓練數據、性能測試（包括幻覺率）、數據存放地點及符合香港《個人資料（私隱）條例》的透明度。於採購標準中倡議以患者安全優先於追逐新技術。