Hong Kong Healthcare Artificial Intelligence Society香港醫療人工智能學會

LMM 於教育、研究及醫療體系風險

由醫學生聊天機器人至科學寫作——以及高估 LMM 效益、數碼鴻溝及醫療人力影響的系統性風險。

強調 AI 素養及科學誠信的醫護教育及研究場景

醫護教育

LMM 可生成度身訂造的學習文本、模擬患者對話(包括罕見病或殘疾),並提供 chain-of-thought 解釋。然而錯誤或虛構內容可損害教育質素,學員可能將判斷交由模型(自動化偏誤)。WHO 亦指出新的數碼素養負擔——專業人員須學習使用 AI 輔助工具,同時維持核心臨床技能。

科學研究及藥物開發

LMM 可起草文稿、摘要文獻、分析數據集、校訂資助申請及支援 de novo 藥物設計。主要出版商及世界醫學編輯器協會限制作者身份僅限人類,因 AI 無法承擔問責。其他風險包括:

  • 虛構參考文獻 — 引用不存在的論文
  • 訓練數據及輸出中的高收入國家偏誤
  • 若不透明 AI 生成評審泛濫,削弱同行評審
  • 付費牆加劇研究人員之間的知識鴻溝

醫療體系系統性風險

WHO 將影響整個醫療體系的更廣泛風險歸類如下:

風險含義
技術解方主義高估 LMM 效益,同時對經證實的非 AI 干預投資不足
可及性及可負擔性訂閱費、以英語為中心的模型及數碼鴻溝限制公平取用
系統性偏誤更大模型可能將偏誤傳播至各機構
人力影響再培訓需要、數據標註勞工關注及可能的技能退化
依賴性醫療體系依賴未為本地情境維護的模型
網絡保安提示注入、數據外洩及針對 AI 依賴基礎設施的攻擊

對香港醫護人員的意義

於 CME、教學或研究寫作中使用 LMM 時,須按期刊及機構政策披露 AI 使用。優先人類問責並核實每項引用。在醫院管治討論中,問 LMM 投資是否將資源從已在香港改善人口健康的循證計劃中抽走。

來源:世界衛生組織 — 醫療保健人工智能的倫理與管治:大型多模態模型指引(2024)

準備好測試你的理解?

根據本文進行短測驗,檢視你的理解程度。

開始測驗