Hong Kong Healthcare Artificial Intelligence Society香港醫療人工智能學會

AI 生命週期中的文件記錄與透明度

預先規劃開發、追溯決策與數據集選擇,並按風險比例記錄——WHO 對香港 AI 採用者的啟示。

醫療保健 AI 開發生命週期的文件追溯

為何文件記錄重要

WHO 指出文件與透明度對科學及監管評估以及開發者、製造商與最終用戶之間的信任至關重要。若缺乏透明記錄,難以判斷監管申請中的證據能否推廣至你的病房、診所或患者組合——表現往往會下降。

有效文件有助防範偏見數據挖掘。監管機構期望追溯開發步驟及決策點,包括:所解決的臨床問題;AI 系統運作情境;訓練數據集的選擇、整理及處理;以及偏離預先規劃時的理由。

生命週期中的質量連續性

WHO 鼓勵由構思、開發、驗證、部署至部署後學習的質量連續性。要素包括:預先規劃開發、驗證及部署計劃;開發期間的流程、驗證選擇及偏差追蹤;部署後的表現數據、意外發現及修改理由。

文件應與風險成比例。與監管機構早期溝通有助在重大成本投入前釐清文件需要。

監管以外的透明度

對香港專業人士,透明度亦支持同儕學習:於期刊發表、在適當情況下分享數據集,並以 CONSORT-AISPIRIT-AI 報告 AI 研究。溝通應配合最終用戶、患者及社區——不僅限監管機構。

臨床人員實用問題

使用 AI 工具前,可向供應商或資訊團隊查詢:是否有預先規劃的醫療目的及開發計劃?能否描述訓練及驗證數據集?偏離原計劃是否有記錄及理由?部署後監測及更新計劃是否有文件?

來源:世界衛生組織 — 健康領域人工智能監管考量(2023)

準備好測試你的理解?

根據本文進行短測驗,檢視你的理解程度。

開始測驗