FDA AI 器械 TPLC：驗證、監測、透明度與保安
FDA 草案 TPLC 指引中的性能驗證、上市後監測、透明度與偏見控制策略，以及 AI 專項網絡保安風險。
AI 器械在授權時可能表現良好，但在真實世界部署中可能改變或下降。FDA 草案因此強調上市前的性能驗證、上市後的器械性能監測、TPLC 各階段持續的透明度與偏見控制，以及針對 AI 的網絡保安。
性能驗證
驗證確認器械——由預期使用者使用時——對其預期用途安全有效。對 AI 器械包括：
- 獨立數據集上的獨立模型性能
- 使用者解讀或依據輸出行動時的人機團隊性能（與 GMLP 原則 7 一致）
- 按性別、年齡、種族、族裔、疾病變量、場所、設備及混淆因素的亞群分析
- 預先指定的終點、成功標準、統計分析計劃及盲法控制
- 在適用時的重複性/再現性
整體性能可接受仍可能掩蓋亞群表現欠佳。AI 模型可能學習與人口統計或場所特定採集模式相關的虛假關聯——尤其當亞群數據按場所聚集時。
驗證方法因器械類型而異：精密度研究、穩定性/變化追踪研究、構念效度證據、預後生存分析、影像決策支援的 reader 研究，以及台架、動物及臨床證據的組合。
研究方案應記錄每位患者使用的器械/模型版本，盡量減少方案偏差，並對開發者屏蔽測試數據以防止投機性調整。
香港視角
向供應商索取與你的人群及設備相關的亞群結果，而非僅整體 AUROC 或靈敏度。對影像 AI，比較人 vs 人+AI 的 reader 研究可能比單獨算法指標更具臨床意義。
器械性能監測
上市後，製造商應主動監測、識別及處理性能變化及輸入或使用情境的轉變。僅靠上市前測試可能無法控制所有風險，因為：
- 數據漂移 — 隨掃描器、化驗或工作流程演變，輸入數據分布改變
- 患者人口統計及疾病模式隨時間變化
- 高度自動化或預後性工具可能減少人類對細微下降的監督
穩健的性能監測計劃可包括：
- 偵測及評估性能變化及其安全/有效性影響的方法
- 監測人口轉變、輸入損壞、流程完整性問題及使用者行為變化等原因
- 部署環境監測的生命週期流程
- 更新、緩解及糾正措施計劃——部分變更可能無需新上市申報；預授權修改可適用 PCCP
- 向使用者傳達監測結果的程序
對香港機構，應澄清供應商是否提供監測儀表板、警報閾值，以及在你患者組成中偵測到漂移時的本地升級途徑。
TPLC 各階段的透明度與偏見
透明度指重要資訊對使用者可及且能實際理解——與可用性相關，而非僅文件數量。
AI 偏見是可能系統性產生錯誤結果的傾向，影響全部或部分預期人群的安全與有效性（如性別、年齡、醫療環境、輸入設備）。
FDA 建議從最早設計至退役透過以下方式處理透明度與偏見：
- 開發、測試及監測中的具代表性數據收集
- 跨人口統計及臨床亞群的性能評估
- 在標籤及 UI 設計中呈現局限（附錄 B — 透明度設計考量）
- 模型卡及公開申報摘要以支持信任（附錄 E–F）
醫護人員負有共同責任：維持臨床判斷、知道輸出對某患者亞群何時不可靠，並報告性能疑慮。
網絡保安
AI 器械面臨一般醫療器械網絡保安要求及 AI 專項威脅：
| 威脅 | 潛在影響 |
|---|---|
| 數據投毒 | 惡意訓練/推理數據降低診斷可靠性 |
| 模型逆向/竊取 | 知識產權損失、私隱洩露、性能受損 |
| 模型規避（evasion） | 刻意構造輸入導致誤分類 |
| 數據洩漏 | 敏感訓練或推理數據外洩 |
| 偏見操縱 | 對抗性篡改訓練數據或後門 |
| 性能漂移（對抗性） | 細微輸入轉移隨時間降低準確率 |
申報應符合 FDA 2023 上市前網絡保安指引，包括 fuzz 測試、滲透測試、AI 的 Security Use Case Views，以及數據認證、加密、存取控制、對抗性訓練、差分私隱（含文件化權衡）及持續性能監測等控制。
美國法規第 524B 下的 cyber device 有額外法定義務。
共同的生命週期責任
FDA 的 TPLC 框架表明：授權不是安全監督的終點。製造商須監測及管理 AI 性能；醫療機構須界定本地管治——誰審閱警報、何時暫停使用，以及如何針對香港患者群評估工具。