良好 AI 實踐原則 8–10：保證
進行包括人機互動在內的風險為本性能評估、在全生命週期管理 AI，並向使用者及患者傳達清晰必要資訊。
最後三項原則聚焦於證明 AI 按預期運作、隨時間維持性能，以及誠實地向依賴 AI 輸出者溝通。這對藥物警戒團隊、臨床試驗監察人員及監管提交人員尤其相關。
原則 8：風險為本性能評估
風險為本性能評估須評估包括人機互動在內的完整系統，使用適用數據及符合預期使用情境的指標。
須透過適當設計的測試及評價方法支持對預測性能的驗證。
人機互動為何重要
在藥物開發中，AI 很少獨立運作。藥理學家審閱 AI 標記的信號，或臨床人員解讀試驗富集建議，均構成完整系統的一部分。性能評估須反映真實工作流程——而非僅實驗室條件。
對香港團隊的問題
- 指標是否為你的使用情境而選？
- 驗證是否包括人機團隊性能？
- 測試數據是否適用且獨立於訓練？
原則 9：生命週期管理
須在 AI 技術整個生命週期實施風險為本質量管理系統，包括支持捕捉、評估及處理問題。
AI 技術須接受定期監測及周期性重新評價，以確保充分性能——例如應對數據漂移。
當真實世界數據逐漸有別於訓練數據時，會出現數據漂移，可能降低模型性能。隨 AI 支持持續藥物警戒及生產分析，此問題日益受關注。
共同責任
申辦方及供應商須建立監測流程；本地中心及醫院部門須界定誰審閱警報、何時升級，以及調查期間何時暫停使用。
原則 10：清晰必要資訊
須以淺白語言向預期受眾——包括使用者及患者——提供清晰、易達且情境相關的資訊，內容涵蓋：
- AI 技術的使用情境
- 性能及局限
- 基礎數據
- 更新
- 可解釋性或可說明性
對臨床人員及藥劑師的意義
在提交或臨床決策支援流程中依賴 AI 生成證據前，應確認已獲易理解的文件——而非僅供數據科學家閱讀的技術附錄。
負責任的使用意味著了解模型不能做什么，而非僅知其 headline 性能。