管治
實施 GxP 數據及算法管治原則的 SOP 應延伸至藥品生命週期中 AI/ML 使用的所有數據、模型及算法。與所有組件管治、數據保護合規及道德標準相關的方面應記錄並定期審查。
數據保護
申請人及上市許可持有人必須確保所有個人數據——包括間接存在於 AI/ML 模型中的數據——的存儲及處理符合歐盟數據保護法規。處理須符合合法性、公平性、透明度、目的限制、數據最小化、準確性、存儲限制、完整性、保密性、問責性及設計與默認數據保護等原則。
應進行針對 AI 系統的特定風險評估，處理對數據主體權利及自由的影響。必要性評估應考慮匿名或合成數據或差分私隱；否則須證明為何不可行。比例原則應識別對數據主體影響最小的方法。
完整性方面
高參數模型表示可能包含與訓練數據相似的個體層級資訊，而對表示的洞察有限。若訓練使用個人數據，須評估是否可透過成員推斷、推理或模型反演攻擊提取資訊。
大型語言模型因存儲容量特別存在記憶化風險。過擬合增加記憶化風險；正則化、dropout 及隨機噪聲可提供部分至完全匿名化。若訓練數據不適合共享，在將模型轉移至較不安全環境前應採取保護完整性的措施。
可信 AI 與結論
可信 AI 的道德原則適用於藥品生命週期各階段。歐盟 AI 高級專家組的可信 AI 評估清單（ALTAI）可指導實施。主要原則包括：
- 人的能動性與監督
- 技術穩健性與安全
- 私隱與數據管治
- 透明度
- 問責性
- 社會及環境福祉
- 多樣性、非歧視與公平
應以人為本的方法指導所有開發及部署。應在早期進行系統性影響分析，並從一開始引入道德及法律專業知識。雖然 AI/ML 對加強藥品生命週期各階段展現巨大潛力，非透明的高參數模型引入須緩解的風險以確保患者安全及研究完整性。須採取積極措施避免偏見並促進 AI 可信度，始終符合法律要求及基本權利。