由FDA主辦的第14屆全球監管科學峰會(GSRS)會議上,有一場值得注意的對話 - 監管科學對人工智能的準備情況。
會議開幕式上,FDA前局長Robert M. Califf 博士強調,AI與監管科學的整合是不可避免的,全球監管機構必須深入了解并開發適應性的監管框架。同時,Califf 博士概述了AI監管的十大核心原則。
Califf博士一直關注AI監管,在擔任局長時還曾發表署名FDA的AI監管考量文章。
信任對于監管科學中人工智能的應用至關重要
除了舉辦GSRS會議外,全球監管科學研究聯盟 (GCRSR) 的大語言模型(LLM)工作組提出了TREAT原則,涵蓋可信性(Trustworthiness)、可復現性(Reproducibility)、可解釋性(Explainability)、適用性(Applicability)和透明度(Transparency)。雖然該原則旨在確保LLM可靠且值得信賴,但會議討論進一步探討了它是否應作為所有監管決策中AI應用的指導框架。如果是這樣,鑒于許多問題尚未解決,且可能阻礙實際落地,業界必須應對哪些挑戰和影響?
工作小組和與會者一致認為,信任(Trust)是AI在監管應用中獲得認可和整合的最重要因素。然而,對于如何定義值得信賴的AI,以及如何衡量它,尚未達成共識。雖然可復現性、可解釋性、適用性和透明度通常被認為是基本屬性,但它們的適用性仍是一個有爭議的話題。一個關鍵問題是,AI的獨特性是否需要重新思考這些概念的傳統定義,尤其是在指導現代人工智能快速發展的監管應用方面。
挑戰和注意事項:驗證以及人的參與
AI雖然提供了眾多機遇,但也帶來了挑戰,需要制定應對策略促進AI在監管工作流程中的整合,雖然短期內AI尚無法取代人類專業知識,但利用AI增強決策能力已成為監管應用中日益普遍的實踐。唯有通過建設一支訓練有素的人才隊伍來確保有效監管,才能推動并加速這一范式變革。建議的策略包括開展培訓項目和促進跨學科協作,以實現向AI增強型監管框架的平穩過渡。
AI在監管科學中的成功整合取決于克服與數據質量、模型驗證、人-AI交互和問責制相關的關鍵挑戰,以確保可靠性、透明度和信任度。就數據質量和可獲得性而言,毒理學等領域仍面臨數據匱乏的困境。在AI模型驗證方面,傳統的驗證方法可能無法全面評估AI在監管應用中的表現,需要新的方法(這方面歐盟成為先行者,讀者可參考EMA近期發布的AI臨床工具驗證報告)。在人-AI交互方面,采用AI增強人類專業知識的“副駕駛”方法,可以建立信任并進行有意義的監督,從而平衡問責制和AI的優勢。為了實現問責制和責任制,需要建立清晰的框架來界定AI輔助決策的責任,并制定錯誤處理指南。
未來展望:從“低垂果實”到“監管沙盒”
在監管環境中引入AI的有效切入點,應優先選擇能顯著提升效率且風險較低的領域。信息檢索與整合這類任務屬于“低垂果實”,既能帶來明確價值,又能增強機構對AI技術的認知和信心。另一個前景廣闊的方向是應用AI模型,如AI輔助的定量構效關系分析(QSAR),來評估化學品和藥物的安全性。這類模型已發展成熟,其合理應用也經過廣泛討論,為進一步探索奠定了堅實基礎。
為在監管決策中落實這些應用,建立“監管沙盒(regulatory sandboxes)”至關重要。這種受控環境可在不同監管場景下測試和完善AI解決方案。此外,開發高質量的參考數據集有助于建立評估AI在不同場景下性能的基準。這些舉措將推動AI更穩健、可靠地融入監管流程,為其負責任且高效的應用鋪平道路。
全球監管機構間的國際合作對釋放AI在監管領域的潛力也至關重要,既能應對挑戰,也能把握機遇。此類合作有助于能力建設,在整合AI的同時充分利用全球機構的數據資源。重要的是,它能推動各方就技術穩健、實踐相關且監管上負責任的AI應用達成共識。此外,建立跨機構的培訓項目,旨在使監管專業人員具備監管AI驅動流程所需的技術技能和批判性思維能力。合作可以支持制定規程,以處理AI生成的建議與人類判斷之間的分歧,確保決策的可靠性和完整記錄。
四川省醫藥保化品質量管理協會組織召開
2025版《中國藥典》將于2025年10月..關于舉辦四川省藥品生產企業擬新任質量
各相關企業: 新修訂的《中華人..四川省醫藥保化品質量管理協會召開第七
四川省醫藥保化品質量管理協會第七..“兩新聯萬家,黨建助振興”甘孜行活動
為深入貫徹落實省委兩新工委、省市..學習傳達中央八項規定精神專題會議
2025年4月22日,協會黨支部組織召..關于收取2025年度會費的通知
各會員單位: 在過去的一年里,..四川省應對新型冠狀病毒肺炎疫情應急指
四川省應對新型冠狀病毒肺炎疫情應..四川省應對新型冠狀病毒肺炎疫情應急指
四川省應對新型冠狀病毒肺炎疫情應..