AI如何向監(jiān)管證明自己?
近年來,AI在制藥領(lǐng)域的應(yīng)用持續(xù)深化,從分子生成、工藝設(shè)計,到臨床開發(fā)、上市后評價,AI技術(shù)正逐步嵌入藥品全生命周期的各個關(guān)鍵環(huán)節(jié)。但伴隨技術(shù)落地,一個核心問題愈發(fā)凸顯:當AI產(chǎn)出用于支撐藥物研發(fā)、生產(chǎn)、上市后監(jiān)測等關(guān)鍵決策時,這些產(chǎn)出能否以可追溯、可復(fù)核、可治理的方式,融入既有的藥品注冊審評與質(zhì)量管理體系。這并非附加要求,而是AI從“展示性應(yīng)用”走向“監(jiān)管可接受證據(jù)”的關(guān)鍵門檻。
在此背景下,歐美藥品監(jiān)管機構(gòu)加速協(xié)同,相繼出臺了一系列指導(dǎo)文件,逐步形成了一套統(tǒng)一的監(jiān)管邏輯與實踐框架,這也為我國藥企開展國際化申報、構(gòu)建體系化AI治理能力提供了可參考的路徑。
監(jiān)管共識形成
今年1月,美國食品藥品管理局(FDA)和歐洲藥品管理局(EMA)聯(lián)合發(fā)布《Guiding Principles of Good AI Practicein Drug Development》(《藥物開發(fā)中人工智能良好實踐指導(dǎo)原則》,以下簡稱指導(dǎo)原則),確立了貫穿藥物全生命周期的10項核心原則,為企業(yè)在藥物研發(fā)、生產(chǎn)、上市后監(jiān)測等場景中應(yīng)用AI技術(shù)提供指導(dǎo)。EMA在相關(guān)公告中明確,指導(dǎo)原則將為后續(xù)更具體、更細化的監(jiān)管指南提供重要支撐。
要精準理解指導(dǎo)原則,需將其置于同一政策脈絡(luò)下的兩份文件中統(tǒng)籌把握。
2024年9月,EMA發(fā)布《Reflection paper on the use of Artificial Intelligence (AI) in the medicinal product lifecycle》(《藥品生命周期中使用人工智能(AI)的反思文件》,以下簡稱反思文件),首先明確了AI/機器學(xué)習技術(shù)應(yīng)用是否屬于EMA及歐盟成員國藥品監(jiān)管機構(gòu)的職責范疇,監(jiān)管審查力度將以此為直接依據(jù)。在此基礎(chǔ)上,反思文件圍繞數(shù)據(jù)偏倚與代表性、模型透明性、驗證與變更控制、倫理與法律合規(guī)、監(jiān)管溝通等關(guān)鍵議題展開深入探討,為企業(yè)明晰監(jiān)管審查重點、優(yōu)化與監(jiān)管機構(gòu)的溝通路徑提供了框架。
2025年1月,美國FDA發(fā)布AI指南草案《Considerations for the Use of Artificial Intelligence To Support Regulatory Decision-Making for Drug and Biological Products》(《使用人工智能支持藥品和生物制品監(jiān)管決策的考量》),進一步將監(jiān)管要求落地為可操作的可信度證明路徑。FDA指出,該指南草案面向使用AI生成信息或數(shù)據(jù),用于支持藥品與生物制品安全性、有效性及質(zhì)量相關(guān)的監(jiān)管決策,不涵蓋僅用于藥物發(fā)現(xiàn)或單純提升運營效率、不直接影響患者安全與研究結(jié)果可靠性的AI應(yīng)用情形。該指南草案提出“基于風險的可信度評估框架”,用于在明確使用情境下,建立與評價AI模型的可信度。這里的“可信”,指的是驗證模型輸出是否足以支撐對應(yīng)決策,并通過合理的驗證、文檔留存與持續(xù)監(jiān)測,滿足監(jiān)管機構(gòu)對可靠性與可審計性的要求。
綜上可見,歐美監(jiān)管口徑已形成層次清晰的體系架構(gòu):指導(dǎo)原則確立統(tǒng)一的基本要求,EMA反思文件系統(tǒng)化呈現(xiàn)監(jiān)管關(guān)注點與風險討論框架,F(xiàn)DA指南草案則提供以使用情境為核心的可信度評估與證據(jù)組織方法。三者共同指向同一核心邏輯:對AI制藥的監(jiān)管不以“模型是否先進”為中心,而是聚焦AI輸出如何進入證據(jù)鏈、如何開展驗證與治理。
合規(guī)實踐轉(zhuǎn)向
歐美協(xié)同構(gòu)建的AI監(jiān)管框架,為我國創(chuàng)新藥企業(yè)開展國際化申報、搭建合規(guī)AI應(yīng)用體系提供了重要參考。未來企業(yè)與歐美藥品監(jiān)管機構(gòu)溝通時,將擁有統(tǒng)一的“監(jiān)管語言”,溝通焦點也將聚焦于證據(jù)鏈的可治理性,以及明確使用情境下的可信度證明。
在藥物研發(fā)領(lǐng)域,明確使用情境的引入,將重塑企業(yè)對AI價值的定位與構(gòu)建證據(jù)體系的整體思路。歐美系列監(jiān)管文件釋放出明確信號:AI應(yīng)用越接近影響藥品安全性、有效性及關(guān)鍵開發(fā)決策的核心環(huán)節(jié),越需要清晰界定其使用情境(或用于支持哪一類判斷),并匹配與風險等級相符的驗證、監(jiān)測及文檔證據(jù)。若企業(yè)僅圍繞模型區(qū)分能力、參數(shù)規(guī)模等技術(shù)指標展開說明,極易在審評溝通中被追問更關(guān)鍵的問題,比如模型輸出具體支撐哪個決策環(huán)節(jié)、適用邊界如何、潛在誤差可能引發(fā)的后果,以及對應(yīng)的驗證與持續(xù)監(jiān)測策略等。
在生產(chǎn)制造與藥物警戒領(lǐng)域,監(jiān)管關(guān)注點更集中于藥品全生命周期管理與變更控制。在生產(chǎn)制造環(huán)節(jié),AI可用于工藝監(jiān)控、偏差識別、放行輔助判斷與持續(xù)工藝驗證等場景;在藥物警戒方面,AI可用于信號檢測、病例處理分流與風險評估輔助。EMA反思文件強調(diào)監(jiān)管審查強度與職責范圍相關(guān),并重點探討驗證與變更控制等議題,這也提示企業(yè),在高風險環(huán)節(jié)應(yīng)用AI技術(shù)時,需將模型性能隨時間變化的風險納入體系化管理,通過持續(xù)監(jiān)控、回歸驗證與變更控制,保障模型在明確使用情境下持續(xù)滿足預(yù)期的可信度要求。
治理體系構(gòu)建
當前,我國藥企的核心任務(wù),是將歐美形成的監(jiān)管共識,轉(zhuǎn)化為適配自身發(fā)展、可落地、可審計、可持續(xù)運行的AI治理體系,具體可從六個方面推進。
一是構(gòu)建可審計的AI證據(jù)鏈。將模型輸出視為進入研發(fā)與質(zhì)量決策流程的“數(shù)據(jù)來源”,在質(zhì)量體系中建立全流程追溯機制,涵蓋數(shù)據(jù)版本、特征工程/預(yù)處理、標簽與人工規(guī)則、訓(xùn)練與推理配置、模型版本與閾值設(shè)定,以及輸出結(jié)果接入決策節(jié)點的完整路徑。實踐中,可從模型訓(xùn)練與上線環(huán)節(jié)入手,實施日志化、版本化管理,確保未來在審評或核查場景下,能夠完整復(fù)原數(shù)據(jù)來源、處理流程、判斷主體及結(jié)論形成邏輯。
二是細化并明確AI使用情境。對內(nèi)管理與對外溝通需統(tǒng)一回應(yīng)一組問題:模型支撐的具體決策是什么,輸出將用于哪一步判斷;其功能邊界與適用限制;是否需要人機協(xié)同完成最終判斷;哪些輸入變化會觸發(fā)失效或再驗證。相較于單純展示性能指標,清晰界定使用情境更能幫助監(jiān)管方與合作方快速識別風險點,明確所需補充的證據(jù)。
三是匹配驗證與監(jiān)督策略。驗證強度需與風險等級掛鉤,風險既取決于模型在業(yè)務(wù)流程中的影響程度,也關(guān)聯(lián)決策后果。針對高風險應(yīng)用,需實施嚴格的前瞻性測試與性能度量,設(shè)定明確的性能閾值與失效應(yīng)急預(yù)案,上線后開展定期監(jiān)測與回歸驗證。在生產(chǎn)放行、偏差識別等場景,需將模型更新與閾值調(diào)整納入現(xiàn)有變更控制程序。可優(yōu)先為關(guān)鍵模型建立“性能漂移監(jiān)測計劃”,提前固化觸發(fā)條件、復(fù)驗證路徑與升級匯報機制。
四是強化數(shù)據(jù)代表性與偏倚控制。數(shù)據(jù)治理需從追求規(guī)模與效率,轉(zhuǎn)向可審計的代表性與偏倚管理,驗證訓(xùn)練與測試數(shù)據(jù)是否覆蓋多樣性的目標人群及應(yīng)用場景,確保模型在性別、年齡、遺傳背景、臨床分層等關(guān)鍵子群中性能一致。針對真實世界數(shù)據(jù),還需同步建立覆蓋數(shù)據(jù)質(zhì)量、一致性、使用授權(quán)與合規(guī)鏈條的審計記錄,以滿足跨境合作與境外申報的合規(guī)要求。
五是建立跨學(xué)科協(xié)作與責任邊界。AI應(yīng)用落地不能僅依賴算法團隊,需整合研發(fā)、臨床、法規(guī)、質(zhì)量、藥物警戒、隱私倫理等多領(lǐng)域人員,共同界定使用情境、風險等級與證據(jù)要求;同時,明確責任分工與升級機制,厘清輸出結(jié)果、放行決策、持續(xù)監(jiān)測的責任主體,構(gòu)建可執(zhí)行的治理結(jié)構(gòu)。
六是推進前置化、持續(xù)性監(jiān)管溝通。針對擬納入關(guān)鍵決策鏈的AI應(yīng)用,盡早與監(jiān)管機構(gòu)溝通可有效減少后期返工。溝通材料應(yīng)聚焦使用情境、風險分級、可信度評估計劃、驗證與監(jiān)測安排,明確材料提交的時機與顆粒度。
AI技術(shù)對于制藥行業(yè)的真正價值,并非技術(shù)概念的前沿性,而是能否以合規(guī)、可信、可控的方式融入藥品證據(jù)鏈。當全球藥品監(jiān)管機構(gòu)以“風險為本”“使用情境”“全生命周期管理”為核心關(guān)鍵詞來組織政策語言時,中國藥企的核心競爭力也將更多體現(xiàn)在體系化治理能力與可審計證據(jù)組織能力上。唯有建立適配全球監(jiān)管的AI質(zhì)量管理體系,才能真正讓AI成為驅(qū)動藥物研發(fā)與產(chǎn)業(yè)升級的可靠動力。[作者為泓惠醫(yī)藥科技(北京)有限責任公司首席科學(xué)家]
(責任編輯:劉思慧)
右鍵點擊另存二維碼!
互聯(lián)網(wǎng)新聞信息服務(wù)許可證10120170033
網(wǎng)絡(luò)出版服務(wù)許可證(京)字082號
?京公網(wǎng)安備 11010802023089號 京ICP備17013160號-1