FDA·EMA 의약품 개발 AI 규제 — 2025 신뢰성 평가 프레임워크와 2026 공동 Good AI Practice 10대 원칙에 한국 제약이 대비하는 법

2025년 1월 발표된 FDA 의약품 개발 AI 신뢰성 평가 draft 프레임워크(90 FR 1157)와 2026년 1월 14일 발표된 FDA·EMA 공동 Good AI Practice 10대 원칙이 한국 제약바이오 기업의 신약 개발 AI 적용과 인허가 제출 패키지(GxP 데이터 거버넌스, COU 정의)에 미치는 영향과 실무 가이드를 분석한다.

최근 인공지능(AI) 기술이 신약 후보물질 탐색(Drug Discovery)을 넘어 임상시험 설계, 환자 계층화(Patient Stratification), 바이오마커 발굴, 생산 공정 최적화 및 시판 후 이상사례 감시(Pharmacovigilance) 등 의약품 개발 전주기로 빠르게 확산되고 있다. 이에 따라 미국 식품의약국(FDA)과 유럽의약품청(EMA)을 필두로 한 글로벌 규제당국들은 AI 모델의 불투명성(Black-box)과 환자 안전에 미치는 잠재적 위험을 통제하기 위해 구체적인 인허가 가이드라인을 제정하고 있다.

FDA는 2025년 1월 draft 의약품·생물학적제제 규제 의사결정을 지원하는 AI 사용 고려사항(90 FR 1157, docket FDA-2024-D-4689)에서 7단계 risk-based 신뢰성 평가 프레임워크를 제시했고, 2026년 1월 14일 EMA와 공동으로 Good AI Practice in Drug Development 10대 원칙(인간 중심 설계·위험기반 접근·표준 준수·명확한 COU·다학제 전문성·데이터 거버넌스·모델 설계·평가·생명주기 관리·명확한 정보)을 발표했다. 한국 sponsor는 특정 COU마다 모델 위험을 정량화하고, 신뢰성 평가 계획을 FDA pre-IND 브리핑북 제출 단계 등 개발 초기부터 FDA와 조기 합의하며, GxP 수준 데이터 출처·추적성을 문서화해야 한다.

이 가이드에서는 한국 제약·바이오텍 및 AI 신약 개발사들이 글로벌 신약 승인(NDA/BLA)을 추진할 때 필수적으로 제출해야 하는 'AI 신뢰성 평가 패키지' 구축 방안과 핵심 규제 요건들을 심층 해부한다.

FDA 7단계 신뢰성 평가 프레임워크 — COU·위험·검증·적격성 판정

FDA가 2025년 1월에 발표한 초안 가이던스는 AI가 의약품 규제 의사결정(Regulatory Decision-Making)에 관여할 때, 그 모델의 신뢰성(Credibility)을 어떻게 검증하고 입증할 것인가에 대한 7단계 표준 방법론을 확립했다. 이는 소프트웨어 모델을 신뢰할 수 있는 '근거 생성 도구'로 격상시키기 위한 규제적 검증 경로다.

FDA 7단계 신뢰성 평가 프로세스 흐름:

질문 정의 (Question Definition) ➔ 2. 사용 상황 정의 (Context of Use, COU) ➔ 3. 모델 위험 평가 (Model Risk Assessment) ➔ 4. 신뢰성 계획 수립 (Credibility Plan) ➔ 5. 계획 실행 및 검증 (Execution & Verification) ➔ 6. 문서화 및 추적성 확보 (Documentation) ➔ 7. 최종 적격성 판정 (Final Adequacy/Qualification)
질문 정의 (Question Definition): AI 모델을 통해 해결하고자 하는 의학적·과학적 질문이 무엇인지 명확히 정의한다. (예: "이 AI 모델이 특정 항암제의 반응 환자군을 바이오마커 데이터를 기반으로 예측할 수 있는가?")
사용 상황 정의 (Context of Use, COU): AI 모델의 구체적인 적용 범위를 규정한다. 모델이 오작동했을 때 환자 안전이나 임상 결과에 미치는 영향력을 결정하는 가장 중요한 단계다.
모델 위험 평가 (Model Risk Assessment): 정의된 COU에 기반하여 AI 모델의 위험도를 등급화한다. 임상 3상 시험에서 1차 평가지표(Primary Endpoint)의 결정에 영향을 주는 AI는 '고위험(High Risk)'으로 분류되는 반면, 초기 후보물질 스크리닝 단계의 AI는 '저위험(Low Risk)'으로 분류된다.
신뢰성 계획 수립 (Credibility Plan): 위험도에 따라 모델의 과학적 타당성, 수학적 강건성(Robustness), 입력 데이터의 편향성 해소 방안 등을 담은 검증 프로토콜을 수립한다.
계획 실행 및 검증 (Execution & Verification): 독립된 테스트 데이터셋을 사용하여 모델을 평가하고, 내부 검증(Internal Validation)과 외부 검증(External Validation)을 수행하여 성능 지표를 도출한다.
문서화 및 추적성 확보 (Documentation): 모델의 설계 이력, 학습용 데이터셋의 출처, 전처리 과정, 하이퍼파라미터 튜닝 기록 등을 GxP 규정에 부합하도록 문서화한다.
최종 적격성 판정 (Final Adequacy / Qualification): 임상 자료 제출 시 AI 신뢰성 요약 보고서를 첨부하여, FDA 심사관이 최종 승인 의사결정을 내릴 수 있도록 적격성을 입증한다.

FDA·EMA 공동 10대 원칙(2026-01-14)이 의약품 AI에 요구하는 것

FDA와 유럽 EMA는 AI 기반 의약품 개발의 안전성과 효과성을 확보하기 위해 개별 국가 단위의 규제를 넘어 글로벌 조화(Global Harmonization)를 추진해 왔다. 그 결실로 2026년 1월 14일 양국 규제기관은 공동 지침서인 **'Good AI Practice in Drug Development 10대 원칙'**을 발표했다.

이는 향후 양국에 제출되는 모든 AI 활용 신약 임상 및 허가 자료의 바이블 역할을 하게 된다.

원칙 번호	핵심 원칙 명칭	실무적 요구 사항 및 대응 전략
원칙 1	인간 중심 설계 (Human-Centered Design)	AI의 최종 결과물은 의료진 또는 연구자가 최종 검증할 수 있어야 하며, AI가 인간의 임상적 판단을 완전히 대체해서는 안 됨.
원칙 2	위험 기반 접근 (Risk-Based Approach)	모델이 임상 의사결정에 미치는 영향력에 비례하여 검증 및 거버넌스 수준을 차등화하여 리소스 분배.
원칙 3	표준 준수 (Adherence to Standards)	법적·윤리적·기술·과학·사이버보안·규제 표준(GxP 포함)을 준수하며, 의약품 개발 단계에 맞춰 AI 모델 라이프사이클을 현행 GxP 컴플라이언스 체계 내에 편입할 것.
원칙 4	명확한 사용 상황 (Clear Context of Use)	AI 모델의 적용 대상 환자군, 데이터 입력 요구 사항, 결과 해석 범위를 문서로 고정하고 이를 준수.
원칙 5	다학제 전문성 (Multidisciplinary Expertise)	AI 개발에 컴퓨터 과학자뿐만 아니라 임상 연구자, 약학자, 통계학자, 규제과학(RA) 전문가가 공동 참여할 것.
원칙 6	데이터 거버넌스 (Data Governance)	학습 및 테스트 데이터의 개인정보보호, 레이블링 품질, 편향성(Bias) 통제 및 결측치 처리 과정을 완전 투명하게 공개.
원칙 7	모델 설계 및 개발 (Model Design & Development)	과적합(Overfitting)을 방지하기 위한 설계 요건을 갖추고, 설명 가능한 AI(XAI) 방법론을 적용하여 모델 해석력 증대.
원칙 8	위험 기반 성능 평가 (Risk-based Performance Assessment)	사용 상황(COU)과 모델 위험에 비례해, 인간-AI 상호작용을 포함한 시스템 전체를 적절한 데이터·지표로 평가하고 과학적으로 타당한 검증 방법으로 뒷받침.
원칙 9	생명주기 관리 (Lifecycle Management)	시판 후 또는 실제 임상 현장에서 발생할 수 있는 데이터 드리프트(Data Drift)를 실시간 모니터링하고 모델 재학습(Retraining) 프로토콜 구축.
원칙 10	명확하고 필수적인 정보 (Clear, Essential Information)	AI의 COU·성능·한계·기반 데이터·업데이트·해석가능성을 일반 언어로 대상 독자(사용자 및 환자 포함)가 이해할 수 있고 맥락에 맞는 형태로 제공.

EMA 반영논문(2024)·PIC/S Annex 22(2025 초안)와의 정렬·차이

글로벌 규제 조화 흐름 속에서도, 유럽 EMA의 접근법과 의약품 제조 국제 협력 기구인 PIC/S(의약품실사상호협력기구)의 GMP 프레임워크는 각자의 도메인에 따른 미세한 온도 차를 보인다.

1. EMA 2024 반영 논문 및 규제 입장

EMA는 2024년 9월 발표한 반영 논문(Reflection Paper on the use of AI in the medicinal product lifecycle, EMA/CHMP/CVMP/83833/2023)을 통해 AI의 인허가 적용에 대한 유럽 고유의 프레임워크를 정비했다. EMA는 의약품 전 주기(발견·비임상·임상·정밀의료·제조·시판후)에 걸친 위험 기반·인간 중심 접근과 데이터 거버넌스(GDPR 정합성)를 강조했고, 기존 EU 의약품 규정이 AI/ML에도 그대로 적용됨을 명확히 했다.

2. PIC/S Annex 22 (2025 초안)의 GMP 내 AI 규정

의약품 제조 시설의 컴퓨터 시스템 밸리데이션(CSV)과 AI를 다루는 EU 집행위(EudraLex Volume 4)와 PIC/S는 2025년 7월 7일 공동 이해관계자 협의(joint consultation)를 통해 신설 Annex 22(인공지능) 초안을 발표하며 의약품 GMP 환경에서의 AI/ML 시스템 검증 가이드를 제시했다(Chapter 4·Annex 11 개정과 함께 묶여 공개됨).

핵심 적용 배제 영역: PIC/S Annex 22는 실시간으로 가중치가 스스로 변하는 **'적동형/동적 학습 모델(Online Adaptive Learning Model)'**을 원칙적으로 의약품 제조 품질 관리(GMP) 및 공정 제어 영역에서 배제하도록 권고한다. 실시간 자율 학습 모델은 데이터 일관성 및 재현성을 보장할 수 없기 때문이다. GMP 영역에서는 오직 개발 단계에서 동결(Frozen)되어 검증을 마친 고정형 모델(Static Model)만 승인될 수 있다.
한국 기업 시사점: AI 신약 제조 및 스마트 팩토리 공정 제어를 설계하는 한국 제약사 및 CDMO는 AI 모델의 가중치를 고정하고 정기 재검증(Periodic Re-validation)을 수행하는 폐쇄형 라이프사이클을 설계해야 PIC/S GMP 실사를 통과할 수 있다.

의약품 vs 의료기기 AI 규제 — 왜 다른 프레임워크인가?

한국의 디지털 헬스케어 스타트업과 전통 제약사들이 흔히 저지르는 실수 중 하나는 의료기기(SaMD) 분야의 AI 가이드라인을 의약품 개발 AI에 그대로 대입하는 것이다. 그러나 FDA에서 이 두 도메인은 완전히 다른 센터(CDRH vs CDER/CBER)에서 완전히 다른 규제적 철학으로 심사한다.

비교 항목	의료기기 AI 규제 (SaMD)	의약품 개발 AI 규제 (Pharma/Biologic)
심사 주관 부서	FDA 의료기기 및 방사선 보건 센터 (CDRH)	FDA 의약품 평가 연구 센터 (CDER) / 생물의약품 평가 연구 센터 (CBER)
핵심 가이드라인	FDA GMLP(의료기기 AI), PCCP(Predetermined Change Control Plan), FDA CDS·비기기 경계	FDA 2025 의약품 AI 신뢰성 가이드 (90 FR 1157), FDA/EMA 공동 10대 원칙 (2026)
규제 대상의 본질	소프트웨어 자체가 최종 판매되는 의료기기 제품임. 소프트웨어의 안전성과 성능을 심사.	AI는 신약의 안전성과 유효성을 입증하기 위한 '연구 수단 또는 증거 생성 도구'임.
모델 업데이트	PCCP를 통해 시판 후 모델 성능이 자율적으로 업데이트되는 경로 허용 (사전 협의된 범위 내).	모델 변경이 임상 데이터 분석 결과나 바이오마커 선정 기준을 흔들 수 없으므로, 변경 시 엄격한 갱신 필요.
의학적 근거 수준	임상적 성능 검증(Clinical Association) 중심.	의약품 작용 기전(MoA) 설명력, RWE 규제 제출의 데이터 신뢰성 등 전통적 의약품 안전성 입증과 정렬.

즉, 의료기기 AI 규제는 '소프트웨어 제품의 안전한 작동'에 집중하는 반면, 의약품 AI 규제는 '생성된 임상·비임상 데이터와 예측 결과의 규제과학적 신뢰성(Credibility)'에 초점을 맞춘다.

한국 제약 AI 신약 파이프라인이 NDA/BLA 전에 갖춰야 할 신뢰성 패키지

글로벌 신약 승인을 목표로 하는 한국 제약사 및 바이오텍은 IND(임상시험계획승인신청)나 NDA/BLA(품목허가신청) 단계에서 다음과 같은 구체적인 실무 대응 패키지를 구비해야 한다.

1. AI 신뢰성 요약 보고서 (Credibility Summary Report) 작성

이 문서는 규제당국 심사관이 가장 먼저 읽는 요약서로, CTD(국제공통기술문서) Module 2.5(임상 개요) 또는 Module 2.4(비임상 개요)에 포함되어야 한다.

사용 상황(COU) 성명서: 해당 AI 모델이 본 파이프라인의 어떤 의사결정(예: 임상 2상 환자 선정 제외 기준 설정 등)에 어떤 용도로 쓰였는지 요약한다.
모델 검증 요약: 훈련(Train) 데이터셋과 평가(Validation/Test) 데이터셋의 분할 방식, 외부 독립 데이터셋을 통한 성능 평가 지표(ROC-AUC, F1-score 등)를 제시한다.

2. GxP 데이터 거버넌스 및 감사 추적성(Audit Trail) 확보

FDA CDER은 2016년부터 2023년까지 AI 구성요소가 포함된 규제 신청 서류를 500건 이상 검토한 통계를 제시하며, 데이터 거버넌스의 결함이 심사 지연의 주요 원인이라고 밝혔다.

원천 데이터 추적성: AI 학습에 사용된 오믹스(Omics) 데이터, 전자의무기록(EMR) 데이터 등의 최초 수집 경로와 동의서 확보 여부, 데이터 정제(Cleansing) 알고리즘의 로그 기록을 보유해야 한다.
설명 가능성(XAI) 자료: 딥러닝 모델의 경우 피처 중요도(Feature Importance) 분석이나 SHAP/LIME 분석 결과를 제시하여, AI의 도출 결과가 생물학적 메커니즘(MoA)과 부합함을 입증해야 한다.

3. 규제 미팅을 통한 사전 합의 전략

한국 스폰서는 임상 시험 설계를 조기에 확정하기 위해 FDA pre-IND 브리핑북 제출 시점이나 과학적 상담(Scientific Advice) 미팅 시 AI 적용 모델의 신뢰성 검증 계획서(Credibility Plan)를 포함하여 심사단과 조기 합의를 도출해야 한다. 사전에 합의되지 않은 AI 모델 분석 결과를 바탕으로 임상 3상 데이터를 해석할 경우 심각한 제출 거부(Refuse to File) 리스크에 노출될 수 있다.

또한 대체 불가능한 혁신 비임상 모델 설계 시 FDA NAMs 개발 프레임워크와 연동하여 AI 예측 모델의 검증 계획을 FDA CDER 산하 AI 협의회(AI Council)와 미리 공유하는 전략이 효과적이다.

자주 묻는 질문 (FAQ)

Q1. AI 모델 출력이 환자 안전·제품 품질·연구 신뢰성에 영향을 주지 않으면(발견·운영효율) 이 프레임워크 적용을 받는가?

아니요, 적용을 받지 않는다. FDA의 7단계 신뢰성 평가 프레임워크와 공동 10대 원칙은 **'의약품의 규제 의사결정(Regulatory Decision-Making)을 지원하는 AI 사용'**에 초점을 맞춘다. 따라서 타깃 발굴(Target Identification) 초기 탐색 단계, 문헌 검색 자동화, 혹은 임상 시험 문서의 단순 번역이나 서식 작성 등 규제당국에 인허가 근거 자료로 제출되지 않고 내부 의사결정이나 효율 개선 목적으로만 사용되는 AI 모델은 본 가이던스의 까다로운 검증 및 문서화 의무 대상에서 제외된다. 그러나 해당 AI 분석 결과가 IND/NDA 서류에 과학적 근거 자료로 삽입되는 순간부터는 즉시 규제 대상이 된다.

Q2. 7단계에서 COU와 모델 위험은 누가, 어떻게 정량화하는가?

기본적으로 임상시험의 의뢰자(Sponsor) 또는 개발사가 일차적으로 정의하고 정량화해야 한다. 스폰서는 AI 모델이 예측한 결과가 잘못되었을 때(위양성 또는 위음성 발생 시) 환자에게 미칠 수 있는 임상적 위해도(Clinical Risk)와 제품 품질에 미칠 수 있는 위해도를 바탕으로 위험을 매핑한다. 예를 들어, "이 AI는 단지 비임상 단계의 물리화학적 특성(ADME) 예측용이다"라고 COU를 낮게 정의하면 위험도는 최하위로 정량화된다. 반면 "이 AI는 환자에게 적절한 항암제 투여 용량을 결정하는 모델이다"라고 정의하면 위험도는 최상위로 정량화되며, 이 위험 수준평가에 대해 pre-IND 미팅 등 규제당국과의 커뮤니케이션을 통해 동의를 얻는 절차가 필수적이다.

Q3. FDA·EMA 공동 10원칙은 구속력 있는 규정인가?

아니요, 법적인 구속력(Binding Regulation)을 가진 정식 규정(Statute)은 아니다. 이 10대 원칙은 양국 규제기관의 합동 선언문이자 가이드라인의 성격을 띤다. 그러나 실무적으로 글로벌 규제 심사관들이 AI 모델이 적용된 임상 신청 서류를 검토할 때 준수하는 '평가 체크리스트' 역할을 담당하므로 사실상의 규제 문턱(De facto standard)이다. 이 원칙들을 충족하지 못한 의약품 AI 검증 서류는 심사 과정에서 지속적인 보완 요구(Information Request)나 승인 거절 사유가 될 수 있으므로, 구속력 여부와 상관없이 필수적으로 준수해야 하는 규제 가이드라인으로 다루어야 한다.

참고 출처

FDA CDER 공식 홈페이지: Artificial Intelligence for Drug Development (CDER hub)
FDA·EMA 공동 10대 원칙 전문 PDF: Guiding Principles of Good AI Practice in Drug Development (FDA/EMA Jan 2026)
Federal Register 공식 공고 (Considerations for the Use of AI Draft Guidance, 90 FR 1157): docket FDA-2024-D-4689
EMA 공식 발표: Guiding principles of good AI practice in drug development (EMA co-published)
미국 FDA pre-IND 미팅 브리핑북 작성 가이드 및 사전 조율 요령
FDA 동물시험 대체 방법론(NAMs)과 신약 개발 AI 가이드
임상 허가 서류 제출용 리얼월드 에비던스(RWE) 데이터 무결성 요건
의료기기 AI 규제 프레임워크 FDA GMLP 핵심 원칙 분석
디지털 헬스 및 비의료기기 경계를 규정하는 FDA CDS 가이던스 대응방안