의료산업 | AI 기본법 시행 이후 헬스케어 기업이 주목해야 할 법적 쟁점

의료 분야에서는 인공지능 기술이 진단 보조, 치료 결정 지원, 환자 모니터링 등 다양한 영역에서 활용되고 있습니다.

이러한 기술은 환자의 생명과 건강에 직접적인 영향을 미칠 수 있기 때문에 일정한 관리 체계가 필요합니다.

이에 AI 기본법은 인공지능 시스템을 위험 수준에 따라 관리하는 위험 기반 규제 방식(risk-based approach)을 채택하고 있습니다.

특히 생명과 건강에 영향을 줄 수 있는 인공지능 시스템은 상대적으로 높은 수준의 관리가 요구될 수 있습니다.

다만 의료 AI의 경우 산업 발전과 기술 혁신을 고려해 의료진의 판단을 보조하는 형태의 시스템에 대해서는 비교적 유연한 규제 접근이 논의되고 있습니다.

이러한 정책 방향은 의료 기술 발전을 저해하지 않으면서도 안전성을 확보하려는 규제 설계로 이해될 수 있습니다.

특히 「디지털의료제품법」은 소프트웨어 의료기기(SaMD)를 포함한 디지털 의료기기의 특성을 고려하여 인허가 절차와 안전관리 기준을 규정하고 있습니다.

이러한 제도는 의료 AI 기술이 의료기기 영역에서 활용될 경우 적용될 수 있는 대표적인 규제 체계입니다.

또한 의료 AI 분쟁에서는 의료진의 과실 여부만이 아니라 AI 시스템의 설계 구조, 알고리즘 검증 체계, 데이터 품질 관리 수준, 그리고 의료기관에서의 실제 활용 방식 등이 함께 검토될 수 있습니다.

이처럼 의료 AI는 일반적인 IT 서비스와 달리 의료 책임, 제품 책임, 데이터 책임이 동시에 논의될 수 있는 특징이 있습니다.

예를 들어 의료진이 단순히 시스템의 분석 결과를 확인하고 승인 버튼을 누르는 방식으로 운영되는 경우 이러한 절차가 실질적인 임상 검증 과정으로 인정되지 않을 가능성도 있습니다.

반대로 의료진이 AI 결과를 참고 자료로 활용하면서 독립적인 의학적 판단을 수행했다면 책임 구조는 달라질 수 있습니다.

또한 글로벌 제약회사나 대형 의료기관과 협력하는 경우 다음과 같은 사항이 계약 과정에서 요구될 수 있습니다.

의료 AI 시스템에서는 의사결정 과정에 대한 기록 관리가 중요한 의미를 갖습니다.

특히 의료 분쟁이 발생할 경우 AI가 어떤 결과를 도출했는지, 의료진이 이를 어떻게 검토했는지, 최종적으로 어떤 판단이 이루어졌는지 등이 중요한 검토 대상이 될 수 있습니다.

이를 위해 AI 분석 결과, 의료진의 검토 과정, 최종 의사결정 기록, AI 모델 업데이트 및 학습 이력 등을 체계적으로 관리하는 구조가 필요합니다.

의료 AI 시스템은 병원, 데이터 제공 기관, AI 개발사 등 다양한 주체가 참여하는 구조이기 때문에 계약을 통해 책임 범위를 정리하는 것이 중요합니다.

예를 들어 AI 솔루션 공급 계약, 의료 데이터 제공 계약, 병원과의 서비스 계약, 연구 및 임상 협력 계약 등이 체결될 수 있으며 이 과정에서 시스템 오류 발생 시 책임 범위, 데이터 처리 및 활용 기준, 유지보수 및 업데이트 책임, 정보보호 및 보안 의무와 같은 요소들이 함께 검토됩니다.

이러한 계약 구조는 의료 AI 활용 과정에서 발생할 수 있는 법적 책임을 명확히 하는 기준이 될 수 있습니다.

의료 AI 관련 리스크 관리를 위해 기업 내부에서는 의료 안전성 검토 절차, 데이터 품질 관리 체계, 알고리즘 검증 절차, 부서 간 협업 기반의 관리 구조 등을 마련하는 것이 필요합니다.

일반적으로 이러한 관리 체계에는 의학부(Medical Affairs), 인허가 부서(Regulatory Affairs), 법무 부서, 정보보안 부서 등이 함께 참여하며 이를 통해 의료 AI 기술의 안전성과 책임성을 관리하는 운영 구조가 구축될 수 있습니다.

법무법인 대륜의 의료·바이오·헬스케어 그룹은 의료 AI 기술과 관련된 규제, 법률, 윤리 문제에 대한 이해를 바탕으로 의료 AI 전 과정에 걸쳐 종합적인 법률 자문을 제공합니다.

의료 AI 기술 개발이나 활용 과정에서 규제 검토나 법적 자문이 필요한 경우 🔗의료변호사 법률상담예약을 통해 관련 법률 사항을 검토해 보시기 바랍니다.