의료 AI, 따라도 따르지 않아도 의료인 책임?

인공지능(AI)은 어느 영역까지 확장될지 가늠키 어려울 정도로 빠르게, 촘촘히 파고들고 있다. 특히 의료 영역은 영상판독, 진단지원, 위험예측, 행정자동화까지 의료 AI가 진료 현장 곳곳에 들어오면서 의료과오책임, 제조물책임 등 법적 책임을 둘러싼 미해결 과제와 맞닥뜨리고 있다.

의사의 임상적 판단과 AI 권고가 불일치하는 경우엔 어떻게 해야 할까. AI 활용 진료에서 의료인의 주의의무와 책임 범위는 어떻게 설정해야 할까. 기존 의료과오책임 법리만으로 이같은 문제를 해결할 수 있을까.

임지연 대한의사협회 의료정책연구원 책임연구원은 지난 18열린 대한의료법학회 7월 월례학술대회에서의료 인공지능 활용에 따른 법적 책임 논의 - 진단지원 의료AI의 민사책임 재구성 발제를 통해 AI를 독립된 법적 주체로 보기보다 의료인의 판단을 보조하는 도구로 보되, 책임 배분과 보상(수가 설계) 체계는 새로 정비해야 한다고 지적했다.

의료 AI는진료 현장 곳곳에 깊숙이 스며들고 있지만 기술확산 속도에 비해 법적 책임에 논의는 뒤처져 있다.

AI 권고를 따랐을 때와 따르지 않았을 때 모두 과실이 되고, AI 자체 결함이 있어도 입증이 어려워 결국 의료인에게 부담이 집중되는 구조가 되풀이 될 수도 있다.

핵심 질문은 단순하다. AI가 낸 권고를 따랐는데 환자에게 손해가 생기면 누가 책임지는가. 반대로 AI 권고를 따르지 않았다가 나쁜 결과가 나왔을 때 의사는 과실을 면할 수 있는가. 더 나아가 AI 자체의 오류가 분명한데도 의료인과 의료기관, 제조사 사이의 책임 귀속이 불명확하다면 환자 구제는 어떻게 해야 할까.

의료 AI의 법적 지위는 어떻게 규정될까. 일부에서는 자율성이 커진 AI에 법적 인격을 부여해야 한다는 전자인격론을 제기하지만, 국제적 흐름은 AI를 독립된 권리의무의 주체가 아니라 도구 또는 제품으로 보는 쪽에 가깝다. AI에 법인격을 부여하더라도 독립된 책임재산이 없어 실질적인 배상 기능을 기대하기 어렵고, 오히려 책임을 인간에서 AI로 옮기는 결과가 될 수 있기 때문이다.

의료과오책임의 한계는 가장 중요한 쟁점이다.

현행법상 과실은 진료 당시의 의료수준을 기준으로 판단되는데, AI가 표준 진료에 편입되는 순간 의료인의 AI 미사용이나 AI 권고 불수용 자체가 과실 판단 요소가 될 수 있다. 또 AI 권고를 무비판적으로 따르는 것도 문제될 수 있다. 의료인은 AI를 단순 수용하거나 배척하기보다 임상적 합리성, 환자 적합성, 입력 품질, 경고사항을 검토하는 비판적 활용의무를 부담하게 된다.

의료 AI의 자율성 정도에 따른 구분도 생긴다.

영상판독 보조나 EMR 입력, 음성인식처럼 이미 상용화된 수준은 보조형지원형 도구로 볼 수 있다. 그러나 임상의사결정지원시스템(Clinical Decision Support SystemCDSS), 생성형 AI, 자율 진료 에이전트처럼 의료인의 개입을 점점 줄여 가는 단계는 제한적 자율형으로 향한다. 자율성이 커진다고 곧바로 법적 주체성이 인정되는 것은 아니다. 오히려 의료 AI의 자율성이 커질수록 의료인, 의료기관, 제조사의 책임 분담을 더 정교하게 다시 짜야 한다.

책임의 귀속은 생각보다 단순치 않다.

의료 AI는 블랙박스 성격이 강해 판단 근거를 파악하기 어렵고, 의료인의료기관제조사 등 다수 행위자가 얽혀 있으며, 업데이트나 재학습에 따라 성능이 달라질 수 있다. 이런 동적 특성 때문에 사고 당시 어느 버전이 어떤 데이터를 바탕으로 작동했는지, 어떤 경고가 있었는지, 누가 설정을 바꾸거나 활용 범위를 넓혔는지까지 세밀하게 따져야 한다. 단순히 AI가 틀렸다는 말만으로는 법적 책임을 확정할 수 없다.

기존 의료과오책임 법리는 과실 판단을 진료 당시의 의료수준에 비춰 판단한다. 문제는 AI가 의료수준 자체를 바꾸고 있다는 데 있다. AI 활용이 진료 현장의 표준으로 편입되면, 의사가 AI를 쓰지 않았거나 AI의 경고를 무시한 것 자체가 과실 판단의 요소가 될 수 있다. 게다가 AI 권고를 그대로 받아들이는 것 역시 무조건 안전한 선택은 아니다. 의료인에게는 비판적 AI 활용의무가 필요하다. AI를 맹신하지도, 배척하지도 말고, 임상적 합리성, 환자 상태, 입력 품질, 경고사항 등을 함께 검토해야 한다.

설명의무도 새롭게 정리해야 한다.

환자에게 진단치료 방법과 위험성, 대안을 설명해야 한다는 원칙은 기존에도 있었지만, AI가 개입하면 설명 범위가 넓어진다.

환자에게 AI 사용 사실만 설명할지, AI의 한계와 오류 가능성까지 설명할지, 의사 판단과 AI 판단이 불일치한 경우 그 내용까지 알려야 하는지 등에 대한 합의가 필요하다.

임지연 책임연구원은 환자의 자기결정권에 실질적으로 영향을 미치는 경우라면 설명 대상이 될 수 있다라면서 다만, 모든 AI 내부 판단을 모두 공개해야 하는 것은 아니며, 내부 참고자료 수준인지, 환자의 검사치료 선택을 바꿀 만큼 중요한 정보인지에 따라 구별해야 한다고 짚었다.

제조물책임도 한계가 뚜렷하다.

소프트웨어가 제조물인지, 업데이트 이후 결함 판단은 어떻게 할 것인지, 결함과 인과관계의 입증을 환자에게 어디까지 요구할 것인지에 대한 판단은 쉽지 않다. 특히 의료 AI는 설치 시점 이후에도 모델이 바뀌고, 데이터가 추가되며, 성능이 달라질 수 있다. 전통적인 제조물책임은 고정된 제품을 전제로 하지만, 의료 AI는 변화를 이어가는 소프트웨어라는 점에서 다르다. EU의 최근 입법 동향을 살펴보면 소프트웨어 제조물성 명확화, 증거공개, 결함추정, 인과관계 추정 같은 장치가 필요하다.

가장 우선하는 원칙은 환자 구제 확보다. 외부적으로는 환자가 의료기관과 제조사 중 누구의 잘못인지 일일이 가려내기 어려운 만큼, 공동불법행위나 연대책임 구조를 활용해 우선적인 피해 회복을 담보해야 한다. 그 이후 내부적으로 의료기관과 제조사 사이의 부담 비율을 나누면 된다. 통제가능성, 정보 접근성, 규범 위반 여부, 인과적 기여 정도가 분담 기준이 될 수 있다.

임지연 책임연구원은 의료 AI 시대에는 의료인 중심의 책임집중에서 공동책임, 분산책임 체계로 넘어가야 한다라면서 의료인만 압박받는 구조가 지속되면 방어진료가 늘고, 정작 합리적인 AI 활용은 위축될 수 있으며, 환자 보호도 오히려 약화된다. AI 활용에 대한 의료 현실과 법의 균형을 맞춰야 한다고 전했다.

잔여위험에 대한 보상도 검토해야 한다.

충분한 조사와 기록을 공개한 후 의료인의 과실이나 제품의 법적 결함은 인정되지 않지만, 허가된 성능범위 내의 AI 오류가 중대한 생명신체 손해에 기여한 경우, 무과실 보상이라는 별도 틀을 고민해야 한다. 책임과 보상을 동일시하기보다, 책임은 과실과 결함을 따져 묻고, 보상은 위험사회에 맞게 더 넓게 설계해야 한다.

임지연 책임연구원은 의료 AI를 둘러싼 법적 논의는 AI를 사람처럼 만들 것인가의 문제가 아니라, 인간 중심의 책임법리를 어떻게 현대화할 것인가의 문제다. AI는 도구이지만, 그 도구가 바꿔 놓는 위험 구조는 결코 가볍지 않다라면서 우리가 고민해야 할 것은 AI에 인격을 부여하는 일이 아니라, 의료과오책임과 제조물책임, 설명의무, 증거규칙, 보상제도를 함께 손질하는 일이다. 의료 AI 시대의 법은 책임을 늦게 묻는 법이 아니라, 환자 보호를 놓치지 않으면서도 의료 현장의 합리적 활용을 가능하게 하는 법이어야 한다고 강조했다.