인공지능(AI) 가짜의사 활개…"국민건강에 대한 보이스피싱"

최근 AI로 생성된 가짜의사가 특정 건강보조식품 등 제품을 추천하는 광고가 온라인(SNS)에서 확산하고 있다.이런 광고는 소비자를 기만하고 환자 안전은 물론 의료 전문직에 대한 신뢰를 심각하게 훼손한다.

대한의사협회는 식품의약품안전처와 함께 불법 온라인 광고(AI 가짜의사 등) 신고 등 강력히 대응하고 있다.가짜의사 광고가 문제가 되자 식약처는 AI로 생성한 가짜의사가 제품을 추천하는 광고의 경우 일반 소비자들이 실제 의사가 식품 등을 추천하는 것으로 오인할 가능성이 충분하다며 부당한 표시 및 광고로 조치할 예정이라고 밝혔다.

하지만, 현행법에서는 AI 가짜의사를 이용한 광고 등에 대한 제재조치가 명확하지 않아 제도 보완이 필요하다는 전문가들의 의견이 나오고 있다.

전성훈 의협 법제이사는 의학적 근거 없이 효과를 확언하고 보장하는 가짜 AI 의사가 나오는 광고들은 국민 건강에 대한 보이스피싱이라고 말했다.하지만 명확한 법적 규제가 아직은 불비하다면서 보완 입법이 반드시 필요하다고 강조했다.

전성훈 법제이사는 의료법, 식품표시광고법 등의 개정이 필요하다며 구체적으로는 의료인이 하는 일정한 행위를 규제하는 것 외에도, 가짜 AI 의사처럼 비의료인이 의료인의 이미지 또는 영상 등을 생성해 사실상 의료인이 하는 행위로 인식되게 하는 행위도 규제해야 한다고 제시했다.

그러면서 의협은 AI 가짜의사를 이용한 광고가 문제가 있다는 것을 빨리 인식하고, 식품의약품안전처와 협의해 공동 대응키로 했다고 말했다.또 식약처와 정책 협의를 진행중에 있으며, 문제가 있는 광고를 모니터링하고, 일반 국민이 적극신고를 할 수 있도록 하고 있다고 덧붙였다.

Q. 최근 유튜브 등을 통해 의사 가운을 입은, 그리고 누가 봐도 의사로 보이는 AI 생성형 가짜의사가 제 경력 걸고 실명 위기여도 이거 한 알이면 싹 해결됩니다라는 내용의 광고를 하고 있다. 이런 광고에 대해 어떻게 보는가?
사기꾼의 첫마디는 항상 유혹적이다. 그렇지 않으면 사람을 속일 수 없기 때문이다. 보이스피싱을 생각해보자. 추가 대출을 위해 먼저 현재 대출을 상환해야 하니 중도상환 수수료를 송금해라 얼마나 유혹적인가?
같은 기준으로 실명 위기여도 이거 한 알이면 싹 해결된다는 말을 생각해 보자. 한 마디로 의학적 근거 없이 효과를 확언하고 보장하는 가짜 AI 의사가 나오는 광고들은 국민 건강에 대한 보이스피싱이라고 본다.

Q. 생성형 AI 허위 광고에 대한 관리 기준이 현재로서는 없다. 이 때문에 소비자를 현혹하는 짧은 동영상(숏츠)이 확산하고 있는듯 하다. 이런 광고를 규제할 수 있는 현행법상 규제는 어떤 게 있나?
법은 현실을 반 보 늦게 따라간다. 최근 생성형 AI가 폭발적으로 발전했기 때문에, 이에 대한 명확한 법적 규제가 아직은 불비하다.
다만 사실관계에 따라 의료광고와 관련해 의료법 위반, 제품의 기능성 보증에 관한 식품 등의 표시광고에 관한 법률(식품표시광고법) 위반, 편취의 고의가 있는 경우 사기죄 등의 적용을 검토할 수 있다.

Q. 식품표시광고법에 따르면 의사, 한의사 등 의료인은 제품의 기능성을 보증하거나 제품을 추천사용한다는 광고를 할 수 없다고 되어 있다. 그러나 이처럼 AI로 가상의사를 만든 경우엔 관련규정이 없다보니 규제 사각지대를 노리는 광고가 증가하는 것 같다.
법은 법에 규정된 내용을 명시적으로 위반하는 행위를 금지하지만, 우회적으로 규정된 내용 위반을 피하면서 입법 취지를 잠탈하는 경우도 금지한다.
가령 식품표시광고 법령 조항은의료인을 수범자로 규정하고 있다. 그런데 가상인물을 만들어 이러한 조항의 적용을 피하는 것은국민의 건강권 보호를 위해 의료인에 대한 대중의 신뢰를 이용한 검증 없는 기능성 보증을 금지하겠다는 입법 취지를 명백히 잠탈하는 것이다.
따라서 이러한 흠결을 보완할 수 있는 보완 입법이 반드시 필요하다.

Q. 만약 AI 생성형 가짜의사가 허위 및 과대 광고에 해당한다면, 현행 법상 어떤 처벌이 가능한가?
일단 인공지능과 관련한 법적 책임은 이를 형성하거나 이용한 사람에게 귀속된다. 따라서 가짜 AI 의사를 만든 사람, 이를 이용해 수익을 얻은 사람 등은 무면허 의료행위, 위법한 의료광고행위의 공범이 될 수도 있다.
의료기관 개설자, 의료기관의 장, 의료인이 아닌 사람은 의료광고 자체를 하지 못하는데, 영리를 목적으로 개인 또는 법인이 생성형 AI를 이용해 의료광고를 하는 경우 먼저 광고 주체 측면에서 의료법 위반 소지가 있다. 이 경우 1년 이하 징역 또는 1000만원 이하의 벌금에 처해질 수 있다.
또한 이와 별개로 광고 내용 측면에서, 거짓된 내용을 표시하는 의료광고나 객관적 사실을 과장하는 내용의 의료광고라면, 위와 같은 처벌을 받을 수 있다.

Q. AI로 만든 가짜라는 것을 의무적으로 표기하도록 하는 방법도 있지 않나?
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법, 약칭 인공지능법이 2024년 국회에서 제정됐고, 2026년 1월 22일부터 시행된다.
질문한 내용은 인공지능법에서 규정하고 있다. 인공지능법제31조는 기업의 투명성 확보의무의 일환으로 기업은 생성형 AI를 활용한 결과물을 제공하는 경우 AI에 의해 생성되었음을 명시하여야 한다고 규정하고 있고, 위반 시 3000만원 이하의 과태료가 부과될 수 있다.
그리고 현재 제정 중인 인공지능법 시행령 제22조 제2항은 생성형 AI에 의해 생성된 결과물에 대한 표시를 워터마크로 할 수 있다고 규정하고 있고, 더 나아가 제3항은 실제와 구분하기 어려운 가상의 이미지 또는 영상 등, 즉 딥페이크 결과물에 대하여는 이용자가 시각, 청각 등으로 명확하게 인식할 수 있는 방법으로 고지 또는 표시할 것을 규정하고 있다.
과학기술정보통신부는 투명성에 관한 구체적인 가이드라인을 올해 12월공개할 예정이다.

Q. 디지털 환경 변화에 대한 정부 차원의 대비가 너무 느린 것 같다. 앞으로 현행 법(식품표시광고법, 의료법 등)개정 시 어떤 내용을포함해야 한다고 생각하나?
앞서 얘기했듯이 명시적 위법행위뿐만 아니라 입법 취지를 잠탈하는 탈법행위 역시 규제해야 하므로, 의료법과 식품표시광고법 등의 개정이 필요하다.
구체적으로는 의료인이 하는 일정한 행위를 규제하는 것 외에도, 가짜 AI 의사처럼 비의료인이 의료인의 이미지 또는 영상 등을 생성해 사실상 의료인이 하는 행위로 인식되게 하는 행위도 규제해야 한다.
이는 입법의 취지와 내용 등에 관해 사회적 합의를 새로 형성하거나, 수범자들의 동의를 얻는 절차가 필요한 것이 아니므로 그리 어려운 입법은 아니다. 정부의 의지 문제라고 본다.

Q. AI 가짜의사를 통한 광고와 관련 의협에서는 어떻게 대응하고 있는지 궁금하다.
의협은 AI 가짜의사를 이용한 광고가 문제가 있다는 것을 빨리 인식하고, 식약처와 협의를 통해 공동 대응키로 했다.
또 정책 협의를 진행중에 있으며, 문제가 있는 광고를모니터링하고, 일반 국민이 적극신고할 수 있도록 하고 있다.
내년에 인공지능법을시행하면당분간AI 가짜의사를 이용한 광고는 줄어들 것으로 보인다.
하지만 우회적으로 AI 가짜의사를 이용한 광고가 남발할 수도 있어 면밀히 검토해서 대응할 계획이다.