[앵커]
최근 온라인상에서 AI로 만든 가짜 의사가 건강에 좋다며 건강기능식품이나 약을 홍보하는 광고영상이 기승을 부리고 있습니다. 허위 과장광고로 피해를 보는 소비자들이 늘자 정부가 대책 마련에 나섰습니다. 무슨 얘기인지 사회정책부 차정승 기자와 따져보겠습니다. 차 기자, AI가 만든 의사 광고 영상 아직 접하지 못한 시청자들도 있을 거 같은데요, 피해자가 생겼다는 건 실제 영상과 구분하기 어려울만큼 정교하다는거죠?

[기자]
먼저 영상을 보여드리겠습니다.

S대병원 출신 전문의 / 생성형 AI로 만든 의사
"비타민만 잘 챙겨먹으면 방광염, 요실금 등 여성 질환을 단기간에 해결할 수 있습니다."

진짜 의사 같은 모습이죠. 더 구체적인 정보를 나열하면 어떻게 보일까요.

S대병원 출신 전문의 / 생성형 AI로 만든 의사
"루테인, 지아잔틴, 아스타잔틴을 꼭 챙겨주세요. 아이 눈이 스스로 초점을 잡아 시력을 올려줄 힘이 생기거든요."

유명 대학병원 출신 의사라고 돼있지만 제 사진으로 만든 가짜, 즉 AI 의사입니다. 만드는데 15분 걸렸는데요. 유창해 보이기 위해 의학용어도 원하는대로 쓸 수 있었습니다.

[앵커]
정말 그럴듯한데, 만드는데 얼마 안 걸렸다는 것도 충격입니다. 그래서 앞으로는 AI가 만든 영상이란 걸 꼭 표기하도록 한다고요?

[기자]
챗gpt에 "의사를 만들어줘"라고 입력했을 때 이미지를 생성하면서 게시자가 직접 "AI를 활용했다"는 문구를 적도록 하는 겁니다. 출처를 밝힐 때 쓰는 워터마크 같은 개념이죠. 유튜브나 네이버 등 플랫폼 사업자가 영상을 업로드 할때 '이것은 AI 생성물'이라고 표시하는 방안도 검토됩니다. AI 생성물 표시 의무는 내년 1월부터 시행되고요. 악의적인 허위조작정보를 유통할 경우 손해액의 최대 5배에 이르는 징벌적 손해배상을 도입하고, 거액의 과징금도 물게 할 계획입니다. 글씨 크기나 몇초 동안 노출할지 등은 추후 가이드라인을 만들기로 했습니다.

[앵커]
유튜브나 네이버에게도 관리 의무를 부여한 게 눈에 띄는데, 어떻게 하라는 겁니까?

[기자]
플랫폼사는 허위과장 광고의 주체는 아니지만, 공정한 시장 질서를 위해 이용자를 관리할 의무가 있다고 본 겁니다. 다만, 플랫폼에 대한 규제는 정보통신망법 개정이 필요한데 정부는 내년 상반기를 목표로 하고 있습니다. 플랫폼 사업자가 직접 콘텐츠를 삭제, 차단하는 방식이 거론되고 있습니다.

[앵커]
선거 때도 후보 얼굴을 활용한 AI 영상이 합법적 선거운동인지 쟁점이 됐었는데 그때 마련된 기준을 참고할 수 있지 않을까요?

[기자]
네, AI로 만든 대선후보가 연설을 하면서 AI 사용기준이 마련됐는데요. 영상 시작과 끝에 "가상의 정보"라는 음성을 넣어야 하며 5분이 넘어갈 때마다 한 번씩 음성을 추가해야 합니다. 또, "AI를 이용한 가상 정보"라는 문구도 띄우는데 화면 전체의 10% 이상 크기로 별도 테두리 안에 적어야 합니다.

김명주 / AI 안전연구소장
"(광고는) 대중을 상대로 하는 것이기 때문에 창작성 내지는 보고 있는 사람들한테 불편을 주지 않을 만큼만 협의해서 만드는 게 좋을 것 같아요."

[앵커]
그러면 소비자들이 잘못된 영상에 속지 않으려면 어떤 점을 주의해야될까요?

[기자]
가장 먼저 의료인들이 직접 의약품을 광고할 수 없다는 사실을 기억해야 합니다. 치료효과를 보장하거나 소비자를 현혹할 우려가 있는 광고는 AI 의사 이전에 진짜 의사라도 불법입니다.

김성근 / 대한의사협회 대변인
"의사 가운을 입고 나오거나 대학교수 타이틀을 들고 나와서 약품이나 아니면 건강기능식품을 광고하면 그 자체로 가짜.."

건강기능식품을 항암효과가 있다는 식으로 어떤 의약품처럼 광고하는 것도 안된다는 점 알아야겠습니다.

[앵커]
이용자들도 노력해야겠지만, AI로 만든 영상이란 고지가 한눈에 보일 수 있도록 기준을 잘 마련해야겠네요. 차 기자 잘 들었습니다.