[앵커]
원하는 이미지를 뚝딱 만들어주는 생성형 AI가 날이 갈수록 정교해지면서 여론 조작에 대한 우려가 커지고 있습니다. 규제하는 것도 쉽지 않다는데 왜 그런지 따져보겠습니다.

김자민 기자, 최근 미 대선판이 AI가 생성한 이미지들 때문에 논란이라면서요?

[기자]
대선 후보들을 소재로 한 자극적인 AI 이미지들이 쏟아지고 있는데요. 테슬라 최고경영자인 일론 머스크가 내놓은 AI챗봇 '그록' 때문입니다. 공화당과 민주당의 대선 후보인 트럼프와 해리스가 연인이 돼 바닷가를 거닐고, 만삭의 해리스의 배를 트럼프가 쓰다듬습니다. 트럼프가 김정은 위원장 앞에 무릎을 꿇고 있고, 바이든 대통령이 트럼프를 향해 총구를 겨눕니다. 모두 생성형 AI인 그록이 만든 이미지입니다.

[앵커]
사진이라고 해도 믿을만큼 굉장히 정교하네요. 이런 AI이미지를 만드는데 제한은 없습니까?

[기자]
대다수 AI챗봇은 유명인사들의 이미지나 선정적이고 폭력적인 이미지는 생성하지 못하는 제한을 두고 있지만 그록은 사실상 제한이 없습니다. 표현의 자유를 강조하는 머스크는 세상에서 제일 재밌는 AI라고 주장하지만 악용 여지가 많다는 비판이 쏟아지고 있습니다.

[앵커]
그런데 정작 트럼프는 이런 AI이미지를 적극적으로 활용한다면서요?

[기자]
트럼프가 sns에 올린 것들입니다. 팝스타 테일러 스위프트가 자신을 지지하는 모습이 담긴 이미지에 트럼프는 "수락한다"고 적었습니다. 해리스가 공산당원으로 보이는 군중 앞에 선 이미지도 올렸는데요. 모두 진짜 사진이 아닌 AI가 만들어낸 '생성형 이미지'인데 트럼프가 유권자들에게 허위 정보를 유포한 게 아니냐는 얘기가 나옵니다.

[앵커]
미국 만의 문제가 아닐텐데요. AI 이미지를 규제하는 법은 없습니까?

[기자]
미 바이든 행정부는 AI생성물을 구분하는 기술 개발에 대한 행정명령을 내렸고 유럽은 연말부터 AI 워터마크가 의무화됩니다. 한국도 AI 제작물에 워터마크 적용을 추진중이고요. 이와 관련한 정보통신망법 개정안도 국회에 올라와있는 상황입니다. 전문가들은 한국 정치의 양극화가 심화되는 만큼 AI 이미지로 인한 허위 정보 유포를 막을 장치를 서둘러 마련해야 한다고 말합니다.

엄기홍 / 경북대 정치외교학과
"AI를 활용한 선거 캠페인은 계속 활용될 수밖에 없고 더욱 커질 거라고 생각이 되고요. AI를 통해서 허위 뉴스를 만들면 거기에 유권자가 민감하게 반응하기 때문에 후보로서는 훨씬 더 많이 사용하고자 하는 욕구가 당길 것 같습니다."

[앵커]
일각에선 AI 이미지 규제에 대한 우려의 시각도 있다면서요?

[기자]
AI 생성물을 구분할 수 있게 되면 이용자 이탈로 기업의 수익성이 저하될 거란 우려인데요. 결국 AI 기술 개발의 발목을 잡을 수 있단 지적도 나옵니다.

최경진 / 한국인공지능법학회장
"생성형 인공지능 누구 회사 거에 만든 겁니다라고 항상 그렇게 표시가 붙어 있으면 활용할 수 있는 여지가 줄어들게 되잖아요. 한편으로는 표시 의무를 부여하는 게 이런 AI 산업 발전에는 별로 바람직하지 않을 수도 있는 거죠. 참 어려운 문제예요."

[앵커]
AI기술 개발도 중요하지만 허위 정보가 퍼지는 건 사회 질서가 파괴되는 일이잖아요. 두 가지를 잘 조율할 형태의 규제가 필요해 보입니다. 김자민 기자 잘 들었습니다.