[앵커]
AI 기술이 벌전하면서 현실과 구분하기 힘든 가짜 영상, 이른바 '딥페이크' 영상이 기승을 부리고 있습니다. 전쟁과 선거에 이르기까지 이런 합성 영상들이 가짜뉴스를 양산하면서 부작용이 잇따르고 있습니다.

오늘은 박상현 기자가 AI기술이 만든 가짜뉴스의 폐해에 포커스를 맞췄습니다.

[리포트]
지난 2월 러시아와 우크라이나 전쟁이 한창이던 시기. 젤렌스키 우크라이나 대통령이 항복하는 영상이 퍼져나갔습니다.

하지만 가짜였습니다.

볼로디미르 젤렌스키 / 우크라이나 대통령
"제가 무기를 버리고 (항복을 위해) 전화를 걸었다거나 탈출했다는 가짜뉴스가 퍼지고 있는데 저는 키이우에 있습니다."

인공지능 기술인 딥러닝으로 기존 동영상을 조작한 딥페이크 영상입니다.

미 국방부 건물 펜타곤이 불에 타고 있는 가짜 합성사진에 인도의 한 방송사는 펜타곤 폭발이라며 긴급 보도하는 일까지 벌어졌습니다.

인도 '리퍼블릭' 방송
"폭발이 보고됐습니다. 펜타곤 바로 앞에서요"

트럼프 전 대통령이 체포되는 사진이나 프란체스코 교황이 명품 패딩을 입은 모습 역시 AI가 만든 가짜뉴스로 밝혀졌습니다.

미국 대선을 앞두고 이런 딥페이크 영상은 무분별하게 확산되고 있습니다.

민주당 출신 힐러리 클린턴이 공화당 대선후보인 론 디샌티스 플로리다주지사를 공개지지 하기도 하고,

힐러리 클린턴 / 전 미국 국무장관
"저는 론 디샌티스 주지사를 좋아합니다. 많이요. 네, 알아요."

다르 영상에선 론 디샌티스가 경선을 포기하는 말까지 합니다.

론 디샌티스 / 플로리다 주시자
"나는 즉시 경선에서 물러나야겠다고 확실하게 인지했습니다."

딥페이크를 이용한 가짜뉴스의 사회적 비용이 781억 달러가 넘는다는 분석도 나옵니다.

결국 AI업체들은 AI가 만든 영상에 식별표시를 넣기로 했고, UN 차원에서도 AI위험성에 대한 논의를 시작했습니다.

안토니우 구테흐스 / 유엔 사무총장
"AI를 테러와 범죄, 또는 국가 목적을 위해 악의적으로 사용하면 끔찍한 인명 피해와 파괴가 발생할 수 있습니다"

챗GPT와 같은 생성형 AI의 진화와 동시에 퍼져나가는 가짜뉴스. AI 발달이란 이면에 여론 조작이라는 위험성이 커져 이에 대한 규제 필요성도 커지고 있습니다.

뉴스7 포커스입니다.