딥페이크를 아시나요?

이 콘텐츠는 뉴스쿨 News'Cool이 2023년 10월 20일에 발행한 제70호 이번 주 뉴스쿨입니다.‌

이번 주 뉴스쿨에서 다루는 이야기는...

1. HEADLINE - 딥페이크, 혁신일까 또 다른 골칫거리일까?
2. 뉴스쿨TV - 가짜 정보에 속지 않으려면?
3. PLAY - 진실의 미로탈출퀴즈, 쿨리를 도와줘!
4. BOOKCLUB - 거짓 정보에 속지 않게 도와주는 책 4

세상 바꿀 혁신인 줄 알았는데...
세계의 골칫거리 된 딥페이크

어제 찍은 것처럼 선명한 화질의 컬러 영상에서 유관순 열사가 등장합니다. 유 열사는 야무진 입술을 움직이며 "내가 만세를 외친 것은 우리나라를 되찾기 위한 정당한 행동이었다"고 말하는데요. 결의에 찬 눈동자로 당당하게 정면을 응시하는 유관순의 모습은 마치 영상통화를 하듯 생동감이 넘칩니다. 흑백사진으로만 남아있던 유 열사의 동영상을 발견하기라도 한 걸까요?

사실 이 영상은 국내 IT 기업 SK텔레콤과 독립기념관이 함께 인공지능(AI)과 딥페이크(Deepfake)기술을 이용해 만든 미디어 아트 작품입니다. 유 열사의 흑백사진을 컬러로 바꾸고 입을 움직이게 해 동영상처럼 만든 거죠. 이 영상은 천안에 있는 독립기념관 내 3•1 문화마당에 설치돼 있는데요. 유관순 뿐 아니라 안중근 의사의 생생한 모습도 볼 수 있습니다.

“눈앞에 있는 듯” 실종 어린이 모습 구현하기도

100년 전 인물의 모습까지 복원하는 신기한 기술, 딥페이크는 사람의 얼굴이 나오는 사진이나 영상을 AI가 학습하고, 이를 바탕으로 다른 사진•영상 등을 합성해 새로운 결과물을 만드는 기술입니다.
딥페이크는 다양한 분야에 쓰입니다. 영국은 지난해 실종 어린이들을 찾는 포스터와 전광판을 딥페이크가 적용된 영상으로 교체했습니다. 생생한 모습을 보여주면 실종 어린이를 찾는데 더 효과적이라고 본 겁니다. 특히 영상에선 실종 어린이가 눈을 깜빡이거나 웃고 있어 더 많은 사람들이 주목하는 효과도 있습니다. 이처럼 딥페이크는 의료, 교육, 범죄 등 다양한 분야에서 우리의 삶을 획기적으로 개선할 수 있는 기술로 주목을 받고 있습니다.

성범죄에서 가짜뉴스까지 수많은 악용...'규제 한 목소리'

하지만 이런 기대가 실망으로 바뀌는 데는 채 2년도 걸리지 않았습니다. 최근 수년간 딥페이크는 각종 범죄에 악용되며 세계의 골칫거리가 되었습니다. 딥페이크는 가짜 정보를 만드는 데 유용합니다. 전쟁이 한창인 이스라엘 지역에서는 무장단체 하마스가 이스라엘 아기들을 살해하는 모습이 담긴 사진이 퍼진 일이 있었는데요. 수많은 이스라엘 사람들을 분노하게 한 이 사진은 사실 딥페이크로 만든 가짜였습니다. 가짜뉴스는 한 번 유포되면 SNS를 통해 걷잡을 수 없는 속도로 퍼져나갑니다. 올해 초에는 교도소에서 죄수복을 입고 있는 도널드 트럼프 전 미국 대통령의 사진이 "트럼프가 체포됐다"는 가짜뉴스와 함께 SNS에서 일파만파로 퍼진 일이 있었는데요. 이는 엘리엇 히긴스라는 IT기업 대표가 제작한 가짜 사진이었습니다. 당시 트럼프는 실제로 미국 정부로부터 불미스러운 일로 조사를 받고 있던 터라, 이 가짜뉴스에 속은 사람들이 많았습니다.

국내에서는 딥페이크를 이용해 특정인의 얼굴을 벌거벗은 사진과 합성해 퍼뜨리는 성범죄가 발생해 심각한 사회 문제로 떠올랐습니다.
2020년부터 올해까지 성범죄에 활용된 허위 영상을 정부 기관이 삭제 혹은 수정 요청한 사례는 총 9006건 입니다. 이미 얼굴이나 목소리가 알려진 유명 연예인 뿐 아니라 SNS를 통해 자신의 모습을 공개한 평범한 일반인까지 거의 모든 사람들이 범죄의 대상이라고 합니다. 이처럼 부작용이 심각해지자 세계 각국은 딥페이크를 규제할 방법을 찾고 있습니다. 특히 많은 나라들은 거짓 정보가 퍼지는 주요 경로로 SNS를 지목하고, 감시를 강화할 것을 요구하고 있습니다.