[강승우의 머신러닝 이야기] 진짜보다 진짜같은 가짜 ‘딥페이크’

[강승우의 머신러닝 이야기] 진짜보다 진짜같은 가짜 ‘딥페이크’

기술은 아무 죄가 없지만, 이를 사용하는 의도에 따라 나쁜 기술이 될 수도 있다. 딥러닝(Deep Learning)은 인공지능 기술의 발전을 한 차원 높이고 기존의 학문적인 영역에서 다양한 분야에서 실제로 사용할 수 있는 상용 수준으로 발전하고 있다.

그러나 이런 딥러닝 기술은 양날의 검으로도 작용할 수 있다. 딥러닝 기술을 이용한 챗GPT(ChatGPT)가 사람과 거의 구분할 수 없는 수준의 대화를 할 수 있는 것과 마찬가지로 딥페이크(Deepfake) 기술은 실제 이미지와 구분할 수 없는 정교한 가짜 이미지를 만들어 낼 수 있는 기술로 순작용과 역작용을 동시에 보여주고 있다.

딥러닝 기반의 딥페이크 기술은 진짜 같은 사진, 목소리, 영상을 만들어내  없던 사실을 만들어 낼 수 있다는 점 때문에, 딥페이크가 만드는 진짜 같은 가짜의 세상이 우리 곁에 성큼 다가오게 됐다.

딥 페이크로 인한 진짜 같은 가짜의 세상

발전을 거듭한 딥러닝 기술은 매우 자연스러운 이미지와 영상 등 디지털 컨텐츠를 생성하고 있다. 가상 인물, 추억의 스타에 대한 진짜 같은 영상을 생성한다. 고인이 된 옛 가수들을 딥페이크 기술로 재현하는 TV 프로그램이 화제가 되기도 했다. 인공지능이 복원한 혼성 그룹 거북이의 리더 터틀맨이 그룹 멤버들과 함께 꾸민 무대는 많은 사람들에게 감동을 선사했다.

딥페이크로 부활한 터틀맨 (자료 = 유튜브 Mnet TV 캡처)

딥페이크 기술은 특정 인물에게 피해를 입히기 위한 목적으로 사용되기도 한다. 2018년 4월 유튜브에 등장한 영상에서 오바마 대통령은 “트럼프는 완전히 쓸모없는 인간”이라고 독설에 가까운 얘기를 퍼붓는다. 전 세계를 충격을 준 이 영상은 미국 인터넷 매체에서 생성한 딥페이크 영상이었다. 일반화된 딥페이크 기술은 디지털 성범죄와 같은 사회적 문제를 유발하고 있다. 이에 2020년 6월 국내에서도 ‘딥페이크 처벌법’이 만들어졌으며, 법 시행 1년 반이 지난 현재 상당수 판결문에서 딥페이크를 직접적으로 언급하고 있다.

발전하는 딥페이크 기술은 사람의 눈으로는 진위를 확인할 수 없는 수준에 올랐다.

얼마전 미국 드라마 작가 카일 보바흐(Kyle Vorbach)는 이미지 생성 AI인 ‘스테이블 디퓨전(Stable Diffusion)’으로 조작한 사진으로 한 달 동안 가짜 생활을 살았다. 가짜 뉴욕 여행 사진, 멋진 아파트와 유명인과의 사진을 SNS에 업로드했다. 그의 가족과 친구 등, 그를 아는 누구도 의심하지 못했다. AI는 없었던 사실을 만들어 냈다.

카일 보바흐가 AI로 생성해 SNS에 게시한 사진

이는 법적인 면에서 시사하는 바가 크다. 그동안 영상녹화물은 ‘진술 내용과 함께 진술자의 태도와 표정 등을 통해 과거 사실의 완벽한 재연’으로 여겨짐에 따라 진실 발견의 매우 유용한 증거방법으로 활용돼 왔다. 하지만 딥페이크 기술은 이런 영상녹화물의 진위를 의심하게 만들고 있다. 이처럼 AI 기술의 발전으로 인해 그동안 사실이라고 인정되던 사진, 녹음, 녹화물의 법적 효력이 위협받고 있다.

또한 이는 결과적으로 디지털 컨텐츠에 대한 신뢰가 흔들리고 있다는 것을 의미한다. 이에 완벽하지는 않지만, 신뢰 회복을 위한 시도가 이뤄지고 있다.

한 가지 방법은 딥페이크 기술이 아직 생성하지 못하는 미묘한 부분을 확인하는 것이다. 얼마전 인텔은 영상에서 얼굴에 흐르는 혈류를 탐지해 실제 영상과 딥페이크를 구분하는 기술을 발표했다. 이 기술은 얼굴 영상에서 심장에서 보내는 피의 흐름을 포착해 가짜 얼굴을 구분한다. 현재 정확도는 96%라고 한다. 다른 시도는 전자서명을 이용한 진위 판별이다. 소니는 자사의 디지털 카메라에 전자 서명 생성 칩을 탑재했다. 전자서명 기능을 켜고 찍은 사진에는 진본임을 증명하는 전자서명이 추가된다.

딥페이크 기술은 오래전 유행했던 노래의 가사처럼 세상을 ‘짜가가 판치는 요지경’으로 만들고 있다. 사회의 신뢰를 해치는 가짜의 세상에서 벗어나기 위해 관련 기술의 개발과 제도의 정비가 필요한 시점이다.

 

필자 강승우 위데이터랩  인공지능연구소장 겸 부사장은 펜타 컴퓨터를 거쳐 BEA, Oracle에서 최고 기술 아키텍트로서 기업의 IT 시스템 문제가 있는 곳의 해결사의 역할을 했다. 글로벌에 통하는 한국 소프트웨어 개발에 대한 열정으로 S전자 AWS 이벤트  로그 분석을 통한 이상징후 탐지, R사의 건축물 균열 탐지 등의 머신러닝 프로젝트를 진행했다. 현재는 딥러닝을 이용한  소프트웨어 취약점 탐지 자동화 연구와 머신러닝과 딥러닝강의를 진행하고 있으며, 비즈니스화에도 노력을 기울이고 있다. 최근 저서로 '머신러닝 배웠으니 활용해볼까요?'가  있다.