작성자: 프레이저 샘슨 교수(Fraser Sampson), 전 영국 생체인식 및 감시카메라 위원회 위원장

 

작성자: Fraser Sampson

보도일자: 2025년 11월 4일

출처: Biometricupdate.com

 

영어권에서 널리 알려진 표현 중 하나가 바로 “카메라는 결코 거짓말하지 않는다(The camera never lies)”이다. 물론 이는 문자 그대로의 의미가 아니다. 실제로 사진 예술이 등장하던 초기 시절부터 사진은 현실의 직접적인 반영이 아니었다. 사진의 피사체 선정, 구도, 촬영 시점, 조명, 그리고 여러 변수들은 언제나 사진가의 주관적 판단에 달려 있었다. 또한 현상 및 인화 과정에서도 촬영 순간과 기록 사이에는 개입이 가능했고, 일부 예술가들은 화학적 현상 과정 중 직접 이미지를 수정하기도 했다.

 

이 표현이 본래 의미하는 바는 ‘이미지의 존재가 사건의 부인할 수 없는 증거’라는 것이지, 신뢰(trust)와 관련된 것은 아니다. 오히려 이는 초기의 카메라가 기계적 장치였다는 사실에서 비롯된 것이다. 예를 들어, 박스 브라우니(Box Brownie) 카메라는 거짓말을 할 능력이 없었고, 따라서 그것이 향한 방향과 감광 필름에 노출된 모든 것은 – 아무리 예술적으로 표현되었더라도 – 기본적인 진실(basic truth)을 담고 있다고 여겨졌다. 그러나 디지털 이미지의 등장과 함께 그 모든 전제가 바뀌었다.

 

감시 기술의 1세대 시대에서 카메라는 ‘활동적인 운영자(active operator)’의 손에 쥐어진 ‘수동적 도구(passive tool)’에 불과했다. 그러나 이제 사진 전체를 삽입·삭제·편집할 수 있는 능력이 생기면서, 우리는 더 이상 그것을 단순히 ‘카메라’라 부를 수 없게 되었다. 그리고 2세대 시대, 즉 우리가 이제 막 지나가고 있는 시기에는, 화학 필름이 코팅된 상자(box)는 다기능을 수행할 수 있는 컴퓨터로 진화했다. 이 새로운 장치는 단순히 이미지를 기록하는 기능을 넘어, 엣지 컴퓨팅(edge computing)과 클라우드 저장소(cloud storage)를 활용해 메타데이터를 신속히 처리할 수 있게 되었다. 이러한 디지털 감시 장치(digital surveillance device)는 구식 CCTV 같은 구시대적 감시도구를 대체했고, 그 결과 AI 기반 원격 생체인식(remote biometrics) 시대의 문이 열리게 되었다.

 

디지털 이미지와 기록물이 법적 증거로 사용되려면, 다른 형태의 증거와 마찬가지로 동일한 수준의 무결성(integrity)과 검증(verification)이 보장되어야 한다. 그러나 인터넷, 소셜미디어, 그리고 사이버 범죄(cyber-enabled criminality)의 확산은 형사 수사(criminal investigation)에 새로운 도전 과제를 안겨주었다. 초기에는 형사사법체계가 소셜미디어 게시물의 신뢰성과 공정성 문제에 직면했다. 즉, 자기 이익을 위한 게시물(self-serving posts), 인증되지 않은 영상(authenticated video feeds), 그리고 SNS 계정의 자료를 증거로 사용하는 데 따르는 위험이 주요 쟁점이었다. 그러나 지금까지 이러한 문제들 중 어느 것도 딥페이크(Deepfake)가 가져온 급격한 변화와 위협에는 미치지 못했다.

 

다음과 같은 상황을 상상해보자. 당신은 살인 사건의 공소를 담당하는 검사실의 주니어 변호사이다. 범행이 생일 파티 중에 발생한 것으로 알려져 있으며, 여러 기기에서 촬영된 이미지에는 피고인이 사건 당시 한 주택에서 열린 파티에 참석한 모습이 명확히 나타나 있다. 이 사진들에는 같은 파티에 있던 목격자들의 진술도 함께 뒷받침되어 있다. 게다가 SNS 게시물, 피고인이 해당 지역 주유소에서 결제한 영수증, 그리고 주유소 보안 카메라에 찍힌 시간·날짜가 명시된 차량 영상이 존재하며, 이는 경찰의 차량 번호판 자동 인식 시스템(ANPR) 기록과도 일치한다.

 

이 모든 증거는 표면적으로 전혀 의심할 여지가 없는 알리바이(alibi)처럼 보인다. 하지만 만약 이 디지털 증거들이 검찰이 아닌 피고인 측에서 제출된 것이고, 그가 사건 현장에서 수백 마일 떨어진 파티에 있었다는 것을 입증하기 위해 만들어진 ‘딥페이크 알리바이’라면 어떨까? 그렇다면 검찰은 이 모든 이미지가 딥페이크이며, 기록이 조작된 디지털 사기(digital fraud)임을 어떻게 입증할 수 있을까? 특히 경찰의 ANPR 시스템 결과조차 피고인의 주장을 뒷받침하는 상황이라면 말이다.

 

검찰 또한 피의자와 그의 목격자 진술을 반박할 수 있는 이미지, 소셜미디어 게시물, 디지털 데이터를 확보하고 있을 수도 있다. 그러나 배심원(juror) 들은 그중 어떤 자료가 가장 신뢰할 만한 증거인지 어떻게 판단할 수 있을까? 기존 시스템(예: 자동차 번호판 인식 시스템, ANPR)의 구조적 취약점을 악용하는 것은 딥페이크의 신빙성을 강화하는 수단이 될 수 있다. 예를 들어, 동일한 번호판을 단 비슷한 차량을 다른 사람이 대신 운전하게 함으로써, 딥페이크와 실제 데이터가 서로를 상호 보강(corroborate) 하도록 만들 수 있다. 이런 경우, 진위 판별은 극도로 어려워진다. 경찰이 이미지를 증거로 제시하려면, 그 출처(provenance)를 명확히 입증하고 합리적 의심을 남기지 않아야 한다. 반면, 알리바이를 제시하는 측은 단지 그 주장이 ‘그럴듯하다’는 인상만 주면 충분하다. 그리고 바로 이것이 딥페이크가 가장 잘 해내는 영역이다.

 

이미지 합성(Image synthesis)은 본질적으로 매우 매혹적인 기술이다. 엔터테인먼트 분야에서는 딥페이크의 창의성이 일종의 유행처럼 번졌고, 예컨대 ‘패딩을 입은 교황(Pope in a puffer)’이나 ‘도널드 트럼프가 뉴욕 경찰과 격투하는 사진’ 같은 노골적인 합성 이미지들은 이미 전설적인 밈이 되었다. 그러나 딥페이크는 사기꾼들에게는 더욱 매력적인 도구이다. 영국 정부는 그 방대한 규모, 그리고 점점 정교해지고 설득력 있는 특성 때문에, 딥페이크를 “온라인 시대가 직면한 가장 큰 도전 중 하나(the greatest challenge of the online age)”로 규정한 바 있다.

 

배심원 예시는 아직 가상의 시나리오(speculative scenario)에 불과하지만, 법정이 점차 조악한 수준의 딥페이크 증거 사례를 마주하기 시작한 지금, 경찰 역시 다음 세대 디지털 감시 시대, 즉 ‘조작된 알리바이(fraudulent alibi)’가 등장하는 시대에 대비해야 한다.

 

딥페이크(Deepfake)는 점점 탐지하기 어려워지고, 접근하기 쉬워지고 있다. 이제는 숙련된 언론인조차 속아 넘어가는 사례가 늘고 있다. 경찰이 점점 더 시민이 제공하는 이미지와 영상에 의존하게 되면서, 딥페이크는 훨씬 광범위한 위험을 초래한다. 가짜 신고 전화나 조작된 영상이 범죄 증거나 긴급 대응 요청 자료로 경찰에 제출되는 사례가 증가할 가능성도 높다.

 

이제 딥페이크는 온라인 거래처럼 쉽게 주문할 수 있는 수준에 이르렀다. 피고인들이 딥페이크 기술을 이용해 사법 정의를 회피하려 할수록, 경찰은 이를 대응하기 위해 더 많은 자원과 기술력을 필요로 하게 된다. 그렇다면 어떻게 대응해야 할까? 그 답은 아이러니하게도 – “더 많은 기술(technology)”에 있다.

 

스마트 기기의 출력물을 ‘조작되지 않은 진실’로 받아들이는 것은 기술적 순진함에 불과하다. AI가 이미 인터넷을 잠식하고, 장치 구조를 마비시키며, 현실 자체를 훼손하고 있는 상황에서, 카메라의 전통적인 ‘진실성(veracity)’은 이미 오래전에 사라졌다. 다행히 대중의 인식은 점차 높아지고 있으며, 이에 대응하기 위해 팩트체크 웹사이트와 오픈 경쟁(fact-checking competitions)이 속속 등장하고 있다. 그러나 결국 우리는 AI의 도움을 받아야만 이 문제를 해결할 수 있을 것이며, 그 과정에서 극도의 주의(caution)가 필요하다 – 왜냐하면 ‘새로운 독(poison)’을 만드는 연구소가 동시에 해독제(antidote)를 팔고 있는 현실은 불안감을 지울 수 없기 때문이다.

 

아무리 기술이 진화하더라도, 2세대 감시 시대(second surveillance era)의 장치(device)는 여전히 ‘활동적 운영자(active operator)’의 손에 쥐어진 도구(tool)였다. 즉, 거짓을 말하는 주체는 여전히 인간이었다. 그러나 다음 세대(next era)에 등장할 장치는 완전히 다른 존재가 될 것이다. 상호작용형 도구(interactive instrument)에서 자율적 창조자(autonomous creator)로 변모하며, 더 이상 인간의 개입 없이 스스로 기반(deception)을 수행할 수 있게 된다. 곧 등장할 차세대 감시 카메라(next-gen surveillance camera)는 우리에게 거짓을 말할 수 있는 능력을 갖추게 될 것이다. 그리고 우리는 아직 그 현실과 마주할 준비조차 되어 있지 않다.

 

저자 소개

프레이저 샘슨(Fraser Sampson)은 영국 생체인식 및 감시카메라 위원회(UK Biometrics & Surveillance Camera Commission)의 전 위원장이자, 현재 CENTRIC(테러·복원력·정보·조직범죄 연구 우수센터, Centre for Excellence in Terrorism, Resilience, Intelligence & Organised Crime Research)에서 거번넌스 및 국가안보학 교수(Professor of Governance and National Security)로 재직 중이다. 또한 그는 페이스워치(Facewatch)의 비상임 이사(Non-executive Director)이기도 하다.