딥페이크와 증거재판주의

 - 요약 논문

https://www.kci.go.kr/kciportal/ci/sereArticleSearch/ciSereArtiView.kci?sereArticleSearchBean.artiId=ART003210023

딥페이크와 증거재판주의 - 딥페이크 생성·탐지와 디지털 증거에 관한 이해를 바탕으로

 

 

I. 서론

---

1. 연구의 배경 및 목적:

최근 딥러닝(Deep Learning) 기반의 생성형 인공지능 기술은 비약적인 발전을 거듭하며 현대 사회에 큰 영향을 미치고 있다. 특히 2017년 본격적으로 등장한 ‘딥페이크(Deepfake)’ 기술은 인공지능 시스템을 이용하여 실제와 구별하기 어려운 가상의 음향, 이미지, 영상을 생성해내고 있다. 이러한 기술의 발전은 긍정적 활용 가능성을 넘어, 사회적 혼란을 야기하고 있으며 사법 체계, 특히 형사재판의 근간을 흔들 수 있는 잠재적 위험요소로 부상하였다.

 

2. 문제의 제기:

우리 형사소송법 제307조는 ‘사실의 인정은 증거에 의하여야 하고, 범죄사실의 인정은 합리적인 의심이 없는 정도의 증명에 이르러야 한다’는 증거재판주의를 따르고 있다. 그러나 전통적으로 가장 강력한 증명력을 가진 것으로 평가받던 영상 및 음성 증거가 딥페이크 기술로 인해 그 신뢰성을 위협받고 있다. 피고인이 증거의 위작 가능성을 제기할 경우, 현재의 기술과 법리만으로는 그 증거능력 및 증명력을 판단하기가 점차 어려워지고 있다. 따라서 딥페이크의 생성 및 탐지 기술의 현황을 살펴보고, 국내외 법적 논의와 사례를 분석한 뒤, 이를 바탕으로 딥페이크 위작 주장이 제기되었을 때의 형사법적 심리 방안을 모색하고자 한다.

 

 

II. 딥페이크 기술의 현황과 한계

---

1. 딥페이크 생성 기술의 진화:

딥페이크 생성 기술은 2014년 ‘생성적 적대 신경망(GAN)’의 등장으로 중대한 전환점을 맞이했다. GAN은 가짜를 만드는 ‘생성 모델’과 진위를 판별하는 ‘판별 모델’이 서로 경쟁하며 학습하는 구조로, 육안으로는 구별이 불가능한 수준의 결과물을 만들어낸다. 이후 노이즈를 제거하며 원본을 복원하는 ‘확산(Diffusion) 모델’과 이를 개선한 ‘잠재 확산 모델(Stable Diffusion)’이 등장하며, 텍스트 입력만으로도 고품질의 이미지를 생성하는 것이 가능해졌다. 최근에는 ‘FSGAN’이나 ‘Wav2Lip’, ‘Sora’와 같이 소수의 사진이나 텍스트만으로도 정교한 영상과 음성을 생성하는 기술이 상용화되었으며, ‘FaceSwap’과 같은 모바일 앱의 보급으로 누구나 손쉽게 딥페이크를 제작할 수 있는 환경이 조성되었다.

 

2. 탐지 기술의 현황과 한계:

딥페이크에 대응하기 위해 CNN 기반 모델, 트랜스포머 모델, 생체 신호 탐지 모델 등 다양한 탐지 기술이 연구되고 있다. 그러나 현재의 탐지 기술은 명확한 한계를 지닌다. 첫째, 전이 가능성(Transferability)의 부족이다. 훈련된 데이터셋 내에서는 높은 정확도를 보이지만, 새로운 유형의 딥페이크에 대해서는 정확도가 60~70% 수준으로 급락한다. 둘째, 해석 가능성과 강건성의 부족이다. 탐지 모델이 왜 그런 결과를 도출했는지 설명하기 어렵고(Blackbox 문제), 화질 저하 등 후처리가 가해지면 탐지 성능이 현저히 떨어진다.

 

3. 인간의 탐지 능력과 사법적 시사점:

연구 결과에 따르면 인간의 딥페이크 탐지 정확도는 약 50~70% 수준으로, 무작위 추측보다 조금 나은 정도에 불과하다. 심각한 점은 인간이 딥페이크를 진짜로 오인하는 경향이 강함에도 불구하고, 자신의 탐지 능력을 과신한다는 것이다. 이는 훈련받지 않은 판사나 배심원이 육안으로 증거의 진위를 판단할 때 오판의 위험이 매우 큼을 시사한다. 딥페이크의 생성과 탐지는 ‘군비 경쟁’과 같아, 구조적으로 방어(탐지)가 공격(생성)보다 뒤처질 수밖에 없는 상황이다.

 

 

III. 딥페이크 관련 법적 논의 및 사례

---

1. 딥페이크 위작 관련 주요 사례:

해외에서는 이미 딥페이크 증거가 재판의 쟁점이 되고 있다. 미국 내 2020년 양육권 분쟁 사건이나

2024년 고등학교 체육 교사 사건처럼 실제로 조작된 증거가 적발된 사례가 있는 반면,

‘People v. Foreman’ 사건이나 ‘Huang v. Tesla’ 사건처럼 피고인이 불리한 증거를 배척하기 위해“이것은 딥페이크다”

라고 주장하는 현상도 나타나고 있다.

미국 법원은 이에 대해 단순히 기술적 조작 가능성만으로는 증거를 배척하지 않으며,

구체적인 근거를 요구하는 신중한 태도를 보이고 있다.

 

2. 미국 연방증거규칙의 대응:

미국 연방증거규칙 제901조는 증거의 진정성 입증을 요구하나, 딥페이크의 경우 기존 방식만으로는 한계가 있다.

이에 학계와 실무에서는 딥페이크 논란이 배심원에게 줄 수 있는 부당한 편견이 증명력보다 클 경우

증거를 배제해야 한다는 견해(제403조 적용)와, 증거 제출자에게 출처를 밝히는 보강증거를 추가로 요구하거나

별도의 청문회를 거치게 하자는 논의가 활발히 진행 중이다.

 

 

 

IV. 딥페이크 위작 주장의 형사법적 심리 방안

---

1. 기존 디지털 증거 법리의 한계:

한국 형사소송법상 디지털 증거는 적법 절차, 무결성, 동일성이 입증되어야 증거능력이 인정된다.

그러나 딥페이크는 원본 파일 자체가 처음부터 조작되어 생성된 경우이므로, 압수 이후의 무결성(해시값 일치 등)을

입증하는 것만으로는 증거의 내용적 진실성을 담보할 수 없다.

즉, 기존의 디지털 증거 법리는 수집 절차의 적법성에 초점이 맞춰져 있어,

내용 자체의 창작 여부를 다투는 딥페이크 문제 해결에는 근본적인 한계가 있다.

 

2. 심리 절차의 구체적 제안:

딥페이크 위작 주장이 제기될 경우, 법원은 공판준비절차를 통해 다음과 같은 단계적 심리를 진행해야 한다.

• 가. 사실 요구 및 주장의 구체화: 피고인이 막연히 딥페이크 가능성을 제기하는 것을 넘어, 구체적인 정황이나 근거를 제시하도록 요구해야 한다. 이는 딥페이크라는 추상적 가능성만으로 재판을 지연시키는 것을 방지하기 위함이다.
• 나. 전문가 감정 및 타당성 검토: 합리적 의심이 들 경우 전문가 감정을 실시해야 한다. 이때 판사는 감정에 사용된 탐지 모델의 종류, 훈련 데이터, 정확도(AUC), 오류율 등을 종합적으로 검토하여 감정 결과의 신뢰성을 엄격히 평가해야 한다.
• 다. 법관의 자유심증과 종합적 판단: 탐지 기술 역시 불완전하므로 감정 결과에만 맹목적으로 기속되어서는 안 된다. 판사는 기술적 결과 외에도 촬영 일시·장소의 타당성, 메타데이터, 목격자 진술, 사건의 전후 맥락 등을 종합하여 증거의 진정성을 판단해야 한다. 특히 판사는 자신의 눈으로 영상을 직접 시청하여 진위를 속단하는 ‘육안 검증’을 지양해야 한다.

3. 특수 문제: 전문증거 법칙과 국민참여재판

• 형사소송법 제313조의 적용: 피고인이 딥페이크임을 주장하며 영상의 진정성립을 부인할 경우, 형사소송법 제313조 제2항에 따라 ‘과학적 분석결과에 기초한 객관적 방법’으로 증명할 수 있는지가 문제된다. 현재의 불완전한 딥페이크 탐지 기술을 법문상의 ‘객관적 방법’으로 바로 인정하기에는 무리가 있으나, 이를 보강증거와 결합하여 심리하는 방향으로 유연하게 해석해야 할 것이다.
• 국민참여재판의 배제 고려: 배심원은 강력한 시각 정보를 제공하는 딥페이크 영상에 의해 편견을 가질 위험이 크다. 따라서 딥페이크 여부가 핵심 쟁점인 사건에서는 공판준비기일에서 증거능력을 엄격히 선결하거나, 심리의 복잡성을 고려하여 국민참여재판 배제 결정을 고려하는 등 매우 신중한 접근이 필요하다.

 

V. 결론

---

딥페이크 기술의 발전은 ‘보이는 것이 곧 진실’이라는 우리 사회의 오랜 믿음을 깨뜨리고 있다.

기술의 발전 속도는 탐지 기술을 앞서고 있으며, 이는 형사사법 절차에 있어

실체적 진실 발견을 어렵게 만드는 중대한 도전이다. 그러나 딥페이크의 존재 가능성만으로

모든 디지털 증거의 가치를 부정한다면 실체적 진실을 외면하는 결과를 초래할 것이다.

법원은 기술의 불완전성을 인지하고, 막연한 육안 관찰이나 기계적 감정 결과에 의존하는 것을 넘어,

다각적인 검증 절차와 치밀한 법리 구성을 통해 증거의 진정성을 가려내야 한다.

결국, 딥페이크 시대의 증거재판주의는 “증거를 통해서 사실을 찾는 것”을 넘어

“주변 사실과 정황을 통해 증거의 진정성을 역으로 검증하는 과정”으로 전환되어야 한다.

우리 사법 체계는 이러한 변화에 맞추어 감정 절차를 정립하고 법리를 발전시킴으로써,

기술적 위협 속에서도 정의를 실현해 나가야 할 것이다.

 

 

딥페이크와 증거재판주의_요약_정진우(행정법무대학원 융합보안학과)_205251129_발표.pptx

0.11MB