정치적 허위정보는 여전히 사실상 손 놓은 상태

 

작성자: Anthony Kimery

보도일자: 2025년 9월 4일

출처: Biometricupdate.com

 

미 의회와 각 주의 법무장관들이 AI로 생성된 성적 이미지에 대한 단속에 속도를 내고 있는 가운데, 워싱턴은 아직 2026년 선거를 앞두고 정치 딥페이크를 규제하는 법률을 제정하지 못하고 있다.

 

지난 5월 19일, 도널드 트럼프 대통령은 AI로 생성된 ‘딥페이크’를 포함해 당사자의 동의 없이 유포된 친밀한 이미지를 직접적으로 겨냥한 첫 연방법인 『Take It Down Act』에 서명했다.

 

이 법은 해당 플랫폼이 유효한 통지 접수 후 48시간 이내에 신고된 이미지를 삭제할 것을 의무화하고, 연방거래위원회(FTC)에 삭제 명령을 집행할 권한을 부여한다. 또한, 동의 없이 친밀한 이미지를 게시한 개인에게 형사 처벌을 부과하는 새로운 조항도 포함되어 있다. 플랫폼들은 1년 안에 관련 신고 및 삭제 시스템을 구축해야 하며, 형사 처벌 조항은 이미 시행 중이다.

 

2월 상원 표결 이후, 법안을 발의한 테드 크루즈(Ted Cruz) 공화당 상원의원은 이 법을 피해자들에게 실질적인 대응 도구라고 설명했다. 그는 “『Take It Down Act』는 리벤지 포르노와 딥페이크 음란물의 피해자들, 특히 많은 젊은 여성들이 반격할 수 있는 힘을 준다”고 말했다.

 

백악관 로즈가든에서 열린 서명식 이후, 크루즈 의원은 이번 법 제정을 “피해자들을 위한 역사적인 승리”라고 표현했으며, 이 법 제정에 결정적인 역할을 한 텍사스 학생 엘리스턴 베리(Ellistion Berry)의 “용기와 헌신”에 대해 찬사를 보냈다.

 

서명식에 참석한 베리는, 자신을 둘러싼 노골적인 딥페이크 이미지가 또래들 사이에서 퍼져나가는 동안, 책임자 처벌을 기다려야 했던 몇 달이 어떤 시간이었는지를 이야기했다. 그녀는 CBS 뉴스와의 인터뷰에서 “다음 날 PSAT 시험이 있었는데, 아침에 일어나 보니 누군가 제 가짜 누드 사진을 만들었다는 사실을 알게 됐어요. 마지막으로 필요했던 일이죠.”라고 말했다. 그리고 이어서, “그 사람이 한 일을 제가 되돌릴 수는 없지만, 대신 이 일이 다른 사람들에게 반복되지 않도록 막을 수는 있어요”라고 덧붙였다.

 

이번 연방법은 기본적인 기준선(floor)을 설정한 것이며, 각 주(state)들은 이에 발맞춰 자체적인 보호 장치를 속속 마련하고 있다. 메릴랜드(Maryland)는 7월 1일부터 시행된 상원 법안 SB 360을 통해 기존의 ‘리벤지 포르노’ 법률을 컴퓨터로 생성된 이미지까지 포함하도록 확대했고, 민사적 구제 수단도 강화했다. 형사 처벌로는 최대 징역 2년 또는 5,000달러 벌금이 부과될 수 있다.

 

텍사스(Texas)는 상원 법안 20호(Senate Bill 20)인 『AI 생성 아동 음란물 방지법(Stopping AI-Generated Child Pornography Act)』을 제정했다. 이 법은 실제든, 애니메이션이든, AI로 생성된 것이든 미성년자를 묘사한 ‘외설적 시각 자료(obscene visual material)’에 대해 새로운 범죄 조항을 도입한 것이며, 9월 1일부터 발효되었다.

 

워싱턴(Washington) 주 또한 자국의 법적 체계를 확장했다. 디지털로 위조된 인물 이미지를 고의로 유포하는 행위를 범죄로 규정했으며, 조작된 친밀 이미지에 대한 보호 조치도 강화했다.

 

각 주의 법무장관들도 성적 딥페이크를 가능하게 만드는 기술 생태계 전반에 대한 압박 수위를 높이며 공조에 나서고 있다. 8월 말, 초당적 연합체는 주요 검색 엔진 및 결제 플랫폼에 서한을 발송하며, ‘누디파이(nudify)’ 및 ‘언드레스(undress)’ 도구에 대한 제한 조치, 그리고 이를 판매하는 업체에 대한 수익 차단을 구체적으로 요구했다.

 

캘리포니아주의 롭 본타(Rob Bonta) 법무장관은, 이번 조치의 목적이 “딥페이크 생태계에 간접적으로 연루된 기업들이 문제의 일부가 아닌, 해결의 일부가 되도록 압박하는 것”이라며, 이런 이미지들이 “전 세계적으로 괴롭힘, 협박, 착취의 수단으로 악용되고 있다”고 강조했다.

 

또한, 매사추세츠주의 안드레아 조이 캠벨(Andrea Joy Campbell) 법무장관은 47개 주의 초당적 법무장관 연합을 공동 주도하며, 딥페이크 기반 비동의 성적 이미지의 확산에 맞서 검색 엔진 및 결제 플랫폼이 보다 강력한 조치를 취할 것을 촉구했다.

 

검색 엔진에 보낸 서한에서, 이 연합체는 해당 기업들이 딥페이크 생성 방지를 제대로 하지 못한 점을 지적하며, 경고 문구 표시나 유해 콘텐츠로부터 사용자를 다른 페이지로 유도하는 방식 등 보다 강력한 보호 조치를 도입해 공공의 안전을 지킬 것을 촉구했다.

 

결제 플랫폼에 보낸 별도의 서한에서는, 딥페이크 포르노 제작을 위한 결제 승인 내역을 식별하고 차단할 것을 요구했다.

 

반면, 정치 딥페이크에 대한 정책 대응은 여전히 단편적인 수준에 머물러 있다. 의회는 『REAL 정치 광고법(REAL Political Advertisements Act)』과 『기만적 AI로부터 선거 보호법(Protect Elections from Deceptive AI Act)』을 발의한 상태지만, 이들 법안은 캠페인 광고에서 AI 활용 시 고지 의무를 부과하거나, 실질적으로 기만적인 AI 사용을 금지하는 내용을 담고 있음에도 아직 법으로 제정되지 못한 상태다.

 

관련 입법이 부재한 상황에서, 연방 정부 차원의 대응은 주로 행정기관을 통해 이뤄지고 있다. 2024년 2월, 연방통신위원회(FCC)는 AI로 생성된 음성 통화가 『전화소비자보호법(Telephone Consumer Protection Act)』의 ‘인공 또는 사전녹음 음성’ 제한 조항에 해당한다는 점을 만장일치로 명확히 했다. 이에 따라, 필수적인 사전 동의 없이 이루어지는 AI 로보콜은 불법으로 간주된다.

 

이 조치는, 조 바이든 대통령의 목소리를 모방한 AI 통화가 뉴햄프셔 유권자들을 대상으로 퍼졌던 사건 이후 나온 것이다. 2024년 8월, FCC는 방송, 케이블, 위성 매체에서 정치 광고에 사용된 AI 생성 콘텐츠에 대해 음성 및 서면 고지(disclosure)를 의무화하는 규정 제정 절차도 시작했다. 하지만 해당 제안은 아직 채택되지 않은 상태다.

 

한편, 각 주는 선거 발언(election speech)에 대한 규제 범위를 시험하고 있지만, 미국 수정헌법 제1조(표현의 자유)와의 충돌에 직면하고 있다. 캘리포니아주의 시도는 반복적으로 제재를 받아왔다. 2024년 10월, 연방 판사는 선거 딥페이크에 대해 민간 소송을 허용하는 내용의 AB 2839 법안 시행을 차단했다. 그는 이 법안을 “표현의 자유까지 억압할 수 있는 무딘 도구(blunt tool)”라고 표현하며 위헌 가능성을 지적했다.

 

8월에는 연방 판사가 AB 2655 법안, 즉 『딥페이크 기만으로부터 민주주의를 수호하는 법(Defending Democracy from Deepfake Deception Act)』도 위헌 소지가 있다며 무효화시켰다. 이 법안은 대형 플랫폼들이 선거 기간 동안 특정 ‘실질적으로 기만적인(materially deceptive)’ 콘텐츠를 차단하거나 라벨링하도록 의무화한 법이다. X(구 트위터)를 포함한 여러 플랫폼이 법안을 소송으로 제기했고, 법원은 이 법이 위헌일 가능성이 높다고 판단했다.

 

미네소타(Minnesota)주의 선거 딥페이크 관련 법률도 현재 법정에서 심리 중이다. X Corp.는 이 법이 정치적 표현의 자유를 범죄화하고, 플랫폼에 부당한 부담을 지운다며 위헌 소송을 제기했다.

 

이러한 법적 도전과 캘리포니아주의 잇따른 좌절은, 유사한 금지법을 고려 중인 다른 주 정부들의 입법 움직임에도 찬물을 끼얹고 있다. 그럼에도 불구하고, 2024년 7월 10일 기준, 총 28개 주가 정치 딥페이크를 규제하는 법률을 제정한 상태다.

 

별개의 연방 차원의 논의도 진행 중인데, 이는 개인의 초상권 및 음성권(likeness and voice rights)을 중심으로 한 것이다. 초당적으로 발의된 『No Fakes Act』는 개인에게 ‘디지털 복제물(digital replicas)’에 대한 연방법적 통제권을 부여하고, DMCA(디지털 저작권법) 방식의 삭제 요청 절차를 도입하며, 보도나 패러디에 해당하는 경우는 예외로 두되, 민간 소송 제기를 허용하는 권리를 신설한다는 내용을 담고 있다.

 

엔터테인먼트 및 음악 업계 단체들은 이 법안에 지지를 보내고 있으며, 유튜브(YouTube) 같은 기술 플랫폼도 2024년 봄부터 찬성 입장을 표명했다. 상원은 5월 21일 청문회를 개최해 입법 필요성에 대한 공청회를 열었다. 하지만 시민자유 옹호 단체와 일부 학계 인사들은 이 법이 지나치게 포괄적으로 보호 범위를 설정할 경우, 정당한 패러디나 리믹스 문화까지 위축시킬 수 있다는 우려를 제기하고 있다.

 

정치 영역 밖에서도 딥페이크 관련 사기 수법이 확산되고 있다. 9월 3일, 미국은행협회(ABA) 재단과 FBI는 조작된 이미지, 영상, 음성 파일이 사기꾼들의 사칭 범죄와 소비자 사기에 어떻게 악용되고 있는지를 설명하는 인포그래픽을 일반 대중에 공개했다.

 

미국은행협회(ABA)는 FBI의 통계를 인용하며, 2020년 이후 소비자들이 접수한 사기 신고 건수가 420만 건을 넘고, 피해 금액은 505억 달러 이상에 달한다고 밝혔다. 이 중 딥페이크 기술이 악용된 사기 사례도 점점 비중이 커지고 있다.

 

ABA 재단의 소비자 교육 담당 부사장인 샘 쿤주쿤주(Sam Kunjukunju)는 다음과 같이 경고했다. “딥페이크는 점점 정교해지고 있으며, 일반인이 감지하기도 갈수록 어려워지고 있습니다. 이번 인포그래픽은 소비자들이 의심 징후(red flags)를 식별하고 스스로를 보호할 수 있도록 실용적인 팁을 제공합니다.”

 

FBI 형사수사국의 부국장인 호세 페레즈(Jose Perez) 역시, “딥페이크가 실제 해를 끼치기 전에 일반 대중이 이를 알아볼 수 있도록 교육하는 것이 매우 중요하다”고 강조했다.

 

ABA 재단은 10월에 #BanksNeverAskThat 및 #PracticeSafeChecks 캠페인을 재개할 예정이며, 노인 대상 금융사기 예방을 위한 ‘Safe Banking for Seniors’ 프로그램도 지속 운영한다.

 

이처럼 불균형한 법률 지형은 보다 광범위한 흐름을 반영한다. 2019년 이후, 미국 각 주에서는 딥페이크 관련 법안을 매우 빠르게 제정해 왔으며, 2024년 7월 말 기준으로 총 47개 주에서 딥페이크 관련 법률을 최소 1건 이상 시행 중이다. 이들 법안의 상당수는 성적 이미지에 초점을 맞추고 있으며, 이는 친밀한 이미지 악용(intimate abuse)이 사회적으로 만연하면서도 정치적 표현의 자유를 침해하지 않고 규제할 수 있다는 공감대가 형성된 결과다.

 

한편, 『Take It Down Act』는 비동의 친밀 이미지의 유포를 전국적으로 규제하는 기준선(national baseline)을 마련했다. 이 법은 형사 처벌 조항과 FTC(연방거래위원회)의 민사 집행 권한을 동시에 부여하고 있다. 반면, 정치 콘텐츠에 대한 규제는 여전히 헌법상 표현의 자유라는 ‘역풍’ 한가운데에 놓여 있다.

 

새롭게 제정된 법률에 따라, 해당 플랫폼들은 2026년 5월 19일까지 ‘48시간 내 삭제 처리 시스템’을 구축해야 하며, 선의로 신고된 콘텐츠를 삭제한 경우에는 법적 책임으로부터 보호받는다. 한편, 의도적으로 친밀 이미지 딥페이크를 게시한 개인은 형사 처벌 대상이 된다.

 

그러나 선거 딥페이크와 관련해서는, 유권자들은 여전히 주(state)별로 제각각인 규제, 명예훼손법, 플랫폼의 자율 정책, 그리고 FCC가 규제 절차를 마무리한다면 적용될 방송 광고용 AI 고지 규정에 의존할 수밖에 없는 실정이다. (단, 이 고지 규정은 대부분의 온라인 채널에는 적용되지 않는다.)

 

『Take It Down Act』를 지지해 온 옹호자들 중 일부는 이 법이 악용될 수 있다는 우려도 동시에 제기했지만, 그럼에도 이번 법률을 ‘친밀 이미지 악용’을 다루기 위한 너무나도 늦은 최소 기준(baseline)으로 평가하고 있다. 이들은 동시에, 다른 영역에서는 훨씬 더 신중한 법안 설계가 필요하다는 점도 강조하고 있다.

 

한편, 시민자유 단체들(civil liberties groups)은 특히 정치 영역에서, 플랫폼이 과도하게 콘텐츠를 삭제하도록 유도하는 어떤 제도든 신중해야 한다고 경고하고 있다. 이러한 입장 차이의 긴장감은, 의회가 성적 딥페이크에 대해서는 빠르게 대응하면서도 선거 표현(campaign speech)에는 소극적인 이유를 설명해준다.

 

추가적인 연방 차원의 조치가 없는 한, 내년에는

• 주(state) 단위의 입법 실험,
• 법정 공방 확대,
• 그리고 2026년 선거 시즌이 본격화되기 전, 플랫폼들이 자율적으로 규제 경계를 설정해야 한다는 압박 증가가

지속될 것으로 에상된다.