AI 봇, 아동과 부적절한 대화… 미국에 트랜스휴머니즘 디스토피아 초래 우려

 

작성자: Joel R. McConvey

보도일자: 2025년 9월 8일

출처: Biometricupdate.com

 

규제 당국이 포르노 및 소셜미디어와 관련된 유해 요소로부터 아동을 보호하기 위한 온라인 안전 법안을 마련하고 있는 가운데, 이보다 더 큰 위협이 그들의 뒤를 조용히 파고들고 있습니다. 바로 AI 챗봇입니다. 그 대표적인 예가 OpenAI의 대형 언어 모델(ChatGPT)입니다. 이 기술은 이미 대중적으로 자리 잡았으며, 동시에 위험성도 입증된 상태입니다. 화려한 데뷔 이후, OpenAI는 최신 모델 업데이트 과정에서 실책을 저질렀고, 그 사이 챗봇이 사람들을 매우 의심스러운 결정, 위험하거나 심지어 치명적인 선택으로 이끄는 사례들이 점점 더 많이 보고되고 있습니다. 그럼에도 불구하고 AI 기술을 옹호하는 이들은 여전히 이를 교육자, 의료 전문가, 일상 업무를 위한 도구로 적극적으로 밀어붙이고 있는 상황입니다.

 

음란 챗봇과 누드 합성 앱 확산… 호주, 새 윤리 강령 마련 추진

호주 eSafety 커미셔너 줄리 인먼-그랜트(Julie Inman-Grant)에 따르면, 챗봇은 이제 아이들의 새로운 ‘절친’이 되었습니다. ABC 뉴스는 인먼-그랜트 커미셔너가 온라인 안전법(Online Safety Act)에 따라 6개의 새로운 윤리 강령(Code)을 등록했으며, 이 중 일부는 연령 인증 기술을 통해 아동의 챗봇 접근을 제한하는 것을 목표로 하고 있다고 보도했습니다.

 

인먼-그랜트 커미셔너는 “10~11세 아동들이 AI 친구와 하루에 최대 6시간씩 시간을 보내고 있다고 보고가 학교들로부터 접수되고 있다”고 밝혔습니다. 더 큰 문제는 단순히 LLM(대형 언어 모델)과 친구가 되는 것이 아니라, 이들이 ‘우정 이상의 관계(성적 요소를 포함한)’를 가진 챗봇, 즉 ‘성적 챗봇(sexualized chatbots)’과 친해지고 있다는 점입니다.

 

그녀는 “누군가의 죽음을 본 후에야 이 조치가 옳았다고 인식해서는 안 됩니다. 업계가 ‘빨리 만들고 부숴라’는 욕망에 사로잡혀 있는 사이, 호주 국민의 삶이 망가지거나 목숨을 잃는 일은 더 이상 있어선 안 됩니다”라고 강조했습니다.

 

인먼-그랜트 커미셔너는 Meta의 수장 이름까지 직접 언급하며 비판했습니다. “마크 저커버그는 이것이 외로움에 대한 훌륭한 해독제라고 말했죠.”

 

그녀는 전방위적으로 강경한 입장을 보이고 있으며, 영국에 본사를 둔 한 기술 기업에 대해 4,950만 호주 달러(약 3,250만 미화 달러)의 벌금을 부과하겠다고 경고하고 있습니다. 이 기업은 세계 최대 규모의 ‘누디파이(nudify)’ 사이트 두 곳을 운영하고 있습니다. 그녀는 호주 학생들이 이 AI 사이트를 사용해 동급생의 딥페이크 포르노 이미지를 생성하고 있다고 밝히며, 해당 기업을 “악의적이며 집요한 불량 행위자(pernicious and resilient bac actor)”라고 지목했습니다. 또한 이 기업의 비즈니스 모델은 “여성과 소녀들을 주 대상으로 삼아 그들을 누디화하고, 굴욕감과 수치를 주는 것에 기반하고 있다”고 강하게 비판했습니다.

 

브라질, ‘요염한 아동’처럼 행동하는 챗봇 제거 요구… 메타에 조치 촉구

브라질 당국은 “아동 프로필을 시뮬레이션하고 사용자와 성적인 대화를 나누는” AI 챗봇을 즉각 제거하라며 Meta에 강한 압박을 가하고 있습니다. PPC Land에 따르면, 문제의 챗봇들은 Meta의 맞춤형 AI 챗봇 개발 도구인 ‘Meta AI Studio’를 통해 만들어졌습니다.

 

8월 중순, 브라질 연방 법무부(AGU)는 Meta에 대해 “사전 사법 통지서(extrajudicial notice)”를 발송, 해당 성적 아동 챗봇을 72시간 이내에 삭제할 것을 요구했습니다. 이 통지서는 브라질 형법 제217-A조를 근거로 하고 있는데, 이 조항은 14세 미만 미성년자와의 성적 행위를 범죄로 규정하고 있으며, AI와의 모의 성적 상호작용도 이에 포함된다는 것이 AGU의 주장입니다.

 

브라질 법에 따르면, 플랫폼은 자사 서비스에 호스팅된 유해 콘텐츠에 대해 법적 책임을 집니다.

 

한편 Meta의 챗봇은 최근 미국에서도 논란이 된 바 있는데, 아동과 ‘로맨틱하거나 관능적인’ 대화를 나누는 기능이 내부적으로 승인되었다는 사실이 알려지며 비판을 받았습니다.

 

미국 vs. 트랜스휴머니즘: 호우리, AI 재벌들 강력 비판

챗봇에 대한 반발은 전혀 다른 방향에서도 거세게 일어나고 있습니다. 바로 미국 보수주의 전국대회(NatCon, National Conservative Convention)입니다. 특히 미주리 주 공화당 상원의원 조시 호우리(Josh Hawley)가 그 중심에 있으며, 그는 현재 Meta의 챗봇에 대한 미 의회의 조사를 주도하고 있습니다.

 

호우리는 다소 과장된 듯하면서도 신선한 충격을 주는 연설을 통해, 실리콘밸리의 기술 재벌들이 ‘트랜스휴머니즘(초인간주의)’이라는 이념을 신봉하며 이를 실현하려 한다고 강하게 비판했습니다. 그는 피터 틸(Peter Thiel)과 그와 뜻을 함께하는 AI 억만장자들을 대표적인 예로 언급했습니다. 호우리는 트랜스휴머니즘 사고방식은 미국의 이상과 근본적으로 양립할 수 없다고 주장하며, 그 이유를 다음과 같이 설명했습니다. “미국은 ‘보통 사람(common man)’의 가치를 기반으로 세워진 나라입니다. 미국 공화국은 그의 존엄성과 자유를 전제로 합니다. 그러나 트랜스휴머니즘은 보통 사람의 가치를 거부하며, 인공지능은 그의 자유를 위협합니다.”

 

호우리는 또한 길가메시 서사시부터, 우생학의 창시자인 줄리안 헉슬리(Julian Huxley), 성경, 니체(Nietzsche)에 이르기까지 폭넓게 언급하며, 팔로알토의 기술 엘리트들이 죽음을 피하고, 권력을 장악하며, 노동의 존엄성을 파괴하려 한다고 주장했습니다. 그는 그들이 “아이들을 기계에 중독시키는 동안 소국 하나만 한 재산을 쌓고 있다”고 비판했습니다.

 

“인간성을 초월하려는 자는 결국 그것을 완전히 잃게 되고, 주변 모두를 노예로 만들 위험에 처하게 됩니다.” 호우리 상원의원의 말입니다.

 

그는 우리에게 “그리 멀지 않은 미래”를 상상해보라고 합니다. 그 미래에서는 AI가 경제 전반에 도입되어 있습니다. “AI 기술 지지자들은 우리에게 놀라운 효율성을 가져다줄 것이라 말합니다. 지금껏 본 적 없는 생산성. 문서는 몇 초 만에 작성되고, 계약서는 즉시 초안이 잡힙니다. 알고리즘은 스스로 코드를 씁니다.”

 

그러나 그는 이어 그 이면에 숨겨진 진실을 지적합니다. “수백만 명의 미국인이 일자리를 잃게 됩니다. 이건 음모론이 아닙니다. 실리콘밸리 기술 재버들이 직접 그렇게 말하고 있습니다. 최근 한 CEO는 앞으로 5년 안에 화이트칼라 초급 일자리의 절반이 사라질 것이라고 예측했습니다.”

 

호우리 상원의원은 또한 대형 언어 모델(LLM) 및 기타 머신러닝 모델을 학습시키기 위해 발생한 막대한 저작권 침해 문제를 지적했습니다. 그는 이렇게 말합니다. “이들 모델은 이미 미국 국회도서관을 22번 채울 수 있을 만큼 많은 저작권 보호 작품들에 대해 학습을 마쳤습니다.” 즉, “LLM은 인류가 알고 있는 모든 언어로 된, 출판된 거의 모든 작품을 이미 ‘섭취’한 셈입니다.”

 

그의 연설은 보다 강력한 규제와 보호장치 마련, 그리고 어린이 온라인 보호를 위한 엄격한 기술 표준 및 법적 대응의 여지 확대를 촉구하는 내용으로 이어졌습니다. 그는 특히 챗봇에 대한 연령 확인 절차 도입을 제안하기도 했습니다.

 

궁극적으로 이 연설은 노동의 가치에 대한 옹호이며, 나아가 노동이야말로 인간을 자유롭게 만들 수 있다는 믿음을 강조한 것입니다. 이런 측면에서 호우리의 연설은 강한 이데올로기적 색채를 띠고 있기도 합니다. 그러나 그는 오늘날 우리 사회가 직면한 가장 중요한 질문 중 하나를 명확히 제기합니다. “우리는 지금 기술 재벌들에게 미래를 설계하도록 맡기고 있습니다. 그런데, 그들이 말하는 ‘미래’란 정확히 어떤 모습일까요?”