김녹완. 사진 - 서울경찰청
'목사방' 총책 김녹완 신상 공개
2025년 2월7일. 텔레그램 성착취 범죄 조직인 ‘목사방’ 일당이 운영한 성착취 범죄에서 미성년자 159명을 포함한 총 234명의 피해자가 발생한 것으로 드러났다. 피해자 중 한 명인 고교생 이민지(가명)는 초등학교 동창 김기태(가명)에게 딥페이크 피해를 입었다.
김기태는 지난해 1월 이민지의 합성 나체 사진을 만들어 유포했으나, 당시 딥페이크 처벌법이 시행되기 전이어서 성범죄 예방 교육 30시간 명령만 받았다. 이후 ‘딸기’(가명)라는 인물이 접근해 피해자를 돕는 척하며 정보를 확인한 뒤, 오히려 이민지의 인스타그램 팔로어들에게 조작된 사진을 유포했다. 피해 가족이 경찰에 신고했으나, 경찰은 가해자를 특정할 수 없다며 사건을 종결했다.
그러나 1년 뒤 경찰은 딸기를 체포했고, 김기태와 딸기가 ‘목사방’ 성착취 조직과 연계된 사실이 밝혀졌다.
서울경찰청은 8일, ‘목사방’ 총책 김녹완(33)의 신상을 공개했다. 김씨는 2020년부터 5년간 ‘자경단’이라는 조직을 운영하며 피해자 234명을 협박·성착취했으며, 면죄부를 미끼로 가해자를 모집해 조직을 확장한 것으로 조사됐다.
경찰은 현재 피해자 신상정보와 유포된 딥페이크 영상 삭제를 요청한 상태지만, 피해 확산 가능성을 배제할 수 없는 상황이다.
생성형 AI로 만든 그림.
서울대 딥페이크 사건 주범, 10년 선고
2024년 10월30일. 서울대 졸업생 등의 사진을 이용해 성착취물을 제작·유포한 '서울대 딥페이크 사건' 주범 박씨가 1심에서 징역 10년을 선고받았다. 서울중앙지법 형사합의31부는 30일 성폭력처벌법 위반 혐의로 기소된 박씨에게 검찰의 구형량과 동일한 형량을 선고했으며, 공범 강씨에게는 징역 4년을 선고했다.
박씨와 강씨는 2021년부터 텔레그램을 통해 피해자의 SNS 사진 등을 조작하여 음란물을 제작하고 이를 유포한 혐의를 받는다. 이번 사건은 피해자가 61명에 이르며 미성년자도 포함되어 아동·청소년성보호법 위반 혐의도 적용됐다.
재판부는 텔레그램의 익명성과 보안성이 범행에 이용됐다는 점에서 엄벌 필요성을 강조했다. 특히 박씨가 사회적 열등감과 증오심을 표현하기 위해 범행을 저질렀다고 판단하며 심신미약 주장을 받아들이지 않았다. 피해자들은 사건으로 인해 일상생활에서 극심한 불안감을 겪고 있으며, 회복이 사실상 불가능하다고 평가되었다.
피해자 측 변호인은 판결을 환영하며 "피해자 입장에서 상당한 위로가 된다"고 밝혔다.
삭제지원 팀장 "피해 사실을 알게 된 즉시 신고하는 것이 가장 중요"
2024년 10월23일. 딥페이크 성범죄는 인공지능(AI) 기술이 발전하면서 피해자의 얼굴을 성착취물에 합성해 실제처럼 보이게 만드는 범죄로, 그 피해가 점점 확대되고 있다. 피해자들은 자신도 모르게 영상물이 사이버 공간에 유포되어 불안과 공포 속에서 일상이 무너지는 '실존적 생지옥'을 겪는다. 특히 딥페이크 범죄는 최근 일반인을 대상으로 한 사례가 증가하면서 사회적 이슈로 떠오르고 있다.
한국여성인권진흥원 디지털성범죄피해자지원센터는 이러한 피해자들을 돕기 위해 2018년에 설립되었으며, 삭제지원, 상담, 법률 및 의료 연계 등을 제공한다. 박성혜 삭제지원팀장은 피해 사실을 알게 된 즉시 신고하는 것이 가장 중요하다고 강조한다.
딥페이크와 같은 디지털 성범죄는 유포가 빠르고 추적이 어려워, 피해 최소화를 위해 골든타임 내에 신고하고 삭제 작업을 진행해야 한다. 박 팀장은 작년에 센터가 삭제한 영상이 3만 5000여 건에 달하며, 피해 영상물이 한 번 유포되면 재유포가 반복되기 때문에 신속한 대응만이 피해를 줄일 수 있다고 설명했다.
디지털 성범죄를 근본적으로 차단하기 위해서는 '허위 영상물의 제작, 소지, 시청, 유포는 명백한 범죄'라는 사회적 인식 개선이 필요하다. 박 팀장은 이러한 범죄가 누구나 피해자가 될 수 있으며, 가해자가 주변인이 될 수 있다는 점에서 더욱 심각하다고 지적했다. 더불어 센터는 교육부와 협력해 딥페이크 성범죄 관련 교육 지침서를 제작하고, 기술 고도화와 국제 공조를 통해 피해를 줄이기 위한 노력을 지속하고 있다.
생성형 AI로 만든 그림.
딥페이크 공유 사이트 놀X 월 이용자 52만명
2024년 10월10일. 프레시안 단독 보도에 따르면, 딥페이크 성착취물을 공유하는 불법 사이트 '놀X'는 월 이용자가 52만 명에 달하며, 과거 '소라넷'을 방불케 하는 규모로 불법 촬영 및 성착취물을 유포하고 있는 것으로 나타났다. 이 사이트는 가상화폐와 IP 삭제 기능을 통해 수사를 피하고 있으며, 'AI Art 연구소'라는 이름으로 딥페이크 성착취물 제작을 모의하는 채널도 운영 중이다. 전문가들은 경찰의 기술적 대응 능력이 부족하다고 지적하며, 수사 인력 강화와 기술 고도화로 가해자들에게 강력한 경고 메시지를 전달해야 한다고 강조했다. "텔레그램 협조 요청만으로는 디지털 성범죄 문제를 해결할 수 없다"며 경찰의 적극적 조치를 요구했다.
김한규 의원이 딥페이크 특별법안을 설명하고 있다. 사진 -뉴저널리스트 투데이 영상 캡처.
딥페이크 범죄 처벌 강화, 법안 통과… ‘알면서’ 논란 끝 법적 구제 확대
2024년 9월27일. 지난 26일, 국회 본회의에서 딥페이크 범죄에 대한 처벌을 강화하는 ‘성폭력범죄의 처벌 등에 관한 특례법’ 개정안이 통과됐다. 이번 법안은 딥페이크 영상의 제작, 유포, 소지 및 시청을 엄격하게 규제하는 내용을 포함하고 있으며, 디지털 성범죄의 증가에 대응하기 위한 강력한 법적 근거를 마련했다.
딥페이크 범죄는 기술을 악용해 성적으로 조작된 영상물을 유포하거나 소지하는 행위가 큰 사회적 문제로 떠오르면서 그 처벌 수위가 중요하게 논의되었다. 이번 개정안은 이러한 불법 촬영물이나 조작된 영상물의 소지 및 시청 행위까지 처벌할 수 있도록 하여 가해자에 대한 책임을 강화했다. 다만, 법사위 논의 과정에서 ‘알면서’라는 조건이 삽입되며 논란이 일기도 했다.
지난 24일 국회 법제사법위원회 법안심사제1소위원회에서 개정안이 의결된 후, 25일 법사위 전체회의에서는 허위 영상물이라는 사실을 알고 소지하거나 시청한 경우에만 처벌할 수 있도록 하는 ‘알면서’라는 문구가 추가됐다. 김용민 더불어민주당 의원 등 일부 야당 의원들은 "우연히 다운로드되거나 나도 모르게 시청한 경우까지 처벌하는 것은 과도하다"고 주장하며 해당 조건을 삽입했다.
그러나 26일, 추미애 더불어민주당 의원이 ‘알면서’ 문구가 삭제된 대안을 긴급 발의했고, 이 대안이 본회의를 통과하면서 최종적으로 '알면서'라는 조건은 법안에서 제외되었다. 법안 심의 과정에서 ‘알면서’가 포함되었다가 최종 삭제되기까지 3일간 논란이 지속되었으나, 이로써 고의성 여부와 상관없이 불법 영상물의 소지와 시청도 처벌할 수 있는 강력한 법적 장치가 마련됐다.
또한 이번 개정안은 피해자 보호 조치도 강화했다. 국가와 지방자치단체가 피해자의 신상 정보를 삭제하는 것을 직접 지원할 수 있는 근거가 마련되었고, 디지털 성범죄 피해자를 위한 전담 지원센터 설립이 가능해졌다. 피해자들은 이를 통해 보다 신속하고 효과적인 법적 보호와 상담 서비스를 받을 수 있을 것으로 기대된다.
이번 법안은 디지털 성범죄를 예방하고 피해자를 보호하기 위한 중요한 전환점으로 평가된다. 정부는 이번 법안 통과를 계기로 딥페이크 범죄에 대한 엄정한 대응과 피해자 지원을 지속적으로 강화하겠다는 입장을 밝혔다.
머스크가 딥페이크 법안 서둘러 만들게 해
2024년 9월17일. 일론 머스크는 AI 기술을 이용한 정치적 딥페이크 영상의 논란 중심에 섰다. 지난 7월, 머스크는 AI로 조작된 카멀라 해리스 부통령의 사진을 자신의 소셜 미디어 플랫폼 X에 공유해 논란을 촉발시켰다. 이 사건은 개빈 뉴섬 캘리포니아 주지사가 딥페이크를 금지하는 법안을 발의하는 계기가 되었으며, 해당 법안은 11월 선거 전에 발효될 예정이다. 머스크는 AI 패러디는 표현의 자유로 보호받아야 한다고 주장했지만, 뉴섬은 이를 선거 교란과 잘못된 정보 확산으로 규정하며 강하게 비판했다. 위 사진을 올리며 머스크는 "카멀라가 첫날부터 공산주의 독재자가 되겠다는 공약을 했다. 저런 옷을 입고 있다는 걸 믿을 수 있나?"라는 글도 함께 썼다. 리사 모나코 미 법무부 부차관은 폴리티코가 17일(미국 시간) 개최한 의 AI 및 기술 정상회의에서 AI의 위협, 특히 외국 적대 세력에서 발생하는 위협을 강조했다. 모나코는 “AI는 궁극적인 양날의 검이다. 그것은 큰 가능성을 가지고 있지만 동시에 모든 종류의 악의적인 행위자가 진입 장벽을 낮추는 예외적인 위험도 안고 있다”며 새로운 법이 계속 생겨날 것으로 믿는다고 말했다.
Generated on DALL·E.
미국 주요 IT 대기업 '성적 딥페이크' 억제 약속
2024년 9월13일. 주요 인공지능(AI) 기업들이 유해한 성적 딥페이크 이미지를 억제하기 위해 AI 훈련 데이터셋에서 누드 이미지를 제거하겠다고 13일(한국기준) 발표했다. 이 자발적 약속은 바이든 행정부의 중재로 이루어졌으며, 어도비, 앤스로픽, 마이크로소프트, 오픈AI 등이 참여했다. 이러한 조치는 여성, 아동 관련 커뮤니티를 대상으로 급증하는 이미지 기반 성적 학대를 방지하기 위한 광범위한 캠페인의 일환이다. 또한 커먼 크롤은 책임감 있는 데이터셋 사용을 약속했고 범블, 디스코드, 메타 등은 성적 학대를 방지하기 위한 원칙을 발표했다.
박은정 의원. 사진 - 뉴저널리스트 투데이
조국혁신당 박은정 의원, '딥페이크 차단 6법' 발의
2024년 9월7일. 조국혁신당의 박은정 의원은 9일 국회 소통관에서 기자회견을 열고 디지털 성범죄 대응을 위한 '딥페이크 차단 6법(서지현법)'을 발의한다고 발표했다. 이 법안은 허위영상물(딥페이크) 성범죄의 형량 강화 및 피해자 보호를 골자로 하며, 이를 통해 급증하는 디지털 성범죄에 대한 강력한 대응을 요구했다.
박 의원은 2년 전 서지현 검사가 법무부 디지털 성범죄 대응 TF 팀장으로 활동하다가 갑작스럽게 해산 명령을 받고 자리에서 물러났던 상황을 상기하며, 그 이후 디지털 성범죄 문제가 심각하게 악화되고 있다고 지적했다. 특히, 최근 몇 년 동안 딥페이크 범죄가 급증하며 피해자들이 10대부터 60대까지 광범위하게 분포되어 있다는 점에서 문제의 심각성을 강조했다.
또한 박 의원은 윤석열 정부가 여성가족부 장관을 6개월 이상 임명하지 않음으로써, 디지털 성범죄 대응 컨트롤 타워 부재 상황이 지속되고 있다고 비판했다. 디지털 성범죄 피해자 지원센터는 피해자들의 요청에도 불구하고 효과적인 조치를 취하지 못하고 있으며, 이는 정부가 디지털 성범죄 문제에 소극적으로 대응하고 있다는 것을 보여준다고 말했다.
이번 '딥페이크 차단 6법'에는 성폭력범죄 처벌법 개정안을 포함해 여러 법안들이 포함됐다. 특히 딥페이크 등의 반포죄 형량을 5년 이하에서 7년 이하로 강화하고, 수사 및 재판 과정에서 피해자 보호 장치들을 신설하는 등의 내용이 담겼다. 박 의원은 이 법안이 디지털 성범죄 근절을 위한 중요한 첫걸음이 될 것이라고 강조했다.
박 의원은 "디지털 성범죄는 단순한 젠더 문제가 아닌 폭력 문제"라며, "정부는 가해자에 대한 정의로운 처벌만이 피해자 치유의 첫걸음이라는 사실을 명심해야 한다"고 덧붙였다.
딥페이크 성착취물 피해자의 53%가 한국인
2024년 9월7일. 미국의 한 보안업체는 전 세계에 유포된 딥페이크 성착취물 피해자의 53%가 한국인이라는 보고서를 내놨다. 피해자 대부분이 여성 연예인이었는데, 가장 많은 표적이 된 개인 10명 중 8명이 한국인 가수였다. 최근 국내에서 딥페이크 성 착취물이 지역과 나이를 가리지 않고 텔레그램을 통해 확산한 것으로 드러나자 외신들도 주목했다. 월스트리트저널은 이 사건을 보도하면서 "한국이 전 세계적 문제의 진앙임을 시사한다"고 지적했다. 안드레아 히커슨 미시시피대 뉴미디어 학장은 "(딥페이크물 제작 행위를 범죄화해 처벌하는 것은) 억지력을 발휘할 수 있지만, 법 체계는 엄청나게 느리다. 당신 얼굴이 포르노 딥페이크에 사용됐다면 적절한 시기에 해결하기가 매우 어려울 수 있다는 것이다"라고 말했다고 연합뉴스TV는 보도했다.
딥페이크 기술을 활용한 성착취물의 확산이 심각한 문제로 떠오르고 있으며, 이에 대한 대응책이 시급하다는 경고가 제기되고 있는 가운데 미국에서 시작된 딥페이크 성착취물 사태는 이제 한국으로 '쓰나미'처럼 밀려왔다고 연합뉴스TV는 전했다. 각국의 법적 대응은 아직도 부족한 상황으로, 기술 발전에 맞춰 빠르게 대처할 법률 시스템의 필요성이 강조된다. AI 중독 등 다른 AI 부작용 역시 점점 더 큰 사회적 문제로 부각되고 있어, AI 기술의 발전과 그에 따른 부작용을 사전에 방지할 안전망 구축이 중요하다는 목소리가 커지고 있다.
규제를 하는 것은 너무나 중요한 일이다. 그런데 인공지능 선용하기를 격려하는 언론은 극히 드물다. 선용하는 것은 독자들, 시청자들의 눈길을 끌기 쉽지 않기 때문이다. 딥페이크 기술은 갠(GAN)이라는 기술이 원천이다. 갠으로 인류문화에 기여하고 인공지능을 인간의 고된 노동을 덜어주는 데 사용하는 케이스를 언론은 더 찾아내 알려야 한다.
여성가족부 신영숙 차관이 의원의 질의시간에 경청하고 있다. 사진 - 뉴저널리스트 투데이
여야 의원들 "딥페이크 대책 관련 컨트롤 타워가 없다"
2024년 9월4일. 4일 국회에서 열린 딥페이크 성범죄 관련 국회 여성가족위원회 의 긴급 현안질의에서 여야 의원들은 공통적으로 “딥페이크에 대응할 컨트롤타워 가 없다”고 지적했다. 여성가족부는 딥페이크 성범죄 주무 부처이지만 장관 공백 사태가 6개월간 이어지고 있다. 이날 여성가족부에서는 신영숙 차관이 출석했다. 이 밖에 교육부, 과학기술정보통신부, 법무부, 국방부, 경찰청, 방송통신심의위원회 등에서 출석했다. 더불어민주당 이연희 의원은 “지난달 30일 범정부대책회의를 개최했을 때 국무조정실 국무1차장이 주재했는데, 1차장이 딥페이크 여성 성폭력 관련 전문가냐”며 “이런 회의를 여가부가 주재해야 된다”고 주장했다. 이에 신 차관은 “효과적인 정책이나 대응을 수립하기 위해서는 국조실에서 하는 것이 효율적이라고 생각했고 전에 N번방 사태 때도 국조실에서 회의를 진행했다"라고 답했다.
조은희 의원은 텔레그램 삭제요청 상황을 방송통신심의위원회(방심위)의 이동수 디지털성범죄심의국장에 물었는데 이 국장은 “이전에는 삭제가 됐는지 안됐는지 회신이 없었는데, 이번에는 삭제요청을 하면 삭제가 됐다는 회신을 주기로 메일이 왔다"고 답했다.
임미애 의원은 유럽의 경우 딥페이크 기술을 사용할 경우 표기를 의무화하는데 한국의 상황은 어떤지를 물었고 엄열 과학기술정보통신부 정책통신 정책관은 "아직은 법령이 없기에 각 업체들이 자율적으로 진행하고 있다. 법적으로 할 수 있는 것은 우리의 주요 과제이고 법에 꼭 넣어야겠다고 생각하고 있다"고 답했다.
장철민 더불어민주당 의원은 "경찰이 구글, 메타 등에는 1년에 1만건 정도의 수사 협조 요청을 해서 90% 이상 답변을 받았다고 한다"며 "그런데 텔레그램 에는 1년에 20건 정도만 수사 협조 요청을 했다. 협조가 안 되더라도 더 적극적으로 요청했어야 한다"고 지적했다. 또한, 경찰이 사건 접수와 처리 등에 대해 미숙하고 경찰의 2차 가해도 있었던 것 같다는 지적도 있었다. 경찰에서 대혼란에 빠져 있는 건 아닌지 걱정이 된다는 말도 나왔다. 이에 대해 김병찬 경찰청 국가수사본부 수사국장은 "현재 시도청 사이버수사대 중 일부를 성폭력 전담으로 운영하고 있다. 경찰서 단위에서는 피의자 조사만 하고 시도청으로 사건을 이첩한다."라고 답했다.
Generated on DALL·E.
BBC뉴스 "딥페이크 사회적 큰 문제'
2024년 9월3일. 최근 한국에서 딥페이크 음란물이 대학교와 중·고등학교를 중심으로 퍼지며 큰 사회적 문제로 떠올랐다고 BBC뉴스 코리아가 보도했다. BBC 뉴스 코리아는 대학생 희진(가명) 씨에 대해 소개하며 텔레그램을 통해 자신의 얼굴이 성적인 이미지에 합성된 딥페이크 사진을 받고 공포를 느꼈던 내용을 소개했다. 딥페이크 음란물은 주로 텔레그램을 통해 제작 및 유포되며, 대학생뿐만 아니라 고등학생과 중학생도 피해 대상이 되고 있다고 BBC는 전했다. 경찰은 현재 주요 대학 두 곳에서 딥페이크 음란물 조직을 수사 중이며, 이러한 사태의 심각성을 인식한 대한민국 정부는 관련 범죄에 대해 강력한 처벌을 예고했다. 텔레그램은 성명서를 통해 불법 음란물에 대응하고 있다고 밝혔지만, 여성 인권 단체들은 한국 당국이 이 문제를 오랫동안 방치했다고 비판하고 있다. 피해자들은 SNS에서 자신의 사진을 삭제하거나 계정을 비활성화하며 불안을 호소하고 있다. 사건이 드러난 이후 많은 대화방이 폐쇄되었으나, 새로운 대화방이 계속해서 생겨나는 상황이다. 이번 사건으로 인해 수많은 여성과 청소년들이 일상적인 온라인 활동마저 위협받고 있으며, 딥페이크 성범죄에 대한 사회적 경각심이 더욱 커지고 있다.
이준석, '텔레그램은 손도 못대면서 국민 메신저만 검열 강화'
2024년 8월29일. 이준석 국민의힘 의원은 자신의 페이스북을 통해 2020년 통과된 소위 'N번방 방지법'이 실효성이 부족하다고 비판했다. 이 의원은 당시 범죄 행위자는 처벌받았지만, 범죄의 매개체였던 텔레그램에 대해서는 아무런 제약이 가해지지 않았다고 지적했다. 그는 현재 논의되고 있는 딥페이크 봇방 문제와 관련해서도 텔레그램의 수사 비협조 정책이 바뀔 가능성은 없다고 주장했다. 또한 정부와 정치권이 텔레그램을 차단하더라도 대체재가 생길 것이라며, 이러한 조치가 무의미하다고 덧붙였다. 이 의원은 범죄의 온상인 텔레그램에 대해서는 아무런 조치를 취하지 않으면서 국민 메신저(카카오톡, 커뮤니티 사이트)에 대한 검열 강화가 이뤄지지 않기를 바라며, 과방위 회의에서 정부 기관에 차분한 대응을 주문했다고 밝혔다.
"대통령과 여당 원내대표가 텔레그램으로 시시껄렁한 체리따봉 험담이나 주고받는 나라인데 텔레그램 쓰는 사람들을 모두 잠재적 범죄자로 모는 것 조차도 말이 안되고요. 이번에도 뭔가 규제를 통해 국민에 대한 국산 메신저 검열만 강화되는 결과로 귀결되지 않았으면 좋겠습니다."
|
2024년 2월24일 [사설] 딥페이크, 규제보다 딥트루스로 가야 산업 성장
선한 사례를 계속 발굴하고 칭찬하고 지지해야
|
|
딥페이크 기술로 가짜 뉴스를 생산한 콘텐츠 화면 갈무리.
최근 윤석열 대통령과 관련된 딥페이크 영상이 올라 화제가 됐다. 일단 딥페이크로 가짜 영상을 만들어내는 것은 비윤리적이라고 할 수 있다.
딥페이크(deepfake)는 딥 러닝(deep learning)과 가짜(fake)의 혼성어로 인공 지능을 기반으로 한, 인간 이미지 합성 기술이다. 이는 생성적 적대 신경망(GAN)이라는 기계 학습 기술을 사용하여, 기존의 사진이나 영상을 원본이 되는 사진이나 영상에 겹쳐서 만들어내는 기술이다. 기술 자체는 갠(GAN)이라고 표현하는 게 맞다. 갠(GAN) 기술을 속이는 목적으로 사용할 때 ‘딥페이크’라는 말을 보통 사용한다.
많은 사람이 이를 막을 방법만 생각하고 있다. 이는 암호화폐의 부정적인 면 때문에 이 기술과 산업을 완전히 죽이는 규제만 생각하는 것과 비슷하다. 한국은 암호화폐 산업에서 이미 크게 뒤처지게 됐다. 딥페이크를 무조건 막기만 하려고 들면 인공지능 기술에서도 역시 같은 경험을 하게 될 것이다.
규제는 물론 필요하다. 미국, 유럽 등에서도 규제안이 계속 나오고 있고 미국의 주요 인공지능 회사들은 유명인들을 이용하는 승인되지 않은 딥페이크를 막으려고 부단히 노력 중이다.
그런데 규제만 하려고 들면 해당 분야에서는 하위권으로 밀려나게 된다. 만약 대한민국이 인터넷의 좋지 않은 면 때문에 인터넷 분야에 투자하지 않고 규제와 권장을 동시에 유지하지 않았다면 지금처럼 인터넷 강국이 되지 않았을 것이다. 다행히 김대중 정권이 인터넷이 한참 유행할 당시 존재했었기에 인터넷 강국이 될 수 있었다.
만약 윤석열 대통령 관련 딥페이크 영상 때문에 계속 규제로만 간다면 이 산업은 힘을 잃게 되고 결국 미국에 지배될 가능성이 크다. 이미 미국에 지배되고 있는데 더욱더 그렇게 될 전망이다.
그럼 무엇이 필요한가.
규제를 적절히 하면서도 갠(GAN) 기술을 선하게 사용하는 사례를 장려하고 칭찬하고 지원하는 게 필요하다. 갠 기술은 얼마든지 선하게 사용할 수 있다. 남을 속이는 일만 강하게 보도될 뿐이지 선하게 사용되는 경우는 언론이 관심이 없다.
예를 들어, 아래 축구 스타 데이비드 베컴 영상을 보면 이는 갠 기술을 활용한 것이고 베컴이 녹화하고 승인한 영상이다. 말라리아 퇴치 운동 관련 메시지인데 영어로 말한 후에 갠 기술을 활용해 9개 국어로 전 세계에 전달된 것이다.
돈은 선하게 사용되기도 하고 악하게 사용되기도 한다. 마약 범죄단이 가장 애용하는 것은 달러화 현금이라고 한다. 악하게 사용되기에 달러화를 다 없앨 수는 없는 것이다. 돈을 선하게 사용하는 것을 알리는 것밖에는 방법이 없다. 달러화를 없앨 수 없듯이 현재 상황에서 인공지능 기술을 없애는 것은 불가능한 일이다.
선한 케이스를 계속 발굴하는 게 필요하다. 딥 페이크가 아닌 딥 트루스(Deep Truth)로 가기를 바란다.
|
[들어가는 글]
딥페이크(Deepfake) 기술은 딥러닝(Deep Learning)과 가짜(Fake)의 합성어로, 인공지능을 활용해 실제처럼 보이는 영상이나 음성을 만드는 기술을 의미한다. 2017년, 'deepfakes'라는 닉네임을 사용하던 레딧(Reddit) 사용자가 처음 도입한 이 기술은 기존에는 단순히 한 사람의 얼굴을 다른 사람의 얼굴로 바꿔치기 하는 방식에 불과했다. 그러나 현재 딥페이크는 실존 인물의 사진이나 음성을 사용해 가짜 비디오, 사진 또는 오디오를 생성하는 데 사용되는 모든 인공지능 기반의 자료를 포괄하는 의미로 확장되었다.
딥페이크의 기본 기술은 주로 GAN(Generative Adversarial Network) 알고리즘을 이용해 이미지 학습을 진행하며, 이를 위해 고성능의 그래픽 처리 장치(GPU)가 필요하다. 합성된 결과는 사람의 얼굴만을 교체하는 것이 아니라, 피부 톤을 맞추고 얼굴 표정까지 일치시키는 방식으로 점점 더 정교해지고 있다. 이로 인해 현재 딥페이크는 비교적 자연스럽고 사실적인 영상을 생성할 수 있으며, 원본이 3D CG로 제작된 경우에는 더욱 자연스러운 결과를 얻을 수 있다.
딥페이크 기술의 발전은 다양한 분야에서 긍정적인 활용 가능성을 제공하지만, 동시에 심각한 악용과 사회적 문제를 야기하고 있다. 특히 딥페이크를 이용한 가짜 뉴스, 사기 및 보이스피싱, 그리고 성범죄와 같은 부정적인 사례가 증가하고 있다. 예를 들어, 딥페이크를 통해 정치인이나 유명인의 발언을 조작하여 가짜 뉴스를 생산함으로써 정치적 공세를 가하는 사례가 있다.
이는 단순한 오락이나 정보 전달을 넘어서, 정치적 혼란을 일으키고 공공 신뢰를 무너뜨릴 수 있다. 또한, 딥페이크를 이용한 보이스피싱이나 화상회의 사기는 사람들을 현혹시켜 금전적 손실을 입히는 등 실질적인 피해를 초래하고 있다. 2019년 영국의 한 에너지 회사가 딥페이크로 생성된 CEO의 목소리에 속아 24만 3천 달러를 송금한 사례는 이러한 기술의 위험성을 단적으로 보여준다.
딥페이크의 악용 중 특히 심각한 문제는 성범죄이다. 딥페이크 기술을 이용해 특정 인물의 얼굴을 포르노 영상에 합성하는 방식으로 개인의 명예를 훼손하거나 사생활을 침해하는 사건이 빈번하게 발생하고 있다. 이러한 문제를 해결하기 위해서는 법적 규제와 기술적 방어 체계의 강화가 필수적이다.
딥페이크 기술의 발전은 무한한 가능성을 제공하지만, 그에 따른 사회적 책임 또한 막대하다. 딥페이크의 긍정적인 활용을 극대화하기 위해서는 기술 개발자와 사회가 함께 노력하여 악용을 방지하고, 신뢰할 수 있는 기술 사용 환경을 조성해야 한다. 이는 개인의 사생활 보호뿐만 아니라 공공 안전과 사회적 신뢰 회복을 위해서도 중요한 과제이다.
결론적으로, 딥페이크 기술은 현대 사회에 큰 변화를 불러일으킬 수 있는 잠재력을 가지고 있지만, 그 부작용을 최소화하고 책임 있는 사용을 보장하기 위한 노력이 지속적으로 이루어져야 한다. 기술의 발전이 인간의 이익을 위해 활용될 수 있도록, 관련 법규와 윤리적 기준의 마련이 시급하다.
즐겨찾기 추가
