Generated on DALL·E.
미국 주요 IT 대기업 '성적 딥페이크' 억제 약속
2024년 9월13일. 주요 인공지능(AI) 기업들이 유해한 성적 딥페이크 이미지를 억제하기 위해 AI 훈련 데이터셋에서 누드 이미지를 제거하겠다고 13일(한국기준) 발표했다. 이 자발적 약속은 바이든 행정부의 중재로 이루어졌으며, 어도비, 앤스로픽, 마이크로소프트, 오픈AI 등이 참여했다. 이러한 조치는 여성, 아동 관련 커뮤니티를 대상으로 급증하는 이미지 기반 성적 학대를 방지하기 위한 광범위한 캠페인의 일환이다. 또한 커먼 크롤은 책임감 있는 데이터셋 사용을 약속했고 범블, 디스코드, 메타 등은 성적 학대를 방지하기 위한 원칙을 발표했다.
박은정 의원. 사진 - 뉴저널리스트 투데이
조국혁신당 박은정 의원, '딥페이크 차단 6법' 발의
2024년 9월7일. 조국혁신당의 박은정 의원은 9일 국회 소통관에서 기자회견을 열고 디지털 성범죄 대응을 위한 '딥페이크 차단 6법(서지현법)'을 발의한다고 발표했다. 이 법안은 허위영상물(딥페이크) 성범죄의 형량 강화 및 피해자 보호를 골자로 하며, 이를 통해 급증하는 디지털 성범죄에 대한 강력한 대응을 요구했다.
박 의원은 2년 전 서지현 검사가 법무부 디지털 성범죄 대응 TF 팀장으로 활동하다가 갑작스럽게 해산 명령을 받고 자리에서 물러났던 상황을 상기하며, 그 이후 디지털 성범죄 문제가 심각하게 악화되고 있다고 지적했다. 특히, 최근 몇 년 동안 딥페이크 범죄가 급증하며 피해자들이 10대부터 60대까지 광범위하게 분포되어 있다는 점에서 문제의 심각성을 강조했다.
또한 박 의원은 윤석열 정부가 여성가족부 장관을 6개월 이상 임명하지 않음으로써, 디지털 성범죄 대응 컨트롤 타워 부재 상황이 지속되고 있다고 비판했다. 디지털 성범죄 피해자 지원센터는 피해자들의 요청에도 불구하고 효과적인 조치를 취하지 못하고 있으며, 이는 정부가 디지털 성범죄 문제에 소극적으로 대응하고 있다는 것을 보여준다고 말했다.
이번 '딥페이크 차단 6법'에는 성폭력범죄 처벌법 개정안을 포함해 여러 법안들이 포함됐다. 특히 딥페이크 등의 반포죄 형량을 5년 이하에서 7년 이하로 강화하고, 수사 및 재판 과정에서 피해자 보호 장치들을 신설하는 등의 내용이 담겼다. 박 의원은 이 법안이 디지털 성범죄 근절을 위한 중요한 첫걸음이 될 것이라고 강조했다.
박 의원은 "디지털 성범죄는 단순한 젠더 문제가 아닌 폭력 문제"라며, "정부는 가해자에 대한 정의로운 처벌만이 피해자 치유의 첫걸음이라는 사실을 명심해야 한다"고 덧붙였다.
딥페이크 성착취물 피해자의 53%가 한국인
2024년 9월7일. 미국의 한 보안업체는 전 세계에 유포된 딥페이크 성착취물 피해자의 53%가 한국인이라는 보고서를 내놨다. 피해자 대부분이 여성 연예인이었는데, 가장 많은 표적이 된 개인 10명 중 8명이 한국인 가수였다. 최근 국내에서 딥페이크 성 착취물이 지역과 나이를 가리지 않고 텔레그램을 통해 확산한 것으로 드러나자 외신들도 주목했다. 월스트리트저널은 이 사건을 보도하면서 "한국이 전 세계적 문제의 진앙임을 시사한다"고 지적했다. 안드레아 히커슨 미시시피대 뉴미디어 학장은 "(딥페이크물 제작 행위를 범죄화해 처벌하는 것은) 억지력을 발휘할 수 있지만, 법 체계는 엄청나게 느리다. 당신 얼굴이 포르노 딥페이크에 사용됐다면 적절한 시기에 해결하기가 매우 어려울 수 있다는 것이다"라고 말했다고 연합뉴스TV는 보도했다.
딥페이크 기술을 활용한 성착취물의 확산이 심각한 문제로 떠오르고 있으며, 이에 대한 대응책이 시급하다는 경고가 제기되고 있는 가운데 미국에서 시작된 딥페이크 성착취물 사태는 이제 한국으로 '쓰나미'처럼 밀려왔다고 연합뉴스TV는 전했다. 각국의 법적 대응은 아직도 부족한 상황으로, 기술 발전에 맞춰 빠르게 대처할 법률 시스템의 필요성이 강조된다. AI 중독 등 다른 AI 부작용 역시 점점 더 큰 사회적 문제로 부각되고 있어, AI 기술의 발전과 그에 따른 부작용을 사전에 방지할 안전망 구축이 중요하다는 목소리가 커지고 있다.
규제를 하는 것은 너무나 중요한 일이다. 그런데 인공지능 선용하기를 격려하는 언론은 극히 드물다. 선용하는 것은 독자들, 시청자들의 눈길을 끌기 쉽지 않기 때문이다. 딥페이크 기술은 갠(GAN)이라는 기술이 원천이다. 갠으로 인류문화에 기여하고 인공지능을 인간의 고된 노동을 덜어주는 데 사용하는 케이스를 언론은 더 찾아내 알려야 한다.
여성가족부 신영숙 차관이 의원의 질의시간에 경청하고 있다. 사진 - 뉴저널리스트 투데이
여야 의원들 "딥페이크 대책 관련 컨트롤 타워가 없다"
2024년 9월4일. 4일 국회에서 열린 딥페이크 성범죄 관련 국회 여성가족위원회 의 긴급 현안질의에서 여야 의원들은 공통적으로 “딥페이크에 대응할 컨트롤타워 가 없다”고 지적했다. 여성가족부는 딥페이크 성범죄 주무 부처이지만 장관 공백 사태가 6개월간 이어지고 있다. 이날 여성가족부에서는 신영숙 차관이 출석했다. 이 밖에 교육부, 과학기술정보통신부, 법무부, 국방부, 경찰청, 방송통신심의위원회 등에서 출석했다. 더불어민주당 이연희 의원은 “지난달 30일 범정부대책회의를 개최했을 때 국무조정실 국무1차장이 주재했는데, 1차장이 딥페이크 여성 성폭력 관련 전문가냐”며 “이런 회의를 여가부가 주재해야 된다”고 주장했다. 이에 신 차관은 “효과적인 정책이나 대응을 수립하기 위해서는 국조실에서 하는 것이 효율적이라고 생각했고 전에 N번방 사태 때도 국조실에서 회의를 진행했다"라고 답했다.
조은희 의원은 텔레그램 삭제요청 상황을 방송통신심의위원회(방심위)의 이동수 디지털성범죄심의국장에 물었는데 이 국장은 “이전에는 삭제가 됐는지 안됐는지 회신이 없었는데, 이번에는 삭제요청을 하면 삭제가 됐다는 회신을 주기로 메일이 왔다"고 답했다.
임미애 의원은 유럽의 경우 딥페이크 기술을 사용할 경우 표기를 의무화하는데 한국의 상황은 어떤지를 물었고 엄열 과학기술정보통신부 정책통신 정책관은 "아직은 법령이 없기에 각 업체들이 자율적으로 진행하고 있다. 법적으로 할 수 있는 것은 우리의 주요 과제이고 법에 꼭 넣어야겠다고 생각하고 있다"고 답했다.
장철민 더불어민주당 의원은 "경찰이 구글, 메타 등에는 1년에 1만건 정도의 수사 협조 요청을 해서 90% 이상 답변을 받았다고 한다"며 "그런데 텔레그램 에는 1년에 20건 정도만 수사 협조 요청을 했다. 협조가 안 되더라도 더 적극적으로 요청했어야 한다"고 지적했다. 또한, 경찰이 사건 접수와 처리 등에 대해 미숙하고 경찰의 2차 가해도 있었던 것 같다는 지적도 있었다. 경찰에서 대혼란에 빠져 있는 건 아닌지 걱정이 된다는 말도 나왔다. 이에 대해 김병찬 경찰청 국가수사본부 수사국장은 "현재 시도청 사이버수사대 중 일부를 성폭력 전담으로 운영하고 있다. 경찰서 단위에서는 피의자 조사만 하고 시도청으로 사건을 이첩한다."라고 답했다.
Generated on DALL·E.
BBC뉴스 "딥페이크 사회적 큰 문제'
2024년 9월3일. 최근 한국에서 딥페이크 음란물이 대학교와 중·고등학교를 중심으로 퍼지며 큰 사회적 문제로 떠올랐다고 BBC뉴스 코리아가 보도했다. BBC 뉴스 코리아는 대학생 희진(가명) 씨에 대해 소개하며 텔레그램을 통해 자신의 얼굴이 성적인 이미지에 합성된 딥페이크 사진을 받고 공포를 느꼈던 내용을 소개했다. 딥페이크 음란물은 주로 텔레그램을 통해 제작 및 유포되며, 대학생뿐만 아니라 고등학생과 중학생도 피해 대상이 되고 있다고 BBC는 전했다. 경찰은 현재 주요 대학 두 곳에서 딥페이크 음란물 조직을 수사 중이며, 이러한 사태의 심각성을 인식한 대한민국 정부는 관련 범죄에 대해 강력한 처벌을 예고했다. 텔레그램은 성명서를 통해 불법 음란물에 대응하고 있다고 밝혔지만, 여성 인권 단체들은 한국 당국이 이 문제를 오랫동안 방치했다고 비판하고 있다. 피해자들은 SNS에서 자신의 사진을 삭제하거나 계정을 비활성화하며 불안을 호소하고 있다. 사건이 드러난 이후 많은 대화방이 폐쇄되었으나, 새로운 대화방이 계속해서 생겨나는 상황이다. 이번 사건으로 인해 수많은 여성과 청소년들이 일상적인 온라인 활동마저 위협받고 있으며, 딥페이크 성범죄에 대한 사회적 경각심이 더욱 커지고 있다.
이준석, '텔레그램은 손도 못대면서 국민 메신저만 검열 강화'
2024년 8월29일. 이준석 국민의힘 의원은 자신의 페이스북을 통해 2020년 통과된 소위 'N번방 방지법'이 실효성이 부족하다고 비판했다. 이 의원은 당시 범죄 행위자는 처벌받았지만, 범죄의 매개체였던 텔레그램에 대해서는 아무런 제약이 가해지지 않았다고 지적했다. 그는 현재 논의되고 있는 딥페이크 봇방 문제와 관련해서도 텔레그램의 수사 비협조 정책이 바뀔 가능성은 없다고 주장했다. 또한 정부와 정치권이 텔레그램을 차단하더라도 대체재가 생길 것이라며, 이러한 조치가 무의미하다고 덧붙였다. 이 의원은 범죄의 온상인 텔레그램에 대해서는 아무런 조치를 취하지 않으면서 국민 메신저(카카오톡, 커뮤니티 사이트)에 대한 검열 강화가 이뤄지지 않기를 바라며, 과방위 회의에서 정부 기관에 차분한 대응을 주문했다고 밝혔다.
"대통령과 여당 원내대표가 텔레그램으로 시시껄렁한 체리따봉 험담이나 주고받는 나라인데 텔레그램 쓰는 사람들을 모두 잠재적 범죄자로 모는 것 조차도 말이 안되고요. 이번에도 뭔가 규제를 통해 국민에 대한 국산 메신저 검열만 강화되는 결과로 귀결되지 않았으면 좋겠습니다."
|
2024년 2월24일 [사설] 딥페이크, 규제보다 딥트루스로 가야 산업 성장
선한 사례를 계속 발굴하고 칭찬하고 지지해야
|
|
딥페이크 기술로 가짜 뉴스를 생산한 콘텐츠 화면 갈무리.
최근 윤석열 대통령과 관련된 딥페이크 영상이 올라 화제가 됐다. 일단 딥페이크로 가짜 영상을 만들어내는 것은 비윤리적이라고 할 수 있다.
딥페이크(deepfake)는 딥 러닝(deep learning)과 가짜(fake)의 혼성어로 인공 지능을 기반으로 한, 인간 이미지 합성 기술이다. 이는 생성적 적대 신경망(GAN)이라는 기계 학습 기술을 사용하여, 기존의 사진이나 영상을 원본이 되는 사진이나 영상에 겹쳐서 만들어내는 기술이다. 기술 자체는 갠(GAN)이라고 표현하는 게 맞다. 갠(GAN) 기술을 속이는 목적으로 사용할 때 ‘딥페이크’라는 말을 보통 사용한다.
많은 사람이 이를 막을 방법만 생각하고 있다. 이는 암호화폐의 부정적인 면 때문에 이 기술과 산업을 완전히 죽이는 규제만 생각하는 것과 비슷하다. 한국은 암호화폐 산업에서 이미 크게 뒤처지게 됐다. 딥페이크를 무조건 막기만 하려고 들면 인공지능 기술에서도 역시 같은 경험을 하게 될 것이다.
규제는 물론 필요하다. 미국, 유럽 등에서도 규제안이 계속 나오고 있고 미국의 주요 인공지능 회사들은 유명인들을 이용하는 승인되지 않은 딥페이크를 막으려고 부단히 노력 중이다.
그런데 규제만 하려고 들면 해당 분야에서는 하위권으로 밀려나게 된다. 만약 대한민국이 인터넷의 좋지 않은 면 때문에 인터넷 분야에 투자하지 않고 규제와 권장을 동시에 유지하지 않았다면 지금처럼 인터넷 강국이 되지 않았을 것이다. 다행히 김대중 정권이 인터넷이 한참 유행할 당시 존재했었기에 인터넷 강국이 될 수 있었다.
만약 윤석열 대통령 관련 딥페이크 영상 때문에 계속 규제로만 간다면 이 산업은 힘을 잃게 되고 결국 미국에 지배될 가능성이 크다. 이미 미국에 지배되고 있는데 더욱더 그렇게 될 전망이다.
그럼 무엇이 필요한가.
규제를 적절히 하면서도 갠(GAN) 기술을 선하게 사용하는 사례를 장려하고 칭찬하고 지원하는 게 필요하다. 갠 기술은 얼마든지 선하게 사용할 수 있다. 남을 속이는 일만 강하게 보도될 뿐이지 선하게 사용되는 경우는 언론이 관심이 없다.
예를 들어, 아래 축구 스타 데이비드 베컴 영상을 보면 이는 갠 기술을 활용한 것이고 베컴이 녹화하고 승인한 영상이다. 말라리아 퇴치 운동 관련 메시지인데 영어로 말한 후에 갠 기술을 활용해 9개 국어로 전 세계에 전달된 것이다.
돈은 선하게 사용되기도 하고 악하게 사용되기도 한다. 마약 범죄단이 가장 애용하는 것은 달러화 현금이라고 한다. 악하게 사용되기에 달러화를 다 없앨 수는 없는 것이다. 돈을 선하게 사용하는 것을 알리는 것밖에는 방법이 없다. 달러화를 없앨 수 없듯이 현재 상황에서 인공지능 기술을 없애는 것은 불가능한 일이다.
선한 케이스를 계속 발굴하는 게 필요하다. 딥 페이크가 아닌 딥 트루스(Deep Truth)로 가기를 바란다.
|
[들어가는 글]
딥페이크(Deepfake) 기술은 딥러닝(Deep Learning)과 가짜(Fake)의 합성어로, 인공지능을 활용해 실제처럼 보이는 영상이나 음성을 만드는 기술을 의미한다. 2017년, 'deepfakes'라는 닉네임을 사용하던 레딧(Reddit) 사용자가 처음 도입한 이 기술은 기존에는 단순히 한 사람의 얼굴을 다른 사람의 얼굴로 바꿔치기 하는 방식에 불과했다. 그러나 현재 딥페이크는 실존 인물의 사진이나 음성을 사용해 가짜 비디오, 사진 또는 오디오를 생성하는 데 사용되는 모든 인공지능 기반의 자료를 포괄하는 의미로 확장되었다.
딥페이크의 기본 기술은 주로 GAN(Generative Adversarial Network) 알고리즘을 이용해 이미지 학습을 진행하며, 이를 위해 고성능의 그래픽 처리 장치(GPU)가 필요하다. 합성된 결과는 사람의 얼굴만을 교체하는 것이 아니라, 피부 톤을 맞추고 얼굴 표정까지 일치시키는 방식으로 점점 더 정교해지고 있다. 이로 인해 현재 딥페이크는 비교적 자연스럽고 사실적인 영상을 생성할 수 있으며, 원본이 3D CG로 제작된 경우에는 더욱 자연스러운 결과를 얻을 수 있다.
딥페이크 기술의 발전은 다양한 분야에서 긍정적인 활용 가능성을 제공하지만, 동시에 심각한 악용과 사회적 문제를 야기하고 있다. 특히 딥페이크를 이용한 가짜 뉴스, 사기 및 보이스피싱, 그리고 성범죄와 같은 부정적인 사례가 증가하고 있다. 예를 들어, 딥페이크를 통해 정치인이나 유명인의 발언을 조작하여 가짜 뉴스를 생산함으로써 정치적 공세를 가하는 사례가 있다.
이는 단순한 오락이나 정보 전달을 넘어서, 정치적 혼란을 일으키고 공공 신뢰를 무너뜨릴 수 있다. 또한, 딥페이크를 이용한 보이스피싱이나 화상회의 사기는 사람들을 현혹시켜 금전적 손실을 입히는 등 실질적인 피해를 초래하고 있다. 2019년 영국의 한 에너지 회사가 딥페이크로 생성된 CEO의 목소리에 속아 24만 3천 달러를 송금한 사례는 이러한 기술의 위험성을 단적으로 보여준다.
딥페이크의 악용 중 특히 심각한 문제는 성범죄이다. 딥페이크 기술을 이용해 특정 인물의 얼굴을 포르노 영상에 합성하는 방식으로 개인의 명예를 훼손하거나 사생활을 침해하는 사건이 빈번하게 발생하고 있다. 이러한 문제를 해결하기 위해서는 법적 규제와 기술적 방어 체계의 강화가 필수적이다.
딥페이크 기술의 발전은 무한한 가능성을 제공하지만, 그에 따른 사회적 책임 또한 막대하다. 딥페이크의 긍정적인 활용을 극대화하기 위해서는 기술 개발자와 사회가 함께 노력하여 악용을 방지하고, 신뢰할 수 있는 기술 사용 환경을 조성해야 한다. 이는 개인의 사생활 보호뿐만 아니라 공공 안전과 사회적 신뢰 회복을 위해서도 중요한 과제이다.
결론적으로, 딥페이크 기술은 현대 사회에 큰 변화를 불러일으킬 수 있는 잠재력을 가지고 있지만, 그 부작용을 최소화하고 책임 있는 사용을 보장하기 위한 노력이 지속적으로 이루어져야 한다. 기술의 발전이 인간의 이익을 위해 활용될 수 있도록, 관련 법규와 윤리적 기준의 마련이 시급하다.
즐겨찾기 추가
