정보/소식 [단독] 10대 범죄자 낳는 딥페이크 • 불법합성물 제작 텔레방에만 22만명…"유포 피해 어마어마할 것” 외

1. [단독] 10대 범죄자 낳는 딥페이크

| 허위 영상물

| 작년 피의자

| 4명 중 3명은

| 10대 청소년

| 장난 넘어

| 학폭 악용도

| “윤리교육 강화”

https://naver.me/5pwEa9PU

최근 인하대에서 여학생 사진을 음란물과 합성해 유포한 ‘딥페이크 성착취물’ 사건이 발생한 가운데 딥페이크 기술을 이용한 10대 범죄가 급증한 것으로 나타났다. 청소년들이 심각한 사회적 범죄를 대수롭지 않게 생각하면 안 된다는 점에서 관련 교육이 시급하다는 지적이 나온다.

국회 행정안전위원회 소속 조은희 국민의힘 의원실이 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 증가세다. 2020년 6월 성폭력 범죄의 처벌 등에 관한 특례법 개정안이 시행됐고 불법 합성물 제작·유포에 대한 처벌 근거가 마련됐다.

허위 영상물 범죄 피의자를 연령별로 살펴보면 10대에 집중돼 있다. 지난해 기준 허위 영상물 범죄 피의자 120명 가운데 10대는 91명(75.8%)으로 4명 중 3명꼴이었다. 이어 20대는 24명(20.0%), 30대 4명(3.3%), 60대 1명(0.8%) 순이었다. 전체 피의자 중 10대가 차지하는 비중도 2021년 65.3%, 2022년 61.0%에서 지난해 75.8%로 크게 늘었다.

딥페이크 기술은 신종 학교폭력 등으로도 악용되고 있다. 부산시교육청과 경찰 등에 따르면 부산의 한 중학교 학생 4명은 같은 학교 학생 등 18명, 교사 2명의 얼굴을 인공지능(AI)을 활용해 음란물과 합성한 사진 80여장을 만들어 공유했다. 이에 관할 교육지원청은 최근 이 학생들에 대한 학교폭력심의위원회(학폭위)를 열었다.

청소년들은 소셜미디어(SNS)와 애플리케이션(앱) 등을 통해 딥페이크 기술을 쉽게 익힐 수 있으며 제작 의뢰도 어렵지 않다.

더 심각한 문제는 이를 자주 접하면서 딥페이크 음란물이 피해자에게 큰 타격을 입히는 범죄라는 인식이 옅어질 수 있다는 점이다. 조 의원은 “관련 범죄가 더 기승을 부릴 수 있는 만큼 제도적 보완책이 시급하다”고 했다.

전문가들은 10대들이 경각심을 갖도록 예방 교육을 강화해야 한다고 주문했다. 이수정 경기대 범죄심리학과 교수는 “연령이 어릴수록 ‘장난’이라고만 생각할 수 있다”며 “(딥페이크 음란물로) 처벌받는 중고등학생 시기보다 더 어릴 때부터 교육을 강화해야 한다”고 말했다. 그는 “딥페이크 기술은 코딩 수업 등을 통해서도 배울 수 있으므로 이 과정에서 윤리적·법적인 부분도 함께 다뤄야 한다”고 강조했다.

장진복 기자

2. [단독] 불법합성물 제작 텔레방에만 22만명…“유포 피해 어마어마할 것”

| 유료화한 수익성 채널까지 성행

https://naver.me/5eUTtb1k

텔레그램을 기반으로 한 불법합성물(딥페이크) 성범죄가 잇달아 벌어지는 가운데, 참여 인원만 22만여명에 이르는 불법합성물 제작 텔레그램 채널까지 성행하고 있는 것으로 확인됐다. 간단한 검색으로 접근이 가능한데다 불법합성물 제작을 유료화한 ‘수익 구조’까지 갖춘 형태라 범죄라는 인식조차 없이 번지고 있는 불법합성물 실태를 보여주는 단면이라는 분석이 나온다.

한겨레가 21일 엑스(X, 옛 트위터)에 올라온 주소를 통해 접근한 한 텔레그램방은, 여성의 사진을 넣으면 이를 합성해 나체 사진으로 만드는 불법합성물 제작 프로그램(봇)을 탑재하고 있었다. 방에 입장하니 대화창에 곧장 “지금 바로 좋아하는 여자의 사진을 보내라”는 내용의 문구가 떴다. 인공지능(AI)이 만든 가상의 여성 사진을 넣었더니 약 5초 뒤 불법합성물이 생성됐다. 제작 과정엔 특정 신체 부위 모습을 조정하는 기능까지 있었다. 이 텔레그램방 이용자 수는 21일 기준 22만7천여명에 이른다.

텔레그램방 접근은 손쉽게 이뤄진다. 엑스 등 사회관계망서비스에 특정 단어를 검색하면 나오는 연결 주소를 누르는 식인데, 엑스에선 이 방 주소를 담은 내용이 ‘인기 글’로 버젓이 공유되고 있다. 최근 불법합성물 성범죄가 알려지고 경찰 수사가 진행되고 있는데도 홍보글은 잇따라 올라오고 있다.

이 텔레그램방은 두번째 사진까지는 무료로 불법합성물을 제작하다가 이후 유료로 전환되는 수익 구조까지 지니고 있었다. 사진 하나당 1다이아(0.49달러, 약 650원)를 받는데, 10다이아 단위로 구매가 가능했다. 구매량이 늘어나면 할인을 해주고, 돈을 내는 대신 친구를 초대해 제작을 이어갈 수 있게 했다. 이용자 저변을 넓히는 수법인 셈이다. 익명성을 고려한 듯 결제는 가상화폐 ‘크립토’로만 하도록 돼 있다.

이 방에는 참여자들이 대화를 나누거나 사진을 유포하는 기능은 없다. 다만 수십만명에 이르는 참여자가 제작한 불법합성물이 어떻게 악용될지 알 수 없다는 게 문제다. 서혜진 한국여성변호사회 인권이사(더라이트하우스 법률사무소)는 “이런 텔레그램방에서 만들어진 딥페이크 성착취물이 단체대화방 등으로 공유돼 집단 성범죄가 시작되는 것”이라며 “제작 단계 텔레그램방에 22만명 넘게 참여하고 있다면 유포로 인한 피해는 어마어마할 것으로 보인다”고 말했다.

엄청난 참여자 규모에 수익 모델까지 갖춘 텔레그램 방의 존재 자체는 심각한 피해를 안기는 불법합성물 제작을 가볍게 여기는 실태를 반영한 것이기도 하다. 김혜정 한국성폭력상담소장은 “수익구조화돼 있다는 건 그만큼 수요가 많다는 의미”라며 “여성에 대한 성적 모욕이 온라인상에서 하나의 ‘콘텐츠’가 돼버렸는데도, 이를 경미한 사안이라고 보는 사회 인식이 성범죄를 키우는 주요 원인”이라고 짚었다.

박고은 기자 [e-mail]

3. [단독] 지역별·대학별 ‘겹지인’ 범죄 표적으로…딥페이크 성범죄 만연했다

| 대학 불법 텔레방 전국 70여곳

| 여성 사진 공유뒤 불법합성

| 미성년 채널에도 2천명 참여

https://naver.me/FioEUDHp

‘○○고 07년생 ○○○ 아시는 분? 갠텔(개인 텔레그램 메시지) 주세요’

최근 일부 대학 단위로 불법합성물(딥페이크) 성범죄 사건이 잇따라 드러난 가운데, 지역·학교로 세분화해 ‘지인’인 피해자를 특정하고 불법합성물을 제작·유포하는 범죄가 이미 온라인상에서 광범위하게 벌어지고 있는 것으로 확인됐다. 전국 주요 대학 학생들, 심지어 중·고등학생 등 미성년자까지 범죄의 표적이 됐다.

한겨레가 21일 사회관계망서비스(SNS) 등을 통해 검색해 본 결과, 지역·학교별로 불법합성 성범죄물을 공유하는 텔레그램 방이 이미 다수 존재하고 있으며 피해의 범위가 확대되고 세분화되고 있는 것으로 확인됐다. 이들은 우선 ①‘겹지인방’이라고 불리는 텔레그램 채널을 통해 지역이나 대학교로 중심으로 모이고 ②특정 여성을 동시에 아는지 확인하고, 함께 아는 여성이 있으면 ③그가 소셜미디어에 올린 평범한 사진을 공유한 뒤 이를 악용해 불법합성물을 제작하는 것으로 드러났다.

실제로 1300여명이 참여하고 있는 한 텔레그램 채널에는 전국 70여개 대학별로 분류된 개별 대화방이 형성돼 있었다. 참가자들은 지인의 신상(학과·학번·이름)을 올려 서로 아는 사람을 찾고 별도 대화방으로 이동해 불법합성물을 제작·공유했다. 나아가 특정 개인의 불법합성물이 다량으로 제작되면 ‘김아무개 능욕방’ 같은 이름으로 개인별 대화방이 생성되기도 했다.

유포는 끔찍하고 체계적이었다. 제작된 성범죄물은 반복적으로 대화방에 유포되며, 이모티콘으로까지 제작돼 ‘재미로’ 쓰였다. 그 뒤 다른 텔레그램 방으로 유포가 이어졌다. 3700여명이 참여한 이른바 ‘링크 공유방’에는 특정 개인의 불법합성물만 올리는 개인방 링크, 특정 여자 대학의 불법합성물을 올리는 채널 링크 등이 공유됐다. 지인 1명의 사진 10장을 보내고 면접을 봐야 들어갈 수 있는 방도 있었다.

심지어 중고교생을 대상으로 하는 불법합성 텔레그램 채널에도 2340여명이 참여하고 있었다. 이 채널에선 단순 소지와 시청만 하더라도 1년 이상의 징역에 처할 수 있는 ‘미성년자 불법합성물’이 지속해서 제작·유포됐다.

불법합성물 성범죄가 표적을 무차별적으로 넓히고 지역·학교별로 세분화되기까지 하면서, 여성들의 공포감도 커지고 있다. 평소 에스엔에스를 즐겨 이용하는 ㄱ(24)씨는 “계정을 비공개로 돌려도 내 주변 사람들이 언제든 내 사진으로 범죄를 저지를 수 있다는 생각에 소름이 끼친다”고 말했다. 대학생 김아무개(24)씨도 “사진이 어디서, 얼마나 공유되고 있는지 몰라 더 막막하다”고 했다.

외국에 서버를 둔 텔레그램에서 유포되는 불법합성물은 방송통신심의위원회를 포함한 국내 기관이 삭제를 요청할 권한이 없다. 수사에 착수해도 압수수색 영장의 강제력이 적용되지 않아 피의자 특정부터 난항을 겪는다. 민고은 변호사(법률사무소 진서)는 “텔레그램에서 제작된 딥페이크물이 다른 사이트로 재생산되거나 유포될 수 있기에 전기통신사업법 등을 개정해 한국 지사를 둔 해외 사이트들이라도 의무적으로 수사에 협조할 수 있도록 해야 한다”고 말했다.

수사기관의 미온적인 태도와 법정형에 못 미치는 양형을 지적하는 목소리도 있다. 허민숙 국회입법조사처 입법조사관은 “수사 과정에서 딥페이크 피해자들은 ‘텔레그램은 가해자 특정이 어렵다’는 이야기를 가장 많이 듣지만, ‘추적단 불꽃’의 시민활동가도 결국 가해자를 특정했다. 다른 방식으로 추적 가능한데도 미온적인 태도를 보이는 건 문제”라고 했다. 허 조사관은 “반포 등을 할 목적으로 딥페이크물을 제작한 자는 5년 이하 징역 또는 5천만원 이하 벌금에 처할 수 있지만 실제로는 집행유예, 기소유예 등 처분을 받는 게 대다수”라며 “반포뿐 아니라 단순 소지, 시청한 자도 처벌할 수 있게 법을 개정하고 법원에서도 범죄의 심각성을 인지해야 한다”고 말했다.

고나린 기자 [e-mail]

[익인1]

성범죄자는 그냥 거세를 하는게

[익인2]

싹수가 노랗네