안녕하세요. 저는 기술과 페미니즘을 엮는 테크-페미 활동가 갱입니다. 이번 ICT 뉴스레터를 통해 최근 뜨겁게 불거지고 있는 딥페이크 성범죄에 대해 알기 쉽게 설명하고, 또 당장 할 수 있는 행동 하나를 소개하려 합니다. 최근에 이슈가 되고 있기는 하지만, 딥페이크 성범죄에 대한 우려는 수년 전부터 제기되어 왔습니다. 여기에는 프로필 사진 등을 손쉽게 캡처할 수 있도록 방치한 플랫폼의 책임도 당연히 있고요. 딥페이크 성범죄에 대해 논의하고 싶은 내용은 정말이지 많지만, 이번 레터에서는 딥페이크 성범죄가 생소한 분들을 위해 텔레그과 딥페이크 성범죄에 한정하여 말씀드리려 합니다.

딥페이크 성범죄란

• 딥페이크(DeepFake)라는 용어는 AI 기술의 한 종류인 딥러닝(Deep Learning)과 페이크(Fake)의 합성어입니다. 현재 일어나고 있는 딥페이크 성범죄는 주로 여성의 얼굴을 음란물 영상이나 나체 사진에 합성하여 이를 공유하는 형태로 이루어지고 있습니다.
• 우리나라에서는 올해 5월 서울대 딥페이크 사건, 얼마 전 보도된 인하대 딥페이크 사건, 부산 중학생 딥페이크 사건 등이 가시화된 바 있습니다. 이 사건의 가해자들은 같은 학교에 재학 중인 여학생들의 얼굴을 음란물 영상에 합성하여 자신들만의 텔레그램 채팅방에 업로드하고, 심지어 피해자의 신상 정보마저 공유하여 피해자에게 직접 연락을 취해 협박, 모욕적 언행 등을 일삼았습니다.
• 서울대 딥페이크 사건의 경우, 가해자는 피해자 60여 명에 대한 허위 영상물을 400여 개 제작하고 그 외에도 불법 성 착취 영상을 1700여 개 이상 유포하는 등의 범죄를 저질러 8월 28일 징역 5년을 선고 받았습니다.
• 인하대 딥페이크 사건의 경우, 서울대 딥페이크 사건과 달리 그 채팅방 규모가 매우 컸습니다. MBC 보도에 따르면 딥페이크 불법 성범죄 영상을 공유 받는 단체 텔레그램 방의 참여자는 1,200여 명 이상이었다고 합니다. 피해자의 규모는 아직 추산 중입니다.

텔레그램과 딥페이크 영상

• 텔레그램은 현재 딥페이크 성범죄 수사에 있어 가장 핵심적인 메신저 중 하나입니다. 텔레그램 메신저의 익명성에 기대어 가해자들이 텔레그램 방에서 딥페이크 불법 성범죄 영상을 공유했기 때문입니다.
• 그러나 그 외에도 텔레그램 봇을 이용해 딥페이크 불법 성범죄물을 자동으로 제작하는 텔레그램 봇도 존재합니다. 이 봇에 여성의 얼굴을 사진을 올리면 나체와 합성하여 준다고 합니다. 이 텔레그렘 봇을 구독하고 있는 사람은 약 23만 명입니다.

뉴스레터 수신자들을 향한 제언

불법적인 텔레그램 봇이 발견되었지만, 텔레그램은 이에 대해 제대로 된 조치를 하지 않고 있습니다. 텔레그램은 웹사이트에 불법적인 봇에 대해 신고를 받는다고 내부 규정을 공개하고 있습니다. 이와 관련하여, 아래와 같이 함께 텔레그램 봇 차단을 위한 이메일 발송에 동참해 주실 것을 부탁 드립니다.

단, 이메일 본문에 불법적인 텔레그램 봇의 url이 포함되어 있으므로 아래 메일 가이드라인을 SNS 등에 공유하지는 말아주시기를 당부 드립니다.

메일에 대한 가이드라인은 아래 노션 링크를 참고해 주세요.

텔레그렘에 딥페이크봇 중단 촉구하기(클릭!)

Green Geek을 구독하시면 지금 보시는 것과 같은 ICT 소식과 정보를 받아보실 수 있습니다.