“오세훈 시장, 아동‧청소년 딥페이크 피해 방지에 팔 걷어붙인다”

“서울시, 검찰·경찰·교육청과 협력해 피해자 지원 강화… 학교 상담 및 신속 삭제 지원 체계 구축”


<딥페이크 긴급 공동대응 업무협약식 / 서울시제공>

딥페이크 성범죄가 심각한 사회문제로 떠오르고 특히 아동‧청소년을 대상으로 한 피해가 큰 가운데, 서울시가 서울중앙지검, 서울경찰청, 서울시교육청과 공조해 예방 교육부터 피해 영상물의 신속한 삭제와 차단, 그리고 피해자의 빠른 일상회복에 이르는 ‘원스톱 지원’에 나선다.

오세훈 시장은 10일(화) 서울시청에서 서울중앙지방검찰청(이창수 서울 중앙지방검찰청 검사장), 서울특별시경찰청(김봉식 서울경찰청장), 서울특별시 교육청(설세훈 서울시 교육감 권한대행)과 ｢아동‧청소년 딥페이크 공동대응을 위한 업무협약｣을 체결했다.

서울시는 최근 사회문제로 대두된 딥페이크 성범죄 대응을 위해 앞서 지난달 28일 방송통신심의위원회와 함께 지자체 최초로 ‘24시간 삭제지원시스템’ 가동에 들어갔다. 또한, 피해사실 노출을 두려워하는 피해자를 위한 익명 상담 창구도 긴급하게 신설하였으며, 개설 이후 서울 디지털성범죄 안심지원센터를 통해 278명의 피해 상담·접수가 이뤄질 정도로 도움이 필요한 피해자가 많은 상황이다.

여기에 더해 서울시는 이번 딥페이크 사태의 특징이 가해자와 피해자 상당수가 10대 아동‧청소년이라는 점에 주목, 교육기관(서울시교육청), 사법기관(서울중앙지방검찰청), 수사기관(서울경찰청) 간 긴밀한 협력으로 아동‧청소년에 대한 보호와 지원을 강화하고자 한다.

딥페이크 성범죄는 가해자와 피해자 모두 10대가 대다수를 차지하고 있다. 최근 경찰이 집중 검거한 8월 26일부터 30일 동안 딥페이크 성범죄 신고는 총 118건으로 검거된 7명 중 6명이 10대로 나타났다. 피해자 역시 딥페이크 성범죄 10대 피해자는 최근 3년간 총 315명으로 전체 피해자 중 59.8%를 차지했다.1)

그동안 각 기관별로 서비스와 지원이 이뤄졌다면 이날 업무협약을 통해 칸막이를 없앤 4자 공동협력체계를 구성해서 통합지원에 나서게 된다.

주요 내용은 ①‘스쿨핫라인(School Hotline)’ 구축을 통한 학교 내 딥페이크 성범죄 신속 대응 및 학교로 찾아가는 상담‧지원 ②딥페이크 피해 최소화를 위한 시-검찰-경찰 피해정보 신속 연계 ③딥페이크 등 아동‧청소년 디지털성범죄 예방 및 재발방지 교육 등이다.

첫째, 학교 내에서 범죄‧피해사실이 확인될 경우 학교에서 서울시로 신속하게 연계할 수 있는 ‘스쿨핫라인(School Hotline)’을 가동한다.

기존에는 피해자인 학생 당사자가 피해 상황을 감당하고 대응해야 했다면, 이제는 교사나 학교 전담경찰관(SPO)을 통해 서울 디지털성범죄 안심지원센터에 의뢰하면 피해 사진‧영상물을 신속하게 삭제 지원한다.

서울청에서는 학교전담경찰관(SPO)의 사전 교육을 통해 신속하게 학교 내 범죄정보를 수집하고 피해자 발견 시, 서울 디지털성범죄 안심지원센터(운영: 서울여성가족재단)로 연계한다.

또한, 피해학생이 직접 상담소 등으로 찾아가는데 부담을 느끼는 경우 피해 학생의 요청에 따라 서울 디지털성범죄 안심지원센터 피해지원관이 학교 또는 제 3의 장소로 찾아가 영상물 삭제지원 등 필요한 도움을 주는 ‘학교로 찾아가는 원스톱 통합지원’도 운영한다.

서울 디지털성범죄 안심지원센터의 피해지원관이 1:1로 피해 아동·청소년에게 필요한 심리상담, 법률, 의료 서비스를 제공하며, 전문적인 심리치료가 필요할 경우 부모와 함께 10회기의 전문 상담을 지원한다.

둘째, 검‧경찰 사건의 경우 딥페이크 피해를 최소화하기 위해 ‘시-검·경찰간 전달체계를 마련, 피해정보를 신속하고 안전하게 전달해 즉시 삭제에 나선다.

기존에는 검·경찰이 확보한 피해 영상물을 서울 디지털성범죄 안심지원센터의 피해지원관이 직접 가서 받아오는 방식이었다면, 이번 업무협약을 계기로 ’25년부터는 시스템을 통해 안전하고 신속하게 양측 기관에서 영상물을 전달할 수 있게 된다. 이를 통해 수사 과정상 발견한 대량의 피해 영상물을 더욱 신속하고 안전하게 삭제 지원할 수 있을 것으로 기대된다.

셋째, 청소년 가해자의 96%가 딥페이크 성범죄의 심각성을 인지하지 못하고 ‘놀이’나 ‘장난’으로 여기고 있는 인식이 딥페이크 성범죄 확산을 키운 요인의 하나로 보고 이런 인식을 개선하기 위한 예방 교육에도 나선다.

서울시와 서울시교육청, 서울경찰청이 공동으로 초·중·고등학교 딥페이크 집중 교육자료를 제작하고, 학생과 학부모를 대상으로 교육을 실시 할 계획이다. 교육수료자를 대상으로 ‘내 친구 지킴이’ 5,000명을 양성해 또래 집단의 딥페이크에 대한 경각심을 키우도록 할 예정이다.

또한, 딥페이크 예방교육과 함께 서울 시내 1천3백여 개의 학교, 시립청소년시설들과 협력해 '스톱! 딥페이크(STOP! DEEPFAKE)' 캠페인을 추진해 어릴 때부터 딥페이크의 위험성을 알리는 사회 분위기를 조성하고자 한다.

아울러, 서울중앙지검, 서울경찰청은 딥페이크 수사를 강화하고, 아동·청소년 수사 시 서울시 상담원이 동행해 피해자 보호 및 지원을 도모한다.

아동·청소년 딥페이크 가해자의 경우 서울검찰청 연계를 통해 서울시에서 딥페이크 가해자 재발방지 상담(1인 14회기)를 무료로 진행해 딥페이크 재발을 방지하고자 한다.

□ 딥페이크 피해자 2년새 2,940% 증가…가해자(31%)‧피해자(37%) 모두 10대 가장 많아

한편, 서울 디지털 성범죄 안심지원센터에 접수된 딥페이크 피해자의 경우 22년도 10명, 23년도 17명이었던 피해자가 24년도에 304명으로 2년 새 2,940% 증가했다.

총 331명의 피해자 중 10대는 121명(36.6%)으로 가장 많았으며, 20대는 108명(32.6%)으로 10~20대가 전체 피해자의 69.2%(229명)을 차지했다.

가해자 역시 10대가 27명(31.4%)으로 가장 많았으며, 20대는 6명(7%)를 차지해, 청소년의 딥페이크 범죄 행위가 심각함을 알 수 있다.

파악된 가해자와 피해자의 관계는 친구 31명(34.4%), 모르는 사람 24명(27.0%), 채팅상대와 애인 관계가 각 3명(3.3%)순으로 나타났으며 관계를 알 수 없는 경우가 22명(27.0%)이었다.

센터에 연계된 피해자는 주로 경찰, 검찰 등 수사기관을 통해 연계되었으며(269명, 81.0%), 본인이 직접 센터로 요청한 경우는 32명(9.6%)이며, 10대 피해자의 비율이 높아 부모를 통한 지원요청도 18명(5.4%)인 것으로 나타났다.

서울시는 딥페이크 문제의 심각성을 인식하고 지자체 최초로, 방송통신심의위원회와 핫라인을 구축하여 24간 삭제지원 시스템을 가동하고 있다.

또한 쉽고 빠르게 익명으로 상담받을 수 있는 딥페이크 전용 상담창구(검색 : ‘디지털성범죄 SOS 상담 창구’)를 카카오톡 채팅방에 개설하였으며, ’25년도에는 얼굴매칭 딥페이크 검출 기술인 ‘서울 안심 아이(Seoul Safe Eye)’를 개발·적용할 계획이다.

딥페이크 피해로 고통받는 아동·청소년이나 성인은 ‘서울 디지털 성범죄 안심지원센터’를 통해 고소장 작성부터 삭제지원, 심리상담, 법률, 의료지원에 이르는 원스톱 지원을 받을 수 있다. 센터 상담전화 ☎02-815-0382(영상빨리), www.8150382.or.kr, 오픈채팅방 ‘디지털성범죄SOS상담’ 로 문의하면 된다.

오세훈 서울시장은 “우리 사회의 미래인 아동·청소년을 성범죄로부터 보호하고 그 피해를 최소화하는 노력은 아무리 강조해도 지나치지 않는다”며, “이번 업무협약으로 행정, 사법, 교육, 수사기관을 망라한 4자 협력체계를 가동해서 예방 교육부터 피해 영상물 삭제‧차단, 피해자의 빠른 일상 회복까지 통합대응체계를 구축한다. 딥페이크 범죄로부터 아동‧청소년을 지켜내는 사회적 방파제가 되도록 최선을 다하겠다.”고 말했다.

--------------------
1) 최근 3년간 딥페이크 피해자 총 527명 중 10대는 315명으로, 전체 피해자의 59.8% 차지(출처 : 경찰청)



Mayor Oh Se-hoon to Take Joint Response Against Deepfake Materials Featuring Children and Adolescents

- On September 10 (Tuesday), a cooperation agreement was signed among four governmental authorities, the SMG, the Seoul Central District Prosecutor's Office, the Seoul Metropolitan Police Agency, and the Seoul Metropolitan Office of Education (SMOE)
- The MoU includes the establishment of a “School Hotline”, which will enable swift deletion of harmful content and on-site counseling services at school in the case of a deepfake crime occurring in schools.
- To swiftly relay information on the crime between different bodies, an information transmission network among the SMG, the prosecution, and the police will be established for cases dealt with at the levels of the prosecution or the police.
- It turned out that 96% of the adolescent offenders thought they were merely “pulling pranks”. The police and the SMOE will jointly develop educational materials to conduct awareness-raising education programs.
- The number of victims involving deepfake-related sexual crime has soared by 2,940% in two years, with teenagers comprising the largest groups both in offenders and victims.

SEOUL, SOUTH KOREA, September 10, 2024 – As sexual crimes involving Deepfake have become a serious social problem, particularly targeting young children and adolescents, Mayor Oh Se-hoon signed a Memorandum of Understanding with Seoul Central District Prosecutor’s Office, Seoul Metropolitan Police Agency, and Seoul Metropolitan Office of Education for a “Joint Response on Deepfake Crimes Against Children and Adolescents” at Seoul City Hall on Tuesday, September 10.

Starting on 28 October, the Seoul Metropolitan Government (SMG) has begun a “24-hour online material deletion support system” in cooperation with the Korean Communications Standards Commission, becoming the first local government to launch such a system. In addition, the SMG has set up an anonymous counseling channel for those who may fear exposure of their victimhood. Since the launch of this channel, 278 individuals have reported their crime damage and received counseling services through the Seoul Digital Sexual Crime Support Center.

Going a step further, the SMG has paid close attention to the fact that the predators and victims of recent deepfake crimes were mostly teenagers. In this regard, the SMG will shore up support and protection toward children and adolescents through tight cooperation among an education agency (Seoul Metropolitan Office of Education), a prosecution agency (Seoul Central District Prosecutor’s Office), and an investigation agency (Seoul Metropolitan Police Agency).

The major content of the MoU is as follows: ①. Through the establishment of the School Hotline, swift response to deepfake sexual crimes occurred at schools and providing on-site counseling support; ②. Rapid sharing of information about sexual crimes among the city government, prosecution services, and the police agency to reduce damage from deepfake crimes; ③ To minimize damage from deepfake and other types of digital sexual crimes against children and adolescents, holding education on preventing the occurrence and recurrence of digital sexual crimes.

First of all, the MoU will establish the “School Hotline”, which will allow the school to quickly report to the SMG in the case of a sexual crime at school. Previously, the student victim had to bear the crime situation and take action alone. However, now, teachers or School Police Officers (SPOs) can make a request on behalf of the victim to the Seoul Digital Sex Crime Safety Support Center for a swift deletion of the online content at issue such as pictures and videos.

Moreover, if the student victim feels uncomfortable visiting the counseling center, then officers of the Seoul Digital Sex Crime Safety Support Center will visit their school or another safe location to provide necessary assistance, which is called “One-Stop Comprehensive Support.” Secondly, the MoU will establish a network of information systems among the SMG, prosecution services, and the police agency, enabling swift, safe relay of crime information and quick removal of harmful material on the Internet. This is aimed at minimizing the harm resulting from deepfake-related sexual crimes.

Thirdly, the MoU will carry out education to raise awareness among adolescents and prevent deepfake sexual crimes. 96% of adolescent offenders do not recognize the severity of deepfake sexual crimes and consider them as “games” or “pranks”, which has been pointed out as a factor in the widespread of deepfake-related sexual crimes.

The SMG, the Seoul Metropolitan Office of Education, and the Seoul Metropolitan Police Agency will jointly create special educational materials on deepfake crimes for elementary, middle, and high school students, and implement education for students and parents. These three authorities will aim to train 5,000 students out of the program participants as “Friends Protectors”, who would then contribute to raising awareness among their peers. In addition, the MoU will launch the “STOP! DEEPFAKE” campaign in collaboration with over 1,300 schools and city-run youth facilities based in Seoul.

<Victims of the deepfake abuses increased by 2,940% in just two years. The majority of both offenders and victims were teenagers (31% and 37% respectively)>

Meanwhile, the number of deepfake-related victims who reported to the Seoul Digital Sex Crime Safety Support Center skyrocketed by 2,940% in just two years, increasing from 10 individuals in 2022, and 17 in 2023, to 304 in 2024. Out of 331 victims, teenagers were the largest group with 121 victims (36.6%), followed by individuals in their 20s with 108 victims (32.6%). Together, those in their teens and 20s
accounted for 69.2% of all victims (229 individuals). Similarly, offenders were predominantly teenagers with 27 individuals or 31.4% of the total. Offenders in their 20s were 6 individuals or 7%, which highlights the severity of deepfake sexual crimes among adolescents.

Victims who were connected to the center were primarily referred through investigative agencies such as the police and prosecution, accounting for 269 victims or 81.0%. 32 Victims (9.6%) directly requested assistance from the center. Due to the high proportion of teenage victims, 18 individuals, or 5.4% were connected to the center with the help of their parents.

Children, adolescents, and adults suffering from deepfake-related exploitation can receive comprehensive support from the Seoul Digital Sex Crime Safety Support Center, which offers onestop services ranging from filing legal complaints, removal of harmful digital content, psychological counseling, legal counseling, and medical support.

Seoul Mayor Oh Se-hoon stated, "We cannot overemphasize the importance of protecting children and adolescents, who are the future of our society, from sexual crimes and of making efforts to minimize the harm they suffer. With this MoU signed, we authorities are going to activate a fourparty cooperation system that integrates administrative, judicial, educational, and investigative bodies. This coordinated response system will address this type of sexual crime by implementing a series of measures, from preventive education to the removal and blocking of harmful content, as well as providing assistance for the swift recovery of victims. We will do our best to serve as a societal shield that protects children and adolescents from deepfake crimes."