사진, 영상 공유

이 기능의 위험성

  • 고화질 사진이나 동영상이 사이버 스토킹의 자료가 될 수 있습니다.

  • 불법 촬영 사진이나 영상 공유가 발생할 수 있습니다.

이 기능, 이렇게 바꾸세요.

  • 사용자들이 안전하게 서비스를 이용할 수 있도록, 쉽게 확인할 수 있는 위치에 가이드라인을 제공하세요. 사례 보기

  • 문제 사진이나 영상을 신고하는 기능을 제공하고, 신고 접수 시 해당 게시물에 대해 빠르게 조치하세요. 

  • 또한, 해당 사진이나 영상의 해시값 등을 활용해 추가 공유에 대해서도 대처할 수 있도록 시스템을 마련해 주세요.

  • 불법 촬영물을 공유한 사용자에 대한 제재 조치를 마련해 주세요. 사례 보기

 

서비스에서 제공하는 

전화 또는 메시지 발송

이 기능의 위험성

  • 상대가 원하지 않더라도 지속적으로 연락을 취할 수 있는 온라인 스토킹의 도구로 쓰일 수 있습니다.

  • 서비스의 대화 기능을 이용해 그루밍 범죄 또는 성착취 유도가 일어날 수 있습니다.
  • 영상 채팅을 지원하는 경우, 앱의 특성상 특정 신체 부위 등 원치 않는 이미지에 노출되는 피해가 발생할 수 있습니다.

이 기능, 이렇게 바꾸세요.

  • 대화 화면에서 바로 신고 및 증거 확보(스크린샷 저장 등)을 할 수 있는 기능을 사용자가 찾기 쉬운 곳에 배치하세요.

  • 신고 발생 시, 증거 내용 서버 저장 등 피해자를 지원하고 사용자 차단 등 가해자에 대한 사용 제재 조치를 마련하세요.

 

허용되지 않은 사용자의
전화 또는 대화 요청

이 기능의 위험성

  • 허용되지 않은 사용자의 접근으로 피싱, 성착취 유도 등이 일어날 수 있습니다.
  • 특히 영상 채팅을 지원하는 경우, 앱의 특성상 특정 신체 부위 등 원치 않는 이미지에 노출되는 피해가 발생할 수 있습니다. 

이 기능, 이렇게 바꾸세요.

  • 수신자가 기본적으로 허용되지 않은 사용자가 발신한 내용을 수신 거부하도록 설정하세요.(default setting)

  • 허용되지 않은 사용자가 전화 또는 대화 요청을 할 경우 알람이 뜨지 않게 하세요. (ref. 페이스북 메신저)

  • 허용되지 않은 사용자가 보낸 링크의 URL에 .apk, .dmg 등 실행파일 확장자가 삽입된 경우 메시지를 차단하세요.

 

특정 사용자의 친구들(팔로워)
정보를 누구나 열람 가능

이 기능의 위험성

  • 사용자와 친구가 아닌 사람이 특정 사용자의 친구들(팔로워) 를 열람할 수 있을 경우,
    해당 팔로워들의 공통점을 찾아내 해당 사용자의 신상을 유추할 수 있습니다. (ex: 연령대, 거주지, 재직처 등)

이 기능, 이렇게 바꾸세요.

  • 사용자의 친구 정보는 기본적으로 '비공개' 설정이 되도록 하세요.(default setting)

 

특정 사용자의 프로필을
누구나 열람 가능

이 기능의 위험성

  • 사용자의 정보를 노출함으로써 특정 사용자가 성범죄의 타겟이 될 수 있습니다.  
  • 실제로 특정 사용자가 미성년자임을 프로필로 미리 확인한 후, 해당 사용자에게 접근하여 사진을 요구한 사례가 있습니다. 

이 기능, 이렇게 바꾸세요.

  • 사용자의 Default 설정을 '프로필 비공개' 또는 프로필 공개값 '최소화'로 설정하세요.

  • 프로필 생성 시 프로필을 숨기거나 단계별로 공개할 수 있도록 안내를 강화하세요.

 

특정 사용자가 올린 게시물을
누구나 열람 가능

이 기능의 위험성

  • 게시물을 통해 사용자의 정보를 유추, 사용자를 위협하는 용도로 활용할 수 있습니다.

  • 사진이나 영상 게시물의 경우, 사용자의 게시물을 활용해 deep fake를 활용한 합성 영상 등 2차 가공을 통한 피해가 발생할 수 있습니다.

이 기능, 이렇게 바꾸세요.

  • 게시물의 열람 가능 대상자를 사용자가 직접 지정할 수 있도록 공개 범위 설정 기능을 제공하세요.

  • 또한, ‘전체 공개' 설정을 제공할 경우, 전체 공개의 범위와 주의 사항을 명시해 주세요.(모르는 사람이 볼 수 있으며, 개인 정보 유추 가능한 내용은 올리면 안 된다는 점)

  • 사진 또는 영상 게시가 가능한 경우, 해당 사진이나 영상을 보호할 수 있도록 다운로드 방지 또는 스크린 캡처 차단 등의 기능을 제공해 주세요.

위 기능 중 하나라도 있다면,
플랫폼 자체적으로
성착취 피해보호 프로세스

갖추어야 합니다.

 

유해사용자
신고 접수 및 차단 조치

사용자가 앱 내에서 사진/영상에 대하여 유포 협박을 당하거나, 동의하지 않았음에도 성적인 사진을 받는 등의 성착취 피해를 당할 수 있습니다. 이때 피해 사용자가 그 상대방 또는 유해 사용자를 서비스 내에서 해당 내용을 신고할 수 있어야 합니다.


신고 이후에는 다른 이용자의 피해를 예방할 수 있도록 유해 사용자에 대한 조치가 필요합니다. 피해 사용자와 유해 사용자간의 연락 차단뿐만이 아니라 서비스에서 유해사용자가 신고되었음을 인지하고 그에 맞는 처리가 이루어져야 합니다.(예시- 다른 이용자들이 신고 된 사용자가 유해 사용자임을 알 수 있음)

 

증거화면의 보관 및
(요청 시) 수사기관 전달

신고자가 보내 온 화면을 문서 및 사진 등으로 저장하고 일정 기간 동안 서버에 해당 파일을 암호화 하여 보하여야 합니다.


또한 수사기관에서 해당 자료를 필요로 할 경우 피해 사용자의 동의 하에 전달 할 수 있어야 합니다.

 

성착취 피해신고자에게

피해지원 기관 정보 전달

앱 내에서 다양한 피해를 겪게 되는 경우 피해 신고자에게 법률, 심리, 의료 등의 지원이 가능한 유관기관 정보를 전달할 수 있어야 합니다.

 

신고 이후의

처리 절차 안내

유해 사용자의 신고 처리 절차가 어떻게 진행되고 있는지 피해 신고자가 확인할 수 있어야 합니다.


신고 된 유해 사용자에게 제재조치가 이루어지지 않더라도 신고 피해자가 이에 대한 내용을 확인할 수 있어야 합니다.


막막하다면, 아래 서비스를 참고해보세요   
지금 당장 위의 가이드를 서비스에 적용하는 게 어렵게 느껴지시나요?

그렇다면 이 문제에 대해 앞서나가 고민하고 있는 서비스들의 사례들을 참고해보세요.