서비스에 이런 기능들이 있나요?


아래 기능 중 단 하나라도 있다면, 당신의 서비스에서도 성착취가 일어날 수 있습니다.

서비스에 이런 기능들이 있나요? 


아래 기능 중 단 하나라도 있다면, 당신의 서비스에서도
성착취가 일어날 수 있습니다.


서비스에서 제공하는 전화 또는 메시지 발송

  불특정인과 원하지 않는 대화, 사이버 폭력 등의 위험성이 있습니다.

이렇게 바꿔보세요! 


1. 대화 시작 전 상호 동의 필요 원치 않는 대화 상대의 경우, 대화를 영구차단 할 수 있도록 서비스를 제공합니다. 

블리자드의 히어로즈 오브 더 스톰은 '새로 시작하시는 분들을 위한 안내서'에 대화 차단 기능을 상세히 안내하고 있습니다.


2. 신고 버튼을 사용자의 눈에 띄는 곳에 배치하고, 신고 시 신고된 화면은 암호화하여 저장합니다.

카카오톡의 경우 신고기능을 상단에 배치해 신고기능에 대한 접근성을 높혔습니다.

특정 사용자의 프로필/친구목록/게시물을 누구나 열람 가능

  공개 정보를 이용한 그루밍 성폭력 및 사이버 스토킹 발생한 사례가 있습니다.

이렇게 바꿔보세요! 


1. 사용자 개인정보 공개 설정의 Default 값을 ‘친구공개’로 설정  

페이스북의 경우 게시물을 포스팅할 때 공개 기본값을 ‘친구공개’ 등으로 설정할 수 있습니다. 그러나 사용자가 먼저 설정하지 않더라도 포스팅과 팔로워의 기본값은 ‘친구공개’ 등으로 제한할 수 있도록 합니다. (전체공개 옵션을 지양)


2. 개인정보 유출을 방지하기 위한 사전 안내

사용자가 ‘전체공개’로 게시물을 게시할 경우, 사전에 과도한 개인정보 공개로 인해 발생할 수 있는 위험성을 고지합니다(alert이 아닌 confirm창으로 안내)

사진, 영상 게시 및 공유

   시각 자료를 통한 개인정보 유출, 사이버 스토킹, 그루밍, 협박, 딥페이크 등의 문제가 발생할 수 있습니다.

이렇게 바꿔보세요! 


1. 사용자가 확인하기 쉬운 위치에 가이드라인 제공 

페이스북은 고객센터 페이지에 <공개범위>에 대한 자세한 설명을 안내하고 있습니다. 또 공개범위에 대한 다양한 옵션을 제공하여, 사용자가 자신의 개인정보를 선택적으로 공개할 수 있도록 합니다. 예시 보기 >


2. 문제 사진,영상 발견 시 신고 기능 제공

인스타그램은 게시물에 대한 신고기능이 마련되어 있으며, 이후 신고한 게시물에 대한 피드백을 신고자에게 전달합니다. 예시 보기>


3. 사진 확대 방지로 개인정보 유출 막기

인스타그램은 게시물에 대한 신고기능이 마련되어 있으며, 이후 신고한 게시물에 대한 피드백을 신고자에게 전달합니다.


4. 해당 사진•영상의 해시값을 활용해 추가 공유 대처 방법 마련

신고된 사진•영상의 해시값을 활용해 이후 플랫폼 내의 다른 사용자가 해당 사진•영상을 공유하려고 할 경우, 이를 차단하여 유포 피해를 막을 수 있습니다. 


5. 다운로드 방지 또는 스크린 캡처 차단 기능 제공 

페이스북 인디아에선 Profile Guard를 활용하여 개인의 프로필이 모르는 사람이 보거나 다운로드 할 수 없도록 설정할 수 있습니다.

위 기능 중 단 하나라도 있다면, 서비스 내에서
성착취 피해보호 프로세스를 갖춰야 합니다.

1. 신고 접수

사용자가 서비스 이용 중 성착취 피해를 당했을 때, 피해 사용자가 그 상대방(유해 사용자)를 서비스 내에서 바로 신고할 수 있도록 잘 보이는 곳에 신고 기능을 제공해야 합니다.

성착취 피해란? 서비스 이용 중 상대방으로부터 성적 수치심이나 혐오감을 일으키는 메시지/사진/영상 등을 받거나 사진/영상에 대한 촬영/유포 협박 또는 강요 당하는 등의 피해를 의미합니다.


2. 처리 절차
및 지원기관 안내

유해 사용자 신고 접수 시, 피해자에게 신고 접수 및 이후 처리 절차와 함께 법률, 심리, 의료 등의 지원이 가능한 지원 기관 정보*를 전달해야 합니다. 또한, 피해 신고자가 신고 처리의 진행 상황과 결과를 확인할 수 있도록 안내 또는 확인 가능한 페이지를 제공해야 합니다. 

안내메시지 예시

ㅇㅇㅇ님에 대한 신고가 YYYY-MM-DD hh:mm:ss 접수되었습니다.

신고해주신 내용은 확인 후 7일 이내에 처리되며, 처리 결과는 YYYY-MM-DD hh:mm:ss까지 알림 발송해드립니다.
진행 상황을 확인하고자 하는 경우, 아래 링크에서 확인하시기 바랍니다. 
신고 진행 상황 확인> 

신고해주신 피해에 대한 지원이 필요한 경우, 각 지역의 지원 기관에서 지원받을 수 있습니다.
아래 링크에서 지원기관을 확인하시기 바랍니다.

지원기관 정보 확인>

회원님께서 원하시는 경우 이후 수사 기관에 제공할 수 있도록 신고하신 대화 내용을 임시 보관할 수 있습니다.
보관된 내용은 별도 서버에 암호화하여 안전하게 저장되며, 100일 후 완전 삭제됩니다. 보관 처리를 원하시나요? 
예, 보관해주세요  |  아니요, 보관을 원하지 않습니다 


3. 신고내용 확인
및 증거 보관

신고자가 원하는 경우, 신고한 화면을 문서 및 사진 등으로 저장하고 일정 기간 동안 서버에 해당 파일을 암호화 하여 보관하여야 합니다. 증거화면은 최소 $$일~ 최대 $$일까지 보관할 수 있습니다. 


4. 차단 조치

다른 이용자의 피해를 예방할 수 있도록 유해 사용자에 대한 조치가 필요합니다. 피해 신고자와 유해 사용자간의 연락 차단뿐만이 아니라 서비스에서 해당 유해 사용자에 대한 제재 조치*를 해야 합니다.

제재 조치 예시 


(요청 시) 증거전달

수사기관에서 증거 자료를 요청할 경우, 피해 사용자의 동의 하에 보관한 증거를 전달할 수 있어야 합니다. 

서비스 개발 시, 꼭 알아야 할 정보들을 참고해
안전한 서비스 만들기에 동참하세요.

서비스 제공자는 이용자가 자신의 서비스를 보다 안전하게 사용하도록 보호할 책임이 있다. 이를 위해 가이드 라인을 마련하고 꾸준히 업데이트 하는 노력이 필요하다. 이미 가이드를 만들어 실천하고 있는 사례들을 살펴보면서 나의 서비스에 맞는 가이드를 마련해 보자. 


부모님을 위한 인스타그램 사용 가이드 바로 가기

서비스 제공자는 이용자가 자신의 서비스를 보다 안전하게 사용하도록 보호할 책임이 있다. 이를 위해 가이드 라인을 마련하고 꾸준히 업데이트 하는 노력이 필요하다. 이미 가이드를 만들어 실천하고 있는 사례들을 살펴보면서 나의 서비스에 맞는 가이드를 마련해 보자. 


인스타그램 성범죄자 사용 신고 바로가기

앱이나 게임을 만들어 출시할 때는 타겟 소비자의 연령을 반드시 고려해야 한다. 구글플레이 스토어와 앱스토어에서는 연령에 맞게 앱/게임 등이 제공될 수 있도록 개발자를 위한 등급관련 정책을 공개하고 있다. 이미 개발을 다 끝난 후에 정책을 살피는 오류를 범하기 보다는 개발 전, 내가 만드는 서비스의 유해성과 영향력을 꼼꼼히 점검하자. 앱스토어에 따라 연령별 기준을 충족하지 못할 경우, 앱 마켓에서 노출되지 않을 수 있다.  기본 중에 기본이 되는 이 정책을 반드시 필독할 것! 


연령 등급 설정은 구글 플레이스토어와 마찬가지로 질문을 기반으로 함. 

현지 요건을 준수해야 한다는 언급은 있지만 현지 요건 관련 별도 언급은 없는 상태 

단, 메타데이터는 연령등급 상관 없이 4세 기준으로 맞춰야 함 

사용자 생성 콘텐츠 문제 시 사후 삭제 가능 

사용자가 생성한 콘텐츠나 서비스가 포르노 콘텐츠, 실제 인물의 상품화(예: ‘외모 품평' 투표), 신체적 위협이나 협박에 주로 사용되는 앱은 App Store에 적합하지 않으며 별도 통지 없이 삭제될 수 있음.

앱이나 게임을 만들어 출시할 때는 타겟 소비자의 연령을 반드시 고려해야 한다. 구글플레이 스토어와 앱스토어에서는 연령에 맞게 앱/게임 등이 제공될 수 있도록 개발자를 위한 등급관련 정책을 공개하고 있다. 이미 개발을 다 끝난 후에 정책을 살피는 오류를 범하기 보다는 개발 전, 내가 만드는 서비스의 유해성과 영향력을 꼼꼼히 점검하자. 앱스토어에 따라 연령별 기준을 충족하지 못할 경우, 앱 마켓에서 노출되지 않을 수 있다.  기본 중에 기본이 되는 이 정책을 반드시 필독할 것!


지역별 기준에 따른 등급을 부여
기본적으로 구글 앱 등록 시 설문지 문항을 통한 등급 부여 

설문지 항목: 폭력적콘텐츠, 성적 행위, 비속한 표현, 규제 약물 등 

단, 추후 등급 부여 기관의 검토로 등급 변경 가능 

등급 부여 기관에서 지역 배포 앱의 “분류 거부” 가능 → 이 경우 앱/게임 배포 비허용 / 구글 플레이에서 삭제