Private Detector
Bumble, 음란한 이미지를 감지할 수 있는 Private Detector AI 오픈소스 버전 공개
Features
- 다른 사람에게 음란한 이미지를 보내는 Cyberflashing 범죄 예방을 위해 만든 기능
- 2019년 부터 Bumble 앱에 기능으로 도입하여 사용중
- 채팅에서 공유되는 이미지 중에 누드처럼 보이는 이미지는 먼저 흐리게 처리하고, 사용자가 눌러서 보거나 블록 및 신고 가능
- 이 Private Detector에 대한 논문과 함께 오픈소스 버전 모델을 공개