Facebook usará sistema de detecção automático contra pornografia de vingança
Sistema utiliza inteligência artificial e machine learning
Para combater a chamada pornografia de vingança, ou "revenge porn" - quando uma pessoa divulga fotos ou vídeos íntimos de outra como ato de difamação ou humilhação - na sua plataforma, o Facebook anunciou a implementação de um novo sistema de detecção automático deste tipo de conteúdo em suas redes sociais.
"Encontrar estas imagens vai além de detectar nudez nas nossas plataformas", escreveu a chefe global de segurança, Antigone Davis. "Ao usar machine learning e inteligência artificial, nós podemos detectar ativamente imagens ou vídeos de quase nudez compartilhados sem permissão no Facebook e Instagram. Isso quer dizer que podemos encontrar este conteúdo antes que alguém o notifique, o que é importante por duas razões: muitas vezes vítimas têm medo de retaliação e então ficam relutantes em reportar o conteúdo por conta própria; ou não sabem que o conteúdo foi compartilhado."
Imagens reportadas pelo sistema serão analisadas pela equipe de Operações de Comunidade de Facebook, e removidos caso violarem os termos das redes. Contas responsáveis pelo compartilhamento destas fotos e vídeos serão suspensas na maioria dos casos, com direito a um processo de defesa para usuários da plataforma.
Além disso, o Facebook também iniciou a iniciativa Não Sem Meu Consentimento, um hub da Central de Segurança da rede criada com ajuda de especialistas para ajudar vítimas ou vítimas em potencial de pornografia de vingança.
Uma ferramenta de suporte a vítimas também está sendo desenvolvida com diversas organizações, incluindo a brasileira SaferNet, e deverá ser implementada nos próximos meses.
