O PimEyes se descreve como uma ferramenta para ajudar a identificar o uso indevido de imagens, mas os ativistas temem que a plataforma possa ser usada para assédio.
Uma ferramenta gratuita de reconhecimento facial que permite encontrar fotos suas ou de outras pessoas na Internet, os ativistas criticaram por seu direito à privacidade.
O PimEyes se descreve como uma ferramenta de privacidade, criada para ajudar a evitar o uso indevido de imagens.
Mas o Big Brother Watch, uma ONG britânica que promove campanhas de privacidade e direitos civis, disse que a nova ferramenta pode “permitir a vigilância estatal, a vigilância comercial e até promover o assédio e a perseguição em uma escala anteriormente inimaginável”.
O aumento do serviço ocorre no momento em que a Amazon decide parar de usar as ferramentas de reconhecimento facial por um ano.
O site polonês PimEyes foi criado em 2017 como um projeto pessoal e de entretenimento, mas acabou à venda no ano passado. Atualmente, existem 6.000 usuários registrados.
Ele chamou a atenção após um artigo sobre a ferramenta, publicado no Medium.
O site permite que você faça o upload de qualquer imagem gratuitamente e depois digitalize a Internet – pelo menos sites disponíveis publicamente, como Tumblr, agências de notícias e blogs – atrás das páginas que usaram essa imagem.
Silkie Carlo, diretora do Big Brother Watch, disse à BBC: “Ver esta poderosa tecnologia de vigilância sendo colocada no mercado para indivíduos está congelando. Ela está pronta para ser perseguida e coloca mulheres e crianças em risco sem precedentes”.
Em resposta, o site PimEyes disse: “Nossa política de privacidade impede que as pessoas usem nossa ferramenta para este caso. Todas as ferramentas podem ser usadas da maneira errada”.
A empresa disse à BBC que não usa imagens tiradas das mídias sociais, embora a BBC tenha encontrado imagens de jornalistas que postou no Facebook e Twitter enquanto testava a ferramenta.
“Se você encontrar rostos postados apenas no Facebook, significa que alguém os postou em outro lugar. Monitoramos apenas sites que cumprem suas regras de rastreamento”, afirmou a empresa em nota.
O uso de imagens nas mídias sociais causou problemas de reconhecimento facial da ClearviewAI.
A empresa coletou mais de três bilhões de fotos do Facebook, Twitter e YouTube. O material foi disponibilizado ao FBI, ao Departamento de Segurança Interna dos Estados Unidos e a 600 outras agências policiais em todo o mundo para identificar os suspeitos.
Três empresas nas mídias sociais pediram à ClearviewAI para interromper o processo.
O PimEyes oferece um serviço premium que permite aos usuários enviar até 25 imagens de pessoas diferentes e receber alertas sempre que novas fotos são carregadas online. Atualmente, existem 350 usuários ativos deste serviço.
A BBC disse ao PimEyes que a premissa do site era ajudar as pessoas a “lutar por sua privacidade online”, encontrando perfis falsos, imagens vazadas e uso não autorizado de fotos.
A empresa reconheceu que seus dados estão sendo usados para alimentar o Paliscope, software criado por uma empresa sueca que é amplamente usada por várias forças policiais e outras forças de segurança em investigações criminais.
Mas o PimEye removeu de seu site uma referência para as pesquisas realizadas na chamada web escura para a polícia.
Segundo o PimEye, as imagens enviadas para um site “nunca são salvas ou indexadas”. Em vez disso, ele diz que faz uma “impressão digital” do rosto – usando seus principais recursos – que é criptografado e armazenado temporariamente em seus servidores.
Serviço banido na Amazon
A tecnologia de reconhecimento de rosto está se tornando cada vez mais controversa, à medida que mais forças policiais ao redor do mundo adotam ferramentas.
Vários estudos questionam a precisão da tecnologia, sugerindo que ela era fraca no reconhecimento dos negros.
Após protestos contra o assassinato de George Floyd e pedidos de reforma da polícia, IBM e Amazon deixaram de usar a tecnologia de reconhecimento de rosto.
No caso da Amazon, o uso policial do software de reconhecimento de recuperação foi suspenso por um ano, para que o governo dos Estados Unidos pudesse decidir como queria que a tecnologia fosse usada no futuro.