Google escaneou rostos de estudantes negros e moradores de rua sem pedir consentimento

O Google tem trabalhado duro para melhorar o sistema de reconhecimento facial da linha Pixel. A ideia é, no mínimo, rivalizar a empresa que tem o melhor sistema do mercado, a Apple. Para atingir o objetivo, a empresa tem feito um trabalho um tanto quanto inusitado: está pagando voluntários com vale-presentes da Amazon ou do Starbucks de cinco dólares para escanear seus rostos.

Uma reportagem do Daily News, porém, jogou luz à uma prática anti-ética do Google. A empresa está focando em um sistema que reconheça rostos negros com a mesma precisão de rostos brancos, e para isso, está escaneando rostos de estudantes e moradores de sua sem o consentimento deles.

Os sistemas de reconhecimento facial dependem de um amplo banco de dados para que o software esteja preparado para reconhecer rostos. Sempre houve, porém, um problema com a maioria dos softwares das empresas, que tinham mais facilidade em reconhecer homens brancos. A causa disso, provavelmente, vem de a origem dos bancos de dados, que utilizaram muitos rostos masculinos e caucasianos.

“Para estudos recentes envolvendo a coleta de amostras de rosto para treinamento de machine learning, existem dois objetivos. Primeiro, queremos criar justiça no recurso de desbloqueio facial do Pixel 4 ” disse um porta-voz do Google em entrevista ao Gizmodo; “É fundamental termos uma amostra diversificada, que é uma parte importante da construção de um produto inclusivo. E segundo, segurança. O desbloqueio facial será uma nova e poderosa medida de segurança, e queremos garantir que ela proteja o maior número possível de pessoas”.

Isso, porém, não justifica a empresa escanear rostos de pessoas sem o consentimento delas, como aponta a reportagem do Daily News. A empresa contratou uma agência chamada Randstad, que ordenou seus contratantes a procurar pessoas negras e oferecer um celular do Google para elas interagirem por alguns minutos em troca dos vale-presentes, mas sem informá-las de que seus rostos estariam sendo analisados pelo aparelho.

Uma das fontes ainda afirmou que, caso a pessoa perguntasse se eles estavam sendo gravados, os funcionários eram instruídos a negar. Outra fonte ainda afirmou que esses profissionais ainda eram instruídos a redirecionar a conversa caso a pessoa questionasse sobre a operação.