ISBN: 978-65-87289-23-6 | Redes sociais da ABA:
GT13: Antropologia Digital: processos, dinâmicas, usos, contra-usos e contenciosos em redes socioténicas
Apresentação Oral
Mayane Batista Lima
Visão Computacional: Antropologia do Viés Algorítmico em ferramenta de Facial analysis
As investigações acerca da Visão Computacional (VC) têm gerado muitos debates contemporâneos acerca do seu uso e do viés inserido na máquina (NOBLE, 2020; TARCÍZIO, 2020; BUOLAMWINI&GEBRU, 2018; RAJI, 2020). Mesmo nas máquinas nomeadas como autônomas (que agem e pensam por conta própria), no entanto, o viés humano (O'Neil, 2020; Christian, 2017) está inserido na rotulação de dados para um aprendizado maquínico eficaz. Deste ponto de vista, Russell (2021) e Lee (2019) argumentam que as redes neurais maquínicas demonstram reconhecimento mais eficaz depois de treinamento adequado através de exemplos rotulados que conectam os muitos pontos de dados ao resultado esperado, o que exige quantidades massivas de “dados relevantes”. Mas nem todos são coletados. Se um determinado grupo é incluído e outros o são em menor escala, a programação é vista de um determinado ponto. Isso corrobora para uma visão unilateral, ou seja, contribui para alimentar “padrão de dados que não são coletados” (ONUOHA, 2018). Ora, crucialmente, dados são também pessoas (LIPPPOLD, 2017). A máquina desenvolve a tomada de decisão algorítmica a partir daquilo que aparece nos dados, já os demais são encapsulados e separados estabelecendo assim parâmetros que expressam os vieses da máquina, tais como diferenças de gênero, raça/etnia, classe e outros marcadores sociais. Nos interessa compreender como a ferramenta de análise e reconhecimento facial Amazon Rekognition, analisa, identifica e classifica as características de pessoas de gêneros dissidentes (PRECIADO, 2021, 2020); pessoas que não correspondem às expectativas das normatividades de gênero “convencionais” (BUTLER,1990). Questões como essa nos levam a pensar quais corpos são reconhecidos pelas máquinas e como estas são ensinadas a “enxergar” por meio dos limites biológicos encapsulados no binário “masculino” ou “feminino” (PRECIADO, 2021, 2020, ALMEIDA, 2020; STOLCKE, 1991; BUTLER, 1990).