A cientista Nina da Hora alerta a necessidade de justiça algorítmica em sistemas de IA
Nesta quarta-feira (13), aconteceu a primeira palestra que compõe o projeto Rede de Formação em Cultura Digital – LABIC Curitiba. A palestra “Racismo algorítmico” foi ministrada pela cientista da computação, Nina da Hora, que abordou como os algoritmos podem reproduzir e reforçar preconceitos e desigualdades.
Os algoritmos são um conjunto de instruções específicas e organizadas que são seguidas sequencialmente para solucionar problemas ou executar atividades. Nas redes sociais, esses algoritmos funcionam como sistemas de recomendação que utilizam Inteligência Artificial (IA). A partir disso conseguem decidir quais conteúdos e páginas são exibidos em destaque na linha do tempo dos usuários.
Atualmente, a Inteligência Artificial está cada vez mais presente no cotidiano, deste modo, impacta diretamente a vida das pessoas. De acordo com Nina, quando os algoritmos recebem o poder de decidir, a partir dos critérios de seus criadores, os potenciais discriminatórios se multiplicam e passam a impactar negativamente minorias raciais em torno do mundo.
A cientista explica que o algoritmo não tem transparência e é treinado com um conjunto de dados com rumos e intenções desconhecidas. “Parece que a máquina está “pensando” mas há mãos humanas por trás de todo o processo”. Segundo ela, os sistemas de IA, especialmente os que envolvem aprendizado profundo (deep learning) são opacos e difíceis de explicar.
“Como nós, pesquisadores, vamos explicar para o público negro que eles podem confiar nesses sistemas autônomos se nós não conseguimos entender como funciona”, questiona.
Ao se aprofundar no tema, Nina também investiga o racismo algorítmico no reconhecimento facial. Para ela, o reconhecimento facial foi construído com influência eugenista, por isso, cientistas da computação precisam se preocupar com os aspectos sociais de suas criações, dado que isso não é um erro computacional, mas um problema que precisa ser debatido na computação. “Precisamos pensar na justiça algorítmica (sistemas justos que respeitem a diversidade social e cultural) para entender e mitigar os vieses, assim evitar a reprodução de desigualdades sociais”, defende.
O evento Rede de Formação em Cultura Digital – LABIC Curitiba, ocorre dos dias 13 a 16 de novembro e desenvolve debates, oficinas e palestras sobre os impactos da tecnologia e inspira ações que tornem os sistemas digitais mais inclusivos e justos.
Por Karen Stinsky