'Algoritmos são opiniões transformadas em código'
Após
anos de vida acadêmica, a matemática americana Cathy O´Neil decidiu trabalhar em uma empresa de investimentos, pouco antes da crise financeira mundial de 2008. Foi nessa situação que, fascinada pelo conceito de “Big Data” e o seu potencial transformador, conta ter percebido que os modelos preditivos que admirava eram usados de forma que parecia reforçar preconceitos e injustiça social contra minorias.
A descoberta originou o livro “Weapons of math destruction” – ainda sem versão em português -, escrito após ter constatado que algoritmos usados para avaliar o desempenho de professores em uma escola americana perpetuavam a discriminação.
Algoritmos são “opiniões transformadas em código” e “hoje decidem quem pode receber crédito, quem passa para a segunda fase de uma seleção de emprego, seguros e muito mais”, disse, em uma palestra no TED, em abril de 2017.
Meses antes, em entrevista para a Época, ela já manifestara preocupação com o que chamou de marketing em torno dos algoritmos. “Dizem que eles estão ajudando a tornar o mundo mais justo por se basearem em modelos matemáticos. Mas vivemos numa sociedade historicamente racista, sexista etc”, observou, destacando a importância de uma auditoria nos códigos.
Para saber mais
