Precisamos fazer um grande esforço para expandir a representação social em empresas de tecnologia, especialmente em startups.
Nos últimos anos, vem crescendo o esforço para aumentar a diversidade e a inclusão nas empresas. Os resultados positivos estão surgindo lentamente graças à maior conscientização sobre a importância da diversidade para o sucesso dos negócios e a um incansável trabalho para reduzir barreiras e preconceitos nos processos de seleção, nos relacionamentos entre a pessoas e na progressão para posições mais altas nas empresas. O que muda quando as empresas começam a utilizar a inteligência artificial para automatizar os processos de gestão e de produção? As tecnologias podem ser mais uma ferramenta para ampliar a diversidade, mas para isso, algumas condições precisam mudar.
Em primeiro lugar, o conhecimento e as habilidades para o uso de tecnologias digitais passa a ser condição para acesso ao mercado de trabalho. E aí surge o primeiro grande desafio. Estima-se que as tecnologias digitais irão provocar a eliminação de grande número de atividades exercidas atualmente pelos seres humanos e uma pesquisa realizada pelo FMI em 2018 (Gender, Technology, and the Future of Work) conclui que as mulheres correm maior risco de ter suas atividades substituídas por robôs ou softwares baseados em inteligência artificial.
Isso acontece porque ainda existe um padrão social que delimita as profissões com maior conteúdo tecnológico aos homens. Uma pesquisa realizada pelo McKinsey Global Institute em 2015 (The new global competition for corporate profits) mostra que as mulheres são minoria nas profissões que avançam em tecnologia e valor dos salários. Nas novas empresas criadas a partir das tecnologias digitais essa diferença é ainda maior. Segundo a Associação Brasileira de Startups, apenas 15,7% das startups são lideradas por mulheres, mas apenas 2% dos fundadores das startups mais proeminentes do mercado brasileiro são mulheres, segundo um Dataminer. No levantamento da Fortune publicado em 2019 (Funding For Female Founders Stalled at 2.2% of VC Dollars in 2018), as startups lideradas por mulheres recebem apenas 2% dos investimentos feitos por capital de risco. Parece incoerente, mas as startups são menos diversas que as grandes empresas.
Nas equipes nas empresas onde as tecnologias de inteligência artificial são desenvolvidas a falta de diversidade é ainda um grave problema. Segundo a pesquisa conduzida pela PretaLab e ThoughtWorks em 2017 (Quem Coda BR), em 21% das equipes de tecnologia não há nenhuma mulher, e em 65% as mulheres representam menos de 20% das equipes. Em 62% das equipes não há nenhuma mulher mãe. Em 32% das equipes não há nenhuma pessoa de cor preta ou parda e em 69% essas pessoas representam menos de 10% das equipes
Essa enorme desigualdade no mundo digital acaba criando uma nova e mais complexa barreira. As novas tecnologias de inteligência artificial acentuam ainda mais os padrões culturais que levam a divisão do trabalho por gênero, além de aprofundar a discriminação racial ou de etnias, a discriminação por orientação sexual ou por identidade de gênero.
Os algoritmos captam e amplificam representações de gênero que são predominantes na internet. Os softwares associam candidatas mulheres às atividades tradicionalmente femininas e as discrimina na seleção para posições que exigem habilidade digitais ou de liderança. Os algoritmos também discriminam nos processos automatizados de avaliação de risco de crédito, nos sistemas de reconhecimento de imagem, nos softwares utilizados na justiça, nos serviços de segurança, etc. O mesmo processo discrimina todas as pessoas que não fazem parte do padrão dominante. Como conclui um relatório da União Européia de 2018 (Women in the Digital Age) a “tecnologia reflete os valores dos seus desenvolvedores e as informações que eles utilizam”.
Dois exemplos mostram como acontece a discriminação nos meios digitais. Uma equipe da Universidade da Virgínia (Men Also Like Shopping: Reducing Gender Bias Amplification using Corpus-level Constraints) analisou um software muito utilizado nos Estados Unidos, que sempre que analisava a imagem de uma pessoa na cozinha a identificava como mulher, mesmo que fosse um homem com típicas características masculinas. Pesquisa publicada na Science (Even artificial intelligence can acquire biases against race and gender) mostram que um candidato cujo nome seja típico de pessoas afro-americanas terá 50% menos chances de ser chamado para uma entrevista. As mesmas pesquisas mostram que candidatos que moram em bairros mais pobres têm 30% menos chances de serem convidados.
O que torna ainda mais complexo esse processo de discriminação é que eles não são facilmente identificados. Os programadores não sabem previamente como os softwares criam os modelos analíticos que serão utilizados para a tomada de decisão. São processos autônomos. Os resultados são percebidos depois do uso frequente dessas ferramentas, quando são realizados testes sofisticados. Assim, uma mulher, uma pessoa preta ou homossexual, por exemplo, não tem como denunciar que está sendo discriminada num processo de seleção por que os critérios de decisão não são explícitos e os resultados não são facilmente perceptíveis.
Para mudar essa realidade e fazer com que a inteligência artificial contribua para a diversidade, é necessário fazer um grande esforço para expandir a representação social em empresas de tecnologia, especialmente em startups, e tornar as equipes responsáveis pelo desenvolvimento e aplicação capazes de reduzir os vieses dessas tecnologias. Por fim, promover o acesso à educação digital para todos é a única maneira de todos sejam beneficiados pelas novas tecnologias.
Fonte: Época Negócios
