Atividade
Primeiro exercício: Olhem para o desenho e descrevam o que veem. Considerem o contexto ou cenário que o desenho pode estar a representar. Há alguma caraterística notável ou distintiva que se destaque para vocês?
| “Método da lanterna”O professor dá informações sobre um tópico específico ou faz uma pergunta. Em seguida, todos os alunos podem exprimir as suas associações, ideias e pensamentos espontâneos numa ou duas frases. As frases dos alunos não são comentadas nem avaliadas nesta fase. Opcionalmente, o professor pode escrever cada pensamento, por exemplo, num quadro digital. |
| Se os alunos precisarem de ajuda para decifrar o desenho, pode utilizar as seguintes perguntas para apoiar o processo de raciocínio:O que podem ver nos currículos dos candidatos?Quem acham que vai ficar com o emprego?Porque é que acham que a pessoa selecionada pela IA conseguiu o emprego?Sabem como é que uma IA toma decisões?Consideram a decisão justa? |
Enquadramento teórico (10 min)
Depois de os alunos partilharem as suas impressões, deve resumir os resultados e explicar o desenho em mais pormenor ao grupo: ilustra uma IA que seleciona o melhor candidato para um emprego com base em dados previamente recolhidos. Neste cenário, tanto o candidato do sexo masculino como a do sexo feminino têm níveis comparáveis de experiência em diferentes competências nos seus currículos. No entanto, apesar de as qualificações da candidata serem tão fortes como as do candidato, a IA não a escolheu para o lugar. Isto pode dever-se a vários fatores. Se, no passado, os homens eram mais frequentemente contratados para cargos técnicos, a IA pode ter interiorizado este padrão e continuar a favorecer os homens para estas funções. Além disso, os dados utilizados podem refletir um preconceito que sugere que as mulheres são mais adequadas para empregos noutras áreas, levando a que lhes sejam oferecidos cargos que exigem menos competências técnicas.
Para ajudar os alunos a compreender melhor o tema do preconceito na IA, dê-lhes alguma informação teórica de base:
| O que significa preconceito na IA? A palavra preconceito significa essencialmente que alguém ou alguma coisa é injusta e favorece certas pessoas ou coisas. É um tipo de discriminação que resulta no facto de nem todos serem tratados da mesma forma. A inteligência artificial aprende com os dados fornecidos pelos seres humanos. Infelizmente, os seres humanos desenvolveram vários preconceitos no passado histórico. Quando se prepara um sistema de inteligência artificial com dados, é possível que os humanos transmitam informações tendenciosas ou incompletas. É assim, e por isso, que a IA pode desenvolver esses mesmos preconceitos. Além disso, tradicionalmente, as pessoas que desenvolvem e preparam os sistemas de IA são predominantemente homens, muitas vezes brancos, e normalmente provenientes de meios socioeconómicos com elevados recursos. Isto deve-se ao facto de terem frequentemente um maior acesso à educação e às oportunidades necessárias para trabalhar na área. Tudo isto pode fazer com que a IA tome decisões injustas ou incorretas que reflitam os preconceitos presentes nos dados originais. O preconceito da IA não é causado apenas por dados incompletos ou tendenciosos. Os algoritmos defeituosos e as interpretações erradas dos resultados da IA também podem levar a discriminação sistemática e injusta contra determinadas pessoas ou grupos com base em caraterísticas como a raça, o género, a idade, o estatuto socioeconómico, etc. Para evitar circunstâncias injustas, é importante garantir que os nossos sistemas de IA aprendem com dados diversificados, assegurar a equidade algorítmica e verificar regularmente a existência de preconceitos para os evitar. |
Implementação (20 min)
No passo seguinte, os alunos aprenderão mais sobre exemplos reais de preconceitos na IA. Dependendo da idade dos alunos e da sua literacia em meios de comunicação, pode escolher uma das duas opções seguintes para aprofundar o tema.
Opção 1: Apresente os exemplos preparados aos alunos. Leia as passagens de texto em voz alta ou distribua cópias para os alunos lerem sozinhos. Deixe os alunos refletirem sobre a informação. Em seguida, observe os três perfis e debata qual das pessoas é afetada por cada tipo de preconceito.
Opção 2: Os alunos vão pesquisar na Internet exemplos de preconceitos na IA. Para este exercício, serão divididos em pares. A cada par será atribuído um de três tipos de preconceitos: preconceito racial, preconceito de género ou preconceito geográfico. Devem familiarizar-se com o tema e encontrar um ou dois exemplos em que esse tipo de preconceito tenha ocorrido na vida real. Também pode utilizar os exemplos preparados como pontos de referência durante a pesquisa. Os alunos reúnem os resultados, por exemplo, num quadro digital. Depois, a turma reúne-se para uma discussão em grupo para analisar os resultados e considerar os três perfis. Os alunos devem depois debater qual a pessoa afetada por cada tipo de preconceito.
| Quando pesquisam online, os alunos devem certificar-se de que citam as fontes da informação recolhida, de modo a poderem identificar a origem da informação. Se necessário, mostre aos alunos como citar corretamente. |
Perfil 1
Nome: Sofia
Idade: 35
Profissão: Diretora de Vendas, Indústria Automóvel
Local de residência: Munique
Situação atual: Nas últimas semanas, tenho andado à procura de um novo emprego na indústria automóvel. Tenho muita experiência prática dos meus estágios nos principais fabricantes de automóveis e trabalhei no setor nos últimos 10 anos. Apesar de ter excelentes referências, muitas vezes, nem sequer recebo um convite para uma entrevista de emprego.
Perfil 2
Nome: Jeremia
Idade: 19
Profissão: Formação para ser enfermeiro
Local de residência: St. Louis, Missouri
Situação atual: Terminei a escola no ano passado e comecei a minha formação de enfermeiro há quatro meses num hospital em St. Louis. Embora goste do meu trabalho e dos meus colegas, talvez tenha de mudar de hospital porque a minha família está a planear mudar-se devido à elevada taxa de criminalidade na nossa zona. Na semana passada, o meu irmão Steven foi falsamente acusado de um assalto, o que foi muito assustador.
Perfil 3
Nome: Daniela
Idade: 16
Profissão: Estudante
Local de residência: Barcelona
Situação atual: Na semana passada, comprei um smartphone novo e incrível! Configurei-o e correu tudo bem até tentar desbloqueá-lo. Por algum motivo, o telemóvel não conseguia reconhecer o meu rosto e estava sempre a pedir o código PIN, o que é irritante. Vou levá-lo de volta à loja para que o verifiquem.
Exemplos para sublinhar os diferentes tipos de preconceitos na IA
Estes exemplos do mundo real podem ajudar os alunos a compreender melhor como os preconceitos na IA podem afetar a vida pessoal das pessoas.
Preconceito de género
Uma área comum em que os preconceitos aparecem frequentemente é o emprego. Um problema no setor da tecnologia é que, mesmo com as melhorias registadas ao longo dos anos, as mulheres continuam a estar subrepresentadas nos domínios STEM (ciência, tecnologia, engenharia e matemática). Quando um grande retalhista online criou um sistema de recrutamento automático, rapidamente descobriu que o resultado não era justo. O sistema deveria avaliar os candidatos a emprego com base na sua adequação à função, analisando os currículos de candidatos anteriores. Infelizmente, tornou-se preconceituoso em relação às mulheres. Uma vez que as mulheres estavam subrepresentadas em funções técnicas, o sistema de IA pensou erradamente que os candidatos do sexo masculino se adequariam melhor. Consequentemente, atribuiu uma classificação mais baixa aos currículos das mulheres candidatas. Apesar dos esforços para corrigir o preconceito, o retalhista online deixou de trabalhar com o sistema de recrutamento com IA.
Preconceito racial
Um exemplo real de preconceito racial na IA está presente na tecnologia de reconhecimento facial. Em 2018, um estudo do MIT Media Lab concluiu que os sistemas de reconhecimento facial das principais empresas de tecnologia apresentavam taxas de erro muito mais elevadas na identificação de pessoas de pele mais escura do que de pessoas de pele mais clara. O estudo mostrou que a taxa de erro na identificação de mulheres de pele mais escura era de 34,7%, ao passo que era inferior a 1% nos homens de pele mais clara. Isto deveu-se ao facto de os dados de preparação incluírem maioritariamente imagens de pessoas de pele mais clara. Como resultado, a IA não era tão boa a reconhecer pessoas de pele mais escura, levando a resultados tendenciosos.
Preconceito geográfico
Nos EUA, os tribunais utilizam algoritmos para prever a probabilidade de os arguidos voltarem a cometer crimes. Os juízes integram então estas avaliações nas suas decisões de condenação. Para estas previsões, são utilizados dados históricos, como as estatísticas de criminalidade. Alguns grupos, que foram injustamente visados ou condenados com mais frequência no passado, obtêm previsões piores. Esta discriminação afeta frequentemente pessoas de áreas geográficas específicas nos Estados Unidos, que ainda sofrem de segregação, como os BIPoC (Black, Indigenous, and People of Color, negros, indígenas e pessoas de cor), ou cidadãos financeiramente desfavorecidos, embora isso não deva desempenhar um papel em casos individuais. Consequentemente, os preconceitos e a discriminação existentes são ainda mais reforçados.
Conclusão (10 min)
Para concluir a atividade, peça aos alunos que partilhem as suas ideias sobre o preconceito na IA. Debata as seguintes perguntas relacionadas com os diferentes exemplos de preconceito:
- Tinham conhecimento de que isto poderia acontecer?
- Como é que se sentem ao saber que estes preconceitos existem na IA?
- Qual poderia ser a solução para o problema?
Isto ajudará os alunos a reconhecer os vários problemas relacionados com o preconceito na IA e a compreender como este pode afetar diretamente as pessoas. Além disso, reúna algumas ideias sobre soluções para os preconceitos na IA para verificar se os alunos compreenderam o que causa os preconceitos e como podem ser evitados. Compreender os preconceitos faz parte da garantia de que a IA é utilizada de uma forma que está em conformidade com os nossos valores sociais e princípios éticos.