Por Aaron Spitler, do Global Voices
A cada ano que passa, a inteligência artificial (IA) parece estar cada vez mais incorporada no nosso dia a dia. Ao redor do mundo, as pessoas estão se familiarizando com as particularidades dessa inovação. Elas também estão começando a ver suas potenciais vantagens. Recentemente, uma pesquisa global conduzida pela Ipsos, uma empresa de pesquisa de mercado, revelou que 55% dos entrevistados sentiram que as soluções baseadas em IA oferecem mais benefícios do que desvantagens. Resultados como esse deixam claro que, apesar da ansiedade em torno dessa tecnologia, o público continua intrigado com o que ela pode fazer. As empresas notaram essa percepção e estão vendendo seus produtos enfatizando sua eficiência e usabilidade. Dada a forma como o investimento privado em IA aumentou na última década, as evidências sugerem que os consumidores compraram esse discurso.
No entanto, nem todos estão convencidos. Membros da comunidade lésbica, gay, bissexual, transgênero e queer+ (LGBTQIA+) têm prestado mais atenção às desvantagens associadas à IA. Muitos problemas podem ser rastreados até os dados usados para treinar modelos, que muitas vezes estão repletos de estereótipos e equívocos sobre as pessoas LGBTQIA+. No entanto, os impactos “offline” da IA podem ser igualmente alarmantes. A incorporação da tecnologia em sistemas projetados especificamente para identificar e vigiar os membros da comunidade, por exemplo, é uma das primeiras coisas a vir à mente. Do desenvolvimento à implantação, essas questões ilustram como as ferramentas aprimoradas por IA costumam ser mais prejudiciais do que úteis para a comunidade LGBTQIA+. Sem medidas de proteção adequadas para o uso dessa tecnologia, muitos podem achar que ela é consideravelmente mais perigosa do que eficaz.
Digitalizando estereótipos estabelecidos
Para entender como a IA pode afetar negativamente os indivíduos LGBTQIA+, é importante começar pelos dados que alimentam os modelos. A “Wired” destacou que, quando solicitadas a retratar membros da comunidade, as ferramentas populares de geração de imagem produziram resultados redutivos. Por exemplo, a ferramenta Midjourney frequentemente retratava mulheres lésbicas como figuras austeras com inúmeras tatuagens. Dados extraídos da internet podem ser os culpados por essas representações extremamente simplistas (e ofensivas) da vida queer. Grande parte das informações disponíveis aos modelos sobre a comunidade LGBTQIA+ é influenciada por estereótipos. Como resultado, ferramentas como a Midjourney estão extremamente propensas a reproduzir essas visões enviesadas em suas imagens. Embora métodos alternativos, como a rotulagem de dados aprimorada (data labeling), possam aumentar a precisão do modelo, podem ser insuficientes devido à grande quantidade de conteúdo depreciativo encontrado online.
Retratos falhos da comunidade LGBTQIA+ por modelos de IA não são um problema isolado. Na verdade, muitas das ferramentas de IA que dominam o mercado geram resultados distorcidos em relação a esse grupo. Em um relatório que avalia os pressupostos orientadores que definem os grandes modelos de linguagem (LLMs), a Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO) identificou que as ferramentas amplamente utilizadas, como a Lhama 2 da Meta e o GPT-2 da OpenAI, são moldadas por atitudes heteronormativas. De acordo com a pesquisa, esses LLMs criaram conteúdo negativo sobre pessoas gays em mais da metade do tempo de suas simulações. As descobertas da UNESCO não apenas ressaltam a homofobia generalizada no treinamento de dados consumidos por soluções proeminentes de IA generativa; elas também mostram a incapacidade dos principais desenvolvedores de abordar efetivamente essa questão de amplo impacto.
Reforço da vigilância pública
O dano que a IA pode impor sobre indivíduos LGBTQIA+ não se limita ao espaço digital. Sistemas que utilizam a IA, os quais supostamente detectam o gênero daqueles que frequentam espaços públicos, tem chamado muita atenção. A Forbidden Colours, uma ONG belga pela defesa dos direitos LGBTQIA+, enfatizou os desdobramentos problemáticos das ferramentas de IA para o “reconhecimento automático de gênero” (AGR). As soluções AGR analisam conteúdo audiovisual, como imagens de câmeras de segurança, para tirar conclusões sobre o gênero de uma pessoa, utilizam-se de elementos como suas características faciais e padrões vocais. Esses sistemas de ponta são inerentemente problemáticos. Como afirma a organização, é impossível detectar como uma pessoa compreende seu gênero estudando exclusivamente como ela se parece ou fala. Nesse sentido, construir soluções que classifiquem os indivíduos usando essas características arbitrárias é, na melhor das hipóteses, equivocado e, na pior, perigoso.
Apesar de falhas evidentes, os sistemas AGR têm seus defensores. Particularmente, os governos expressamente antagônicos à comunidade LGBTQIA+ adotaram essas ferramentas, com muitos justificando suas decisões em nome da segurança pública. Por exemplo, o Politico Europe informou como o primeiro-ministro húngaro Viktor Orbán sancionou o uso de monitoramento biométrico habilitado por IA em eventos locais do Orgulho LGBTQIA+. O político de extrema-direita afirmou que tais medidas protegeriam as crianças das pautas LGBTQIA+. Na verdade, a medida permite que o governo e seus aliados na lei vigiem artistas, ativistas e cidadãos comuns nesses eventos. Embora essa política esteja sendo revista pelas instituições da União Europeia, sua implementação serve como um forte lembrete de como a IA pode ser usada para intimidar líderes LGBTQIA+ que se mobilizam para a mudança.
Alterando a equação
Para os membros da comunidade LGBTQIA+, as compensações relacionadas à IA são íngremes. Embora essa tecnologia inovadora possa ter pontos positivos para a população em geral, ela apresenta desafios específicos que podem impactar desproporcionalmente usuários queer. Ferramentas comuns, tais como geradores de imagens e textos, foram encontradas circulando narrativas prejudiciais recorrentes sobre a vida LGBTQIA+, que são difíceis de eliminar. Fora do mundo digital, a implantação da IA em espaços offline também apresenta riscos significativos. Sua incorporação aos sistemas de vigilância, muitas vezes com o objetivo explícito de rotular os gêneros daqueles pegos na armadilha, coloca-se como uma afronta à privacidade individual. Reunidos, esses exemplos demonstram como muitas das ferramentas de IA que remodelaram nossas experiências do dia a dia não foram projetadas com todos os tipos de pessoas em mente.
Líderes de todos os setores devem tomar medidas para reverter essa tendência. Começando por parcerias entre desenvolvedores e partes interessadas na comunidade LGBTQIA+. A colaboração construtiva pode ajudar a garantir que os dados de treinamento usados pelos modelos de IA reflitam com mais precisão as realidades vividas por pessoas queer. Também deve incluir garantias robustas para evitar o uso indevido de IA na vigilância da comunidade. Sistemas equipados com recursos de detecção de gênero devem ser estritamente proibidos, pois eles reduzem o direito de um indivíduo à privacidade. Criticamente, a contribuição de indivíduos LGBTQIA+ deve ser solicitada em todas as fases de desenvolvimento de uma ferramenta. Essa cooperação não apenas reduziria os inúmeros danos apresentados pela IA, mas também aumentaria a probabilidade de os membros dessa comunidade começarem a ver a tecnologia como um valor agregado.
Tradução de Marcus Henrique
Este post é parte da Global Voices, uma iniciativa internacional de jornalismo baseado em uma licença Creative Commons. O objetivo é cobrir diferentes realidades através de uma comunidade de jornalistas em diferentes partes do mundo. Conheça o projeto.
Leia mais reportagens
- Secult-PE reconhece desafios em editais, mas diz que não interfere na decisão dos pareceristas
- PNAB em Pernambuco: Pareceristas se defendem
- Construída para todos? Inteligência artificial e a comunidade LGBTQIA+
- Falta de transparência no processo seletivo atropela resultado
- PNAB estadual: pareceristas na berlinda
