Capa: Um Beholder é uma criatura fantástica comumente encontrada em jogos como Dungeons & Dragons. Beholders são conhecidos por sua natureza altamente inteligente e paranóica, geralmente habitando covis subterrâneos profundos e guardando ferozmente seus territórios. Eles são notórios por sua habilidade de manipular e controlar a magia, tornando-se adversários formidáveis. Hive of the Eye Tyrant” © Wizards of the Coast, por Tony DiTerlizzi. Acessado em Art of MTG aqui.
“Beauty is in the eye of the beholder”
A frase “Beauty is in the eye of the beholder” foi escrita pela autora irlandês Margaret Wolfe Hungerford. Ela apareceu em sua obra de 1878, intitulada “Molly Bawn”, onde a frase originalmente dizia: “Beauty is in the eye of the beholder, and it may be necessary from time to time to give a stupid or misinformed beholder a black eye.” A frase se tornou popular e é frequentemente usada para expressar a ideia de que a percepção de beleza é subjetiva e varia de pessoa para pessoa.
“No culture can live if it attempts to be exclusive.”
Mahatma Gandhi (1959). “India of My Dreams”, p.173, Rajpal & Sons
Maurício Brant Pinheiro & César Bremer Pinheiro
I. Introdução
O conceito de padrão de beleza é objeto de análise em diferentes sociedades e culturas, representando características físicas e estéticas consideradas ideais. No entanto, é crucial questionar a origem e a validade desses padrões, levando em conta aspectos culturais e biológicos. Neste artigo, exploraremos as origens dos padrões de beleza, destacando sua formação influenciada por fatores culturais e biológicos, assim como o impacto negativo das imagens geradas por inteligência artificial (IA) na percepção da beleza.
Por meio de um experimento com a ferramenta Midjourney, constatamos resultados preocupantes, revelando vieses e tendências problemáticas na representação da beleza, refletindo preconceitos e estereótipos presentes em nossa sociedade. Esses resultados ressaltam a necessidade de enfrentar os preconceitos nos sistemas de IA, buscando uma representação mais justa e inclusiva. As imagens geradas pela IA também contribuem para uma percepção irrealista do corpo, afetando negativamente a autoestima e a saúde mental das pessoas.
Diante desses desafios, é essencial adotar uma abordagem responsável e educativa, promovendo a diversidade e valorizando a singularidade de cada indivíduo. Isso requer a colaboração entre especialistas em IA, psicólogos, ativistas e legisladores, com o objetivo de desenvolver diretrizes éticas e regulamentações adequadas. Ao abordar e corrigir os vieses presentes nos resultados da IA, podemos caminhar em direção a uma sociedade mais inclusiva, onde a diversidade seja valorizada e todos se sintam representados e respeitados, independentemente de sua aparência física.
II. Reflexões sobre as origens de um padrão de beleza
O padrão de beleza é um conjunto de características físicas e estéticas valorizadas e consideradas idealizadas em uma sociedade ou cultura. Ele abrange características corporais, traços faciais e atributos estéticos que são amplamente promovidos como o ideal de beleza. Por exemplo, no ocidente, o padrão de beleza feminino ocidental geralmente inclui características como corpos esbeltos, seios fartos, traços faciais simétricos, pele clara, cabelos claros, longos e sedosos, olhos claros e lábios cheios.
A cultura exerce um papel significativo na definição dos ideais de beleza, influenciando percepções e preferências estéticas por meio da mídia e de outras formas de expressão artística. Até recentemente, representações em filmes, programas de televisão, revistas e campanhas publicitárias promoviam certos padrões de aparência como desejáveis. Por exemplo, no cinema, era comum as atrizes personificarem a “beleza ideal” com uma imagem estereotipada de beleza que favorecia algumas características em detrimento de outras.
Enquanto nas mídias tradicionais, campanhas agressivas envolvendo ações afirmativas buscam desconstruir os padrões de beleza tradicionalmente aceitos no Ocidente, nas mídias eletrônicas, e em particular nas redes sociais, esses mesmos padrões de beleza são reforçados de forma orgânica. Essa dicotomia pode ser atribuída a diversos fatores, como a influência de grandes empresas de publicidade e marcas de moda conservadoras que ainda promovem um padrão de beleza limitado e estereotipado. Além disso, a natureza das redes sociais, com seus algoritmos de recomendação e ênfase na aparência, pode levar a um reforço contínuo desses padrões, amplificando a pressão sobre os indivíduos para se encaixarem nesses ideais inalcançáveis.
Por outro lado os padrões de beleza não se limitam apenas aos seres humanos, mas também podem ser observados no reino animal. Por exemplo, diversas espécies de pássaros exibem plumagens coloridas e elaboradas, apresentando um fenômeno conhecido como dimorfismo sexual, no qual os machos exibem características físicas distintas, como penas brilhantes e caudas longas, com o propósito de atrair as fêmeas. Um exemplo notável é o pavão, cujos machos possuem caudas com padrões e cores exuberantes, que são considerados atraentes pelas fêmeas da espécie.
É fundamental questionar tanto a validade quanto a justiça dos padrões de beleza, levando em consideração não apenas sua origem cultural, mas também sua origem biológica incontestável. A teoria da seleção sexual proposta por Darwin sugere que esses padrões podem ter raízes biológicas (genéticas), uma vez que certas características físicas consideradas atraentes estão associadas à saúde, fertilidade e aptidão genética. Além disso, essas características podem influenciar a seleção de parceiros e a perpetuação de uma espécie por meio da seleção natural, incluindo a predisposição para vencer a disputa por território (e recursos) inerente à maioria das espécies. Portanto, é crucial reconhecer que a origem dos padrões de beleza transcende o contexto cultural, envolvendo uma complexa interação entre fatores biológicos, culturais e sociais na sua definição. Assim, torna-se essencial buscarmos uma compreensão mais ampla e crítica desses padrões.
Na próxima seção, aprofundaremos a análise dos padrões irreais e estereotipados de beleza perpetuados pela IA generativa, independentemente de suas causas culturais ou biológicas. Investigaremos os vieses de treinamento presentes nessas representações, buscando uma compreensão mais abrangente e crítica desses fenômenos.
III. O impacto negativo das imagens geradas pela IA
Com o avanço da tecnologia de IA, surgiram ferramentas generativas de imagens, como Dall-E 2, Stable Diffusion e Midjourney, que foram treinadas com enormes conjuntos de dados da internet, e em especial de plataformas de redes sociais para criar representações dos rostos e dos corpos masculinos e femininos “perfeitos”. Essas ferramentas de IA levaram em consideração métricas de engajamento, acessos, visualizações, curtidas e comentários, além de resultados de pesquisas na internet, para determinar as preferências sociais.
A seguir, apresentaremos os resultados estarrecedores da análise de vieses de treinamento, que revelam a influência dos padrões de beleza exclusivos ainda predominantes em nossa sociedade ocidental. Para realizar um teste simples e esclarecedor, utilizamos imagens geradas pelo Midjourney, com prompts básicos e diretos. É importante ressaltar que qualquer pessoa pode realizar essa experiência, e que os resultados não são atribuíveis ao algoritmo em si, mas sim ao vasto conjunto de dados de treinamento usado que refletem os preconceitos e estereótipos presentes em nossa sociedade.
1) Prompt: The most beautiful child, white background
2) Prompt: The most beatiful lady, white background
3) Prompt: The most beatiful lady, black background
4) Prompt: The most beatiful lady, white background, full body.
5) Prompt: The most beautiful 60 year old lady, white background
6) Prompt: The most beautiful man, white background
A análise dos resultados acima, gerados pela IA, revela a ligação dos padrões de beleza com certas características físicas e estéticas, abrangendo homens, mulheres, crianças e idosos. Esses padrões refletem a persistência de ideais ultrapassados, com uma ênfase desproporcional em características caucasianas e uma representação extremamente limitada de diversidade étnica. É lamentável que apenas duas das 60 imagens geradas (cerca de 3% do total) sejam exceções a esse padrão.
É importante ressaltar que o midjourney é uma ferramenta espetacular de IA generativa. Ao utilizar a engenharia de prompt adequada, é possível gerar belíssimas imagens que representam uma ampla gama de diversidade racial. No entanto, é crucial mencionar que, apesar de sua capacidade de gerar imagens diversificadas, o Midjourney pode ser suscetível a viés nos dados de treinamento, especialmente quando os prompts são simplificados.
O viés nos dados de treinamento ocorre quando o conjunto de dados utilizado para treinar o modelo não representa adequadamente a diversidade da população. Isso pode levar a resultados gerados pelo midjourney que reproduzem e perpetuam estereótipos ou preconceitos existentes na sociedade. Por exemplo, se o conjunto de dados de treinamento contiver predominantemente imagens de uma determinada raça, o modelo pode ter dificuldade em gerar com precisão imagens representativas de outras raças.
No entanto, com a conscientização sobre a importância da diversidade e a adoção de práticas de engenharia de prompt adequadas, é possível mitigar esses viéses. A engenharia de prompt envolve a formulação cuidadosa de instruções ou sugestões para o modelo, a fim de orientar sua resposta de maneira mais inclusiva e diversificada.
Ao criar prompts para o midjourney, os pesquisadores e desenvolvedores podem garantir que a diversidade racial seja levada em consideração. Isso pode ser feito por meio de instruções explícitas que enfatizem a importância da representação equitativa de todas as raças e incentivem o modelo a gerar imagens que abranjam essa diversidade. Um exemplo é nossa galeria criada em homenagem ao dia 14 de maio, dia das Mães.
Esses resultados destacam a necessidade de enfrentar os preconceitos presentes nos sistemas de IA e buscar uma representação justa e inclusiva em todos os aspectos da sociedade.
A preocupação vai além da exclusão e marginalização de indivíduos que não se enquadram nesses padrões restritivos de beleza. As imagens geradas pela IA também contribuem para uma percepção irreal da beleza, semelhante às imagens altamente editadas por filtros nas redes sociais. Esses padrões inatingíveis afetam negativamente a autoestima e a saúde mental das pessoas. A responsabilidade por esses resultados não é do algoritmo generativo em si, mas sim dos dados de treinamento que refletem os estereótipos da sociedade (talvez em parte daqueles algorítmos que impulsionam as redes sociais). É fundamental avaliar criticamente esses dados e buscar uma diversidade mais ampla e inclusiva, valorizando a singularidade e a autenticidade de cada indivíduo.
IV. Como mudar esse paradigma?
A mudança desse paradigma requer uma abordagem cuidadosa e responsável. Propostas de ações afirmativas têm sugerido introduzir vieses deliberados nos dados de treinamento da IA, mas é importante explorar os perigos dessa tentativa. Forçar vieses nos dados pode resultar em substituir um ideal inatingível por outro, perpetuando a exclusão de grupos marginalizados e contribuindo para a marginalização de novos grupos. Além disso, essa abordagem artificial e imposta ao público pode levar a uma maior polarização na sociedade, ampliando consideravelmente os preconceitos existentes.
É importante reconhecer que impor padrões de beleza de forma arbitrária e artificial pode gerar consequências negativas, tanto em termos de exclusão como no fortalecimento e substituição de estereótipos prejudiciais. Portanto, ao abordar a questão dos padrões de beleza, é fundamental adotar uma postura responsável e buscar uma abordagem educativa que promova a diversidade e valorize a autenticidade de cada indivíduo, evitando a imposição de ideais prejudiciais à sociedade.
É também essencial fomentar a educação sobre imagem corporal e alfabetização midiática, capacitando as pessoas a reconhecerem os padrões impostos pela mídia e resistir aos ideais irreais de beleza. A colaboração entre especialistas em IA, psicólogos, ativistas e legisladores desempenha um papel fundamental no desenvolvimento de diretrizes éticas e regulamentações adequadas.
Todos têm um papel na transformação desse cenário, questionando os ideais de beleza estabelecidos e promovendo uma cultura que celebre a diversidade. Empresas e marcas também devem assumir a responsabilidade de garantir que seus algoritmos sejam treinados com dados mais diversos, evitando a perpetuação dos padrões prejudiciais de beleza. Ao reconhecer e corrigir os vieses presentes nos resultados da IA, podemos caminhar em direção a uma sociedade mais inclusiva, onde a beleza seja valorizada em sua diversidade e todos se sintam representados e respeitados, independentemente de sua aparência física. A conscientização e a ação coletiva são essenciais para alcançar essa transformação.
V. A guerra política dos vieses
É crucial reconhecer que vieses políticos podem estar presentes e infiltrados em diversas áreas, desde a comunicação digital até a publicidade e as redes sociais. É fundamental abordar esses vieses de maneira específica, sem negligenciar sua importância em detrimento de outros vieses, como os da IA generativa.
Atualmente, estamos testemunhando uma intensa disputa ideológica, na qual indivíduos como Elon Musk estão desenvolvendo software para contrapor o que consideram como viés de esquerda do ChatGPT. Essa dinâmica ressalta a necessidade de examinar de forma crítica os vieses políticos e os impactos que eles podem ter. É importante reconhecer que a IA, assim como qualquer outra ferramenta, pode refletir os preconceitos e as inclinações políticas de seus criadores e usuários.
Um exemplo preocupante é a tendência observada entre os estudantes de apresentarem trabalhos de escola como se fossem seus e, consequentemente, sentirem-se compelidos a defender o que foi escrito, mesmo que não reflita necessariamente suas próprias convicções. Esse fenômeno pode levar os estudantes a caírem na armadilha da doutrinação, perdendo a capacidade crítica de questionar e formar suas próprias opiniões.
Além disso, é necessário considerar os potenciais novos vieses políticos que podem surgir nos mecanismos de busca, impulsionados por IA. À medida que essas ferramentas se tornam cada vez mais avançadas, há o risco de que sejam utilizadas como poderosas ferramentas de doutrinação, influenciando a forma como as informações são apresentadas e filtradas para os usuários. Essa questão é de extrema importância, pois pode ter implicações significativas na formação de opiniões e na disseminação de informações precisas e imparciais.
É fundamental abordar e discutir esses vieses políticos, mantendo uma postura imparcial e crítica. A transparência, o debate aberto e a diversidade de perspectivas são essenciais para garantir que as tecnologias de IA sejam desenvolvidas e utilizadas de forma ética, promovendo a liberdade de pensamento e evitando a manipulação e a doutrinação ideológica.
VI. Conclusões
A análise dos padrões de beleza revela a complexidade de sua formação, com influências culturais, sociais e biológicas interagindo de maneira intrincada. A tecnologia de inteligência artificial (IA) levanta preocupações sobre a perpetuação de padrões irreais e estereotipados, aumentando a pressão sobre os indivíduos para se encaixarem em ideais inalcançáveis. Para mudar esse paradigma, é crucial adotar uma abordagem cuidadosa e responsável, evitando a imposição arbitrária e artificial de novos padrões de beleza que possam excluir e marginalizar grupos e reforçar os preconceitos existentes. A solução está em promover uma abordagem inclusiva que valorize a diversidade e a autenticidade de cada indivíduo.
A educação sobre imagem corporal e a alfabetização midiática desempenham um papel fundamental ao capacitar as pessoas a resistirem aos ideais irreais de beleza impostos pela mídia. A colaboração entre especialistas em IA, psicólogos, ativistas e legisladores é essencial para o desenvolvimento de diretrizes éticas e regulamentações adequadas. Transformar o cenário atual requer conscientização e ação coletiva. Cada um de nós pode questionar os ideais de beleza estabelecidos e suas causas, mas promover uma cultura que celebre a diversidade é obrigação de todos. Empresas e marcas têm a responsabilidade de treinar seus algoritmos com dados mais diversos, evitando a perpetuação de padrões prejudiciais de beleza.
Ao reconhecer e corrigir os vieses presentes nos resultados da IA, podemos caminhar em direção a uma sociedade mais inclusiva, onde a beleza seja valorizada em sua diversidade e todos se sintam representados e respeitados, independentemente de sua aparência física. A conscientização e ação coletiva são essenciais para alcançar essa transformação e promover um ambiente que celebre a beleza em todas as suas formas, promovendo o bem-estar de todos.
O Projeto Bulimia, um grupo de conscientização sobre transtornos alimentares, solicitou à inteligência artificial (IA) que produzisse corpos masculinos e femininos “perfeitos”, de acordo com o que gera maior engajamento nas redes sociais. Leia mais sobre este estudo aqui.
Todas as imagens geradas pelo Midjourney para este estudo fora produzidas por César Bremer Pinheiro e estão registradas como NFTs em blockchain na Opensea.io para fins de proteção dos direitos autorais.
#IA #InteligênciaArtificial #Viés #IAsemViés #SociedadeInclusiva #PadrãoDeBeleza #EmpoderamentoAtravésDaIA #ExclusãoPelaIA #DadosViesados #Diversidade #CorpoPerfeito #RostoPerfeito #MarginalizaçãoPelaIA #DiversidadeÉtnica #QuebrandoPadrõesDeBeleza #InclusãoComIA #DiversidadeComIA #IAparaTodos #IAÉtica #JustiçaNaIA #RepresentaçãoEquitativa #PositividadeCorporal #RedefinindoPerfeição #AInclusãoImporta #OportunidadeIgual #JustiçaDeDados #AbraçandoDiferenças #EmpoderamentoAtravésDaIA #ResponsabilidadeNaIA #RepresentaçãoImporta #InclusãoCultural #PromovendoIgualdade #CombateÀDiscriminação #CriandoEquilíbrio #IAparaOBemSocial
Copyright 2024 AI-Talks.org