Carreiras & Negócios
SEGUIR
SEGUINDO
Carine Roos: “A tecnologia não é neutra; ela pode perpetuar desigualdades”
Em entrevista Paola, especialista em diversidade corporativa reflete sobre os impactos (e os limites) da inteligência artificial
Nascida em Manaus, Carine Roos, 39 anos, é mestra em gênero pela London School of Economics and Political Science (Londres, Inglattera). Também é pós-graduada em equilíbrio emocional nas organizações pelo Santa Barbara Institute for Consciousness Studies (Califórnia, EUA).
Atua como especialista em Diversidade, Equidade e Inclusão (DE&I) há 10 anos. Hoje, ela lidera a Newa, empresa de impacto social fundada em São Paulo, que prepara corporações para um futuro mais inclusivo.
É uma startup que oferece o desenvolvimento de lideranças compassivas, que atuem na construção de ambientes mais inclusivos e psicologicamente seguros a partir do florescimento humano. Entre seus clientes, estão Accenture, Kraft Heinz, Grupo Pan, Itaú, Cogna Educação e Via Varejo.
Confira a entrevista a seguir com Carine Roos:
Qual lugar a Inteligência Artificial (IA) ocupa hoje na vida das mulheres e para onde estamos caminhando?
Quando pensamos na ocupação da Inteligência Artificial na vida das mulheres, é essencial aplicar lentes de gênero e interseccionalidade, pois esses grupos são frequentemente afetados de maneira desproporcional em comparação a outros, como homens brancos e heterossexuais.
A sub-representação das mulheres em cargos de liderança e supervisão é evidente, especialmente nas empresas de tecnologia. Na área de desenvolvimento, por exemplo, há uma baixíssima representação de mulheres, o que muitas vezes resulta em decisões de gestão de algoritmos que não consideram adequadamente as necessidades e especificidades enfrentadas pelas mulheres no local de trabalho.
É importante considerar a segmentação de trabalhos precarizados?
Com certeza. As mulheres são frequentemente empurradas para funções mais propensas a serem controladas por algoritmos, que são frequentemente mal pagos e precarizados, como serviço ao cliente, cuidado e assistência.
Em plataformas com gestão automatizada por algoritmos, essa precarização pode ser intensificada devido à falta de um olhar responsável, cuidadoso e ético sobre as necessidades das mulheres. Além disso, a não consideração do trabalho não remunerado contribui para essa invisibilidade.
Em uma sociedade cada vez mais automatizada, o trabalho de cuidado que muitas mulheres realizam, como tarefas domésticas e o cuidado de pessoas idosas, doentes e crianças, é frequentemente ignorado, reforçando ainda mais a desigualdade de gênero.
O que é uma abordagem feminista sobre a IA?
Uma abordagem feminista sobre a IA implica aplicar uma visão crítica sobre a tecnologia. Ao refletir sobre a inteligência artificial através dessa lente, estamos questionando as estruturas de poder que influenciam o desenvolvimento e a implementação dessa tecnologia.
Uma análise importante a ser feita é: Quem está desenvolvendo a tecnologia? Para quem ela é projetada? Como ela impacta diferentes grupos? Incluir uma abordagem feminista na IA significa defender a inclusão de diferentes perspectivas no processo para evitar vieses algorítmicos e garantir que a tecnologia beneficie todas as pessoas.
Isso inclui a diversidade nas equipes para criar produtos mais justos e inclusivos. Além disso, aplicar uma lente de justiça e ética é crucial, pois essa abordagem enfatiza a necessidade de maior justiça social e ética no desenvolvimento das tecnologias.
Isso envolve garantir maior transparência dos algoritmos, entender como eles são desenvolvidos e responsabilizar empresas e desenvolvedores por suas criações.
Desafiar a narrativa dominante de que a tecnologia é neutra é essencial. A tecnologia não é neutra; ela pode perpetuar desigualdades.
Por exemplo, no caso do reconhecimento facial, há muitos casos que mostram como essa tecnologia muitas vezes apresenta precisão reduzida para pessoas negras, refletindo um viés na coleta de dados e no design do sistema.
Aplicar essa lente significa promover uma participação mais ativa de mulheres e grupos marginalizados na criação da tecnologia. Isso não está relacionado apenas à representação, mas também a como fortalecemos e incluímos esses grupos nas decisões estratégicas do desenvolvimento tecnológico.
Quais são as questões que mais te afetam e como a IA pode ser mais justa e inclusiva?
Para começar, é fundamental incluir os grupos tradicionalmente marginalizados no desenvolvimento tecnológico, como mulheres, pessoas pretas e indígenas.
Quando temos uma tecnologia que é uma “caixa fechada”, onde não sabemos como esses algoritmos são desenvolvidos, de que forma usam os dados e se respeitam a privacidade, é difícil criarmos uma tecnologia justa e ética.
Para alcançar isso, a tecnologia precisa ser transparente em sua implementação e desenvolvimento, deve cuidar do uso de dados pessoais e assegurar que não reproduza e sustente estereótipos baseados em gênero, raça e etnia.
Todas essas questões são cruciais para a inteligência artificial. É essencial promover essa discussão, que deve ser multistakeholder. Esse debate não deve ser restrito às empresas; precisamos da participação de governos e da educação da sociedade civil sobre IA para pensar em estratégias coletivas que desenvolvam uma tecnologia mais inclusiva, justa e que efetivamente resolva os problemas da sociedade.
Assine a newsletter de CLAUDIA
Receba seleções especiais de receitas, além das melhores dicas de amor & sexo. E o melhor: sem pagar nada. Inscreva-se abaixo para receber as nossas newsletters:
Acompanhe o nosso Whatsapp
Quer receber as últimas notícias, receitas e matérias incríveis de CLAUDIA direto no seu celular? É só se inscrever aqui, no nosso canal no WhatsApp.
Acesse as notícias através de nosso app
Com o aplicativo de CLAUDIA, disponível para iOS e Android, você confere as edições impressas na íntegra, e ainda ganha acesso ilimitado ao conteúdo dos apps de todos os títulos Abril, como Veja e Superinteressante.
