Mulheres podem ser ciborgues? Gênero, Feminismo e Inteligência Artificial

- Camila Palhares Barbosa

Doutora em Filosofia pela Pontifícia Universidade Católica do Rio Grande do Sul

A relação entre gênero e conhecimento tem sido um dos principais tópicos de debate do movimento feminista. Mais especificamente, a demanda pelo acesso justo e igual de mulheres à educação e a possibilidade da produção do conhecimento, data já dos primeiros textos considerados “feministas”. Em “Uma reivindicação dos Direitos das Mulheres” (1791), Wollstonecraft afirma que “os direitos pelos quais as mulheres, juntamente com os homens, devem lutar, [...] são a consequência natural de sua educação e sua posição na sociedade”. A busca pelo rompimento do aprisionamento de mulheres no espaço privado e doméstico, permaneceu base do pensamento feminista - seja pela inclusão na educação e nos processos democráticos da primeira onda, pela inseção no mercado de trabalho e da autonomia sobre si da segunda onda, seja pela igualdade de oportunidades de diferentes mulheres em situações particulares à esfera pública pela terceira onda do movimento. Apesar dos inúmeros ‘telhados de vidro’ que o movimento rompeu, nós, mulheres, ainda permanecemos à margem de diversos espaços de conhecimento, como nos corpos docentes da academia, nos altos cargos em empresas privadas, nas lideranças de governos, e mesmo, em campos que ainda permanecem vistos como masculinos: como os das ciências e da tecnologia.

A paridade de participação de indivíduos mulheres, não-brancos, LGBTQ+ e outros grupos marginalizados nos campos do saber é, sem dúvidas, um requisito para alcançarmos algum modelo de sociedade justa e verdadeiramente democrática. Ainda, que esses grupos encontram nesses espaços um lugar de resistência e desconforto em função de estruturas heteronormativas, misóginas e racistas, que alienam esses sujeitos dessas atividades, já são bastante reivindicados.

A provocação da pergunta “Podem as mulheres serem ciborgues?”, contudo, vai além da questão do acesso igualitário de mulheres no campo do desenvolvimento de tecnologias e de inteligência artificial - busca investigar se questões de gênero trazem implicações para o conteúdo do conhecimento em si, isto é, como percepções de distinções de gênero afetam o conteúdo universal e transcendente do conhecimento objetivo, especialmente, em sistemas de inteligência artificial parecem tornar obsoletas definições de sexo e gênero.

Epistemologia feminista: uma crítica a razão universal descorporificada

Em “The Man of Reason” (1985), Genevieve Lloyd aponta para o caráter masculino

que noções de racionalidade e conhecimento escondem por detrás das pressuposições de universalidade e objetividade no decorrer da história do pensamento filosófico. Segundo a autora, “nossa crença de que a razão não. conhece nenhum sexo tem, argumento, em grande medida, enganado a si mesma”, pois a separação de formas do conhecimento daquela ‘racional’, da ‘passional’, permitiu a exclusão ou hierarquização do conteúdo dos saberes, o que, em função das distinções de gênero que estrutuam a sociedade, produzem “não apenas razões práticas, mas também conceituais, para os conflitos que muitas mulheres experienciam entre Razão e feminilidade” (LLOYD, 1985, p. 10). Ao encontro dessa perspectiva, Alison Jaggar, em “Love and knowledge: Emotion in feminist epistemology” (1989), esclarece o aprisionamento das noções de conhecimento aos modelos dicotômicos, que retiram a experiência sensível da possibilidade de informar um saber objetivo, contribuíram para a valorização de certos conceitos de conhecimentos:

“Normalmente, embora não invariavelmente, o racional foi contrastado com o emocional, e este par contrastado, então, muitas vezes ligado a outras dicotomias. Não só a razão foi contrastada com a emoção, mas também também foi associado ao mental, ao cultural, ao universal, ao público e o masculino, enquanto a emoção tem sido associada ao irracional, o físico, o natural, o particular, o privado e, claro, o feminino" (JAGGAR, 1989, p. 151).

O campo da epistemologia feminista tem se debruçado recentemente em enfrentar o problema do gênero frente à objetividade do conhecimento. Para diversos indivíduos que estão à margem da produção da ciência, tecnologia e do conhecimento, pensá-lo enquanto desinteressado, imparcial e sem julgamento de valor, parece confrontar a experiência destes com a história da ciência moderna.

Sandra Harding na obra “Whose science? whose knowledge?: thinking from women's lives” (1986), articula três importantes e distintos programas epistemológicos feministas:

• Filosofia feminista empiricista - que busca corrigir a “má ciência”;

• Ponto de perspectiva feminista - que contrói o conhecimento a partir da experiência particular de mulheres;

• Feminismo pós-moderno - que suspeita dos comprometimentos com o projeto iluminista das ciências e epistemologias (HARDING, 1986, p. 11).

Esses programas epistemológico trazem, de diferentes maneiras, questionamentos e contribuição para uma espécie de método feminista, uma investigação que se comprometa com uma análisecrítica da objetividade que revele os padrões masculinos dos métodos padrões do conhecimento. Segundo Harding (1986, p. 41):

“Uma maneira de ver esse problema é perceber que, embora os métodos científicos sejam selecionados, dizem, exatamente para eliminar todos os valores sociais da investigação, eles são realmente operacionalizados para eliminar apenas aqueles valores que diferem dentro do que quer que seja considerado pela comunidade de cientistas. Se valores e interesses que podem produzir mais críticas perspectivas sobre a ciência são silenciadas por meio de ações sociais e práticas discriminatórias, o padrão, concebido estreitamente como método científico, não terá a menor chance de maximizar a neutralidade de valor ou objetividade”.

A tensão expostapelas críticas da epistemologia feminista, tanto aos cientistas sociais quanto das ciências naturais, foi aquela da relação entre poder e conhecimento. Diversas críticas se debruçaram em expor que o método científico universal, de fato, investigava e debatia problemas relativos apenas a experiência masculina, que as narrativas científicas serviam aos interesses dos homens brancos, e que toda a ordem simbólica por meio da qual o conhecimento é reivindicado foram articulados privilegiando o masculino e conceituando o feminino apenas como aquilo que carecia de masculinidade. A crítica à objetividade, aquele conhecimento do mundo como ele é, independente do sujeito conhecedor, buscou demonstrar que tal conhecimento carrega, inevitavelmente, traços da subjetividade nos métodos tidos como universais.

Muitas destas metodologias feministas têm apontado para o fator situado do conhecimento. Uma visão epistemológica situada, como defendem diversas autoras, não representa um necessário relativismo, mas propõe enquanto ponto de partida metodológico que objetividade e subjetividade não são duas oposições numa investigação científica, mas podem ser construídas de maneira dialética (ver FIUMARA, LAZREG, 1994). Ou seja, que objetividade e subjetividade estão em um constante processo de formação.

Em “Saberes localizados: a questão da ciência para o feminismo e o privilégio da perspectiva parcial” (1995), Donna Haraway defende que “a alternativa para o relativismo são saberes parciais,localizáveis, críticos, apoiados na possibilidade de redes de conexões, chamadas de solidariedade em política e de conversas compartilhadas em epistemologia” (HARAWAY, 1995, p. 24), assim, o conhecimento situado não está num lugar fixo de oposição aquele totalitário, universal; mas, está de fato, em uma “prática da objetividade que privilegie a contestação, a desconstrução, as conexões em rede e a esperança na transformação dos sistemas de conhecimento”, que possam conhecer o mundo de forma menos organizadas a partir de eixos de dominação de saberes. A proposta de Haraway é de uma visão diferente da objetividade, e aqui, digo ‘visão’ em razão do enfoque dado pela autora ao fator corpóreo sensorial da visão para nos colocar no mundo, não de maneira estritamente passiva frente ao objeto do conhecimento, mas como “sistemas de percepções ativos, construindo traduções e modos específicos de ver” (HARAWAY, 1995, p. 22). A visão, enfoca Haraway, depende daquilo que podemos ver, de sistemas de percepções que produzem significados no mundo, do posicionar-se enquanto um olho que vê, traduz, descrever reproduz. Com isso, aquilo que se quer descartar é a produção totalitária do conhecimento, este que disfarça sua posição masculina, no universal e inteiro, em detrimento de uma visão do:

“[...] eu cognoscente [que] é parcial em todas suas formas, nunca acabado, completo, dado ou original; é sempre construído e alinhavado de maneira imperfeita e, portanto, capaz de juntar-se a outro, de ver junto sem pretender ser outro. Eis aqui a promessa de objetividade: um conhecedor científico não procura a posição de identidade com o objeto,mas de objetividade, isto é, de conexão parcial” (HARAWAY, 1995,p. 26).

Uma crítica da objetividade, contudo, não implica que coloquemos o bebê fora com a água do banho - como bem destaca Marnia Lazreg em “Women’s experience and feminist epistemology” (1994), uma questão que permanece interessante para a crítica da ciência descorporificada, aquela que não permite que uma experiência possa ser considerada uma forma de conhecimento, é se toda experiência é válida da mesma forma como conhecimento, ou seja, se um ‘método científico feminista’ contém ou precisa conter critérios científicos bem definidos de análise. Como bem coloca Haraway, o relativismo recai no mesmo problema geral do objetivismo, um “truque de Deus”: enquanto objetivismo é um conhecimento de lugar nenhum (transcendente), o relativismo promete ser um conhecimento de todos os lugares ao mesmo tempo e igualmente (onipresente). O conhecimento precisa ser visto como parcial e situado, não relativo, em processo de emergência.

Afinal, uma visão epistemológica da experiência das mulheres precisa também não cair nas armadilhas essencialistas que o feminismo busca criticar, isto é, não pode ser tomada como um local situado fixo e total, já que, como temos visto nos debates recentes, especialmente após a terceira onda do movimento feminista, a categoria ‘mulher’ enquanto uma posição específica do saber ignora a multiplicidade e variedade de experiências e intersecções da vivência humana, que perpassam por questões além do gênero, como raça, etnia, nacionalidade e sexualidade, por exemplo. A conclusão de Lazreg destaca que a:

“A escolha não é entre ciência e experiência, objetividade e subjetividade. O ponto é perceber que a objetividade é uma meta cada vez menor e se esforçar para alcançá-la é um processo histórico sem fim” (LAZREG, 1994, p. 59).

A investigação científica comprometida com a crítica feminista parece apontar para insuficiencia dos modelos majoritários que estabelecem critérios de racionalidade e objetividade enquantro uma visão situada em lugar nenhum, mas capaz de ver o obejto de pesquisa de maneira total. Essa pretensão de universalidade implicou nos mais diversos campos, das ciências sociais, naturais e exatas, o obscurecimento de um padrão que favorece uma visão masculina de mundo. Com isso, temos um reconhecimento recente de que o conhecimento é situado num mundo estruturado por configurações de gêneros, afinal,os cientistas que veem, traduzem representam a realidade do mundo, são situados nestes locais generificados.

Um ponto de intersecção entre gênero, robótica e inteligência artificial para o debate do conhecimento nas ciências e tecnologias emerge na medida em que esses sistemas parecem estar livres dos limites de gêneros e, logo, de seus desdobramentos no resultado das formas de conhecimento. Mais ainda, podemos pensar em que sentido essas tecnologias tendem a influenciar nossos conceitos atuais de diferenças sexuais e de gênero?

Gêneros e Inteligência Artificial

A descrição feita por Lloyd em "The man of reason” (1985) aponta para a busca, que perpassa a história da filosofia, por uma espécie de conhecimento e razão mais pura, livre de qualquer influência das paixões e corporeidade humana. Em certo sentido, podemos ver os sistemas de inteligência artificial como a forma onde essa razão pura alcança sua maior potencialidade. A pergunta que surge, ao nos comprometermos com uma metodologia feminista de epistemologia como descrita é, afinal, podem existir vieses de gênero no campo da Inteligência Artificial?

Em um primeiro momento, a narrativa desses sistemas descorporificados que não podem ser classificados como feminino/ masculino, macho/fêmea, homem/ mulher, parecem trazer esperança para uma espécie de conhecimento que ultrapasse os limites destas dicotomias iluministas.

Certamente, como é reivindicado por mulheres nos campos das ciências, tecnologias e desenvolvimento de Inteligência Artificial, a falta de paridade de participação de mulheres, assim como de outras categorias sociais marginalizadas, implicam que muitos dos sistemas desenvolvidos buscam responder demandas estritamente masculinas, alienando os problemas de outros sujeitos do campo tecnológico. Isso não implica, ao menos não necessariamente, que a Inteligência Artificial, assim como aquela da objetividade que Lloyd chamou de ‘razão do homem’, possa esconder na pretensão de neutralidade, um conhecimento masculino.

Os debates tecno-feministas iniciados no anos 90, iniciados por Judy Wajcman, enfatizam que “tecnologias dominadas por homens conspiram para diminuir a relevância das tecnologias ‘das mulheres’, como horticultura, cozinhar e o cuidado”. Ferrando em “Is the post-human a post-woman? Cyborgs,robots, artificial intelligence and the futures of gender: a case study” (2014) analisa que as redes de conexões históricas que contextualizam e situam a concepção do ‘humano’, também formam uma história e situam o entendimento do que constitui esses sistemas tecnológicos, como o de um ciborgue, por exemplo.

Ainda, Susan Leavy, em “Gender Bias in Artificial Intelligence: The Need for Diversityand Gender Theory in Machine Learning” (2018), argumentou que vieses de gênero podem ser identificadas nos modelos de IA, principalmente, pela influência que a linguagem, impregnada por dicotomias de gêneros, apresentam na construção dos algoritmos e do aprendizado desses maquinários. Para Leavy, “a máquina aprende principalmente observando os dados com os quais é apresentada [...] embora a capacidade de uma máquina de processar grandes volumes de dados possa resolver isso em parte, se os dados estiverem carregados de conceitos estereotipados de gênero, a aplicação resultante da tecnologia perpetuar esses vieses” (p. 14).

Ao menos desde a década de 70, feministas investigam o papel da linguagem nas dinâmicas de gênero, como bem aponta Leavy, “as ideologias de gênero ainda estão incorporados nas fontes textuais e resultam em algoritmos de aprendizados de máquina que apresentam conceitos estereotipados de gênero”. A utilização dos termos “homens” e “mulheres”, por exemplo, são associados com funções, representações e nomeações distintas: algoritmos demonstram o uso recorrente do termo “homem de família”, não havendo um equivalente para mulher, ao mesmo tempo, em que termos como “mãe solteira”, “mãe trabalhadora” e “mulher de carreira”, servem para descrever preconcepções sobre o papel social de mulheres; ainda, a designação masculina sendo utilizada como universal, ensina os algoritmos perceberem certas funções como atribuídas aos homens. Também, os termos descritivos associados a homens e mulheres sofrem grande variação,o termo ‘menina’ é usado mais de metade das vezes para referir-se à mulheres, enquanto menos de 30% do uso de ‘meninos’ é atribuído a homens; o termo ‘esposa’ é muito mais utilizado do que o termo ‘marido/ esposo’.

Num outro exemplo,em 2013, a ONU Mulheres em associação com agências publicitárias divulgaram os algoritmos de pesquisas relacionadas às mulheres na ferramenta de busca do Google, a fim de mostrar o que é exibido quando se busca no Google sobre as mulheres.Quando digitado “as mulheres não podem”, os recursos de preenchimento automático sugerem “não podem dirigir”, “não podem ser confiáveis”, “não podem ser pastoras”; ou ainda, quando buscado “as mulheres devem” as pesquisas autocompletam com “devem ficar em casa”, “devem estar na cozinha”, “devem ser submissas”, etc. Em 2016 a Google confirmou a remoção de sugestões relacionadas aos termos do seu sistema, ao digitar mulher ou mulheres, hoje, não há sugestões. Contudo, o desafio permanece: na medida em que o algoritmo que gera tais conteúdos, continua a reproduzir preconceitos dos mais diversos. O recurso de ‘autocompletar’ tenta ‘prever’ os pensamentos dos usuários a partir dos dados gerados pelos algoritmos. Como resultado, o autopreenchimento poderia, de fato, influenciar uma busca que o usuário nem sequer teve a intenção inicial de realizar. Diversas autoras apontam para a forma como esses sistemas perpetuam os estereótipos de gênero.

Neste sentido, em “Constructions of gender in the history of Artificial Intelligence” (1996), Alison Adam apresenta também uma discussão de como as ideias podem ser generificadas e produzidas no campo da IA para associar-se com noções do masculino e do feminino. Adam afirma que os modelos de raciocínio e de inteligência do campo da IA envolvem essencialmente problemas epistemológicos de duas ordens: quem é o conhecedor ideal; e, em termos do que se pode conhecer (ADAM, 1996, p.48). A pressuposição geral da epistemologia de que “S sabe que P” enquanto a única forma de conhecimento adequado, assume que todo conhecimento precisa ser proposicional, não sendo, não pode se tratar de um conhecimento, o que exclui da campos dos saberes as habilidades práticas e de know-how. Para Adam, o campo simbólico de conhecimento da Inteligência Artificial permanece em busca “do ideal descorporificado do ‘Man of Reason’” (ADAM, 1996, p. 49). Os sistemas de resolução de problemas, já nos primeiros modelos de IA, como o “Logic Theorist” de Newell, Simon e Shaw, partem da pressuposição do ideal de razão masculino, na medida em que:

“Em si mesma, não devemos dar como certa a ideia de que as soluções para os problemas são coisas a serem buscadas. A ideia de pesquisa é uma parte fundamental da IA simbólica. As técnicas de busca são baseadas no método cartesiano ideal de dedução, e isso disfarça a necessidade de olhar como outras formas de resolução de problemas baseadas na intuição (vista como uma forma de raciocínio menos prestigiosa) ou saltos criativos poderiam ser representados onde uma busca não é ostensivamente parte do processo” (ADAM, 1996, p. 49).

Adam conclui que o campo da robótica e inteligência artificial pode enfrentar questões de conhecimentos situados e corporificados, na qual “a inteligência não é vista como a construção do indivíduo de uma representação mental do mundo, mas sim um fenômeno emergente resultante das interações do indivíduo com seu ambiente” (ADAM, 1996, p. 51). O projeto “COG” desenvolvido pelo MIT, segundo Adam, avança a hipótese de um conhecimento situado para o campo da Inteligência Artificial, na medida em que o sistema “foi baseado na hipótese de que a inteligência no nível humano requer o ganho de experiência na interação com humanos, como fazem os bebês humanos”.

Podem as mulheres serem ciborgues?

Pesquisas recentesque analisam papéis de gênero e sistemas de Inteligência Artificial apontam que o conteúdo tido enquanto ‘conhecimento’ nesses sistemas, mantém paradigmas criticados a longa data por correntes da epistemologia feminista: que a suposta neutralidade, objetividade e universalidade daquilo que podemos categorizar enquanto conhecimento esconde critérios que favorecem uma visão masculina de mundo, sobre o que se pode conhecer e quem pode conhecer. Além disso, os tipos de problemas e de soluções que esses sistemas de IA lidam ainda continuam, em grande medida,respondendo a demandas de um mundo dominado pelo masculino.

A barreira da integração da mulher no mundo das ciências e tecnologias, não está apenas relacionada a sua falta de acesso e participação, embora contribua para os diagnósticos aqui discutidos, mas também está na alienação frente aquilo que esses sistemas buscam analisar, otimizar,maximizar e conhecer.Ainda é preciso de ferramentas para que possamos integrar uma espécie de conhecimento ‘feminino’, ou ainda, experiência múltiplas de mundo, naquilo que denominamos saberes, para que, enfim, as mulheres possam se integrar ao imaginário dos novos circuitos e dos sistemas.

A imagem do ciborgue,como esse organismo inteligente cibernético híbrido de máquina e organismos vivos, que é uma criatura social real e ao mesmo tempo ficcional, que produz uma noção ambígua do natural e do construído, é dita por Haraway enquanto a criatura de um mundo ‘pós-gênero’, apesar de Haraway não gostar do termo ‘pós-gênero’ em si (HARAWAY, 1991, p. 150), na medida em que transgride as divisões dicotômicas que estruturam as concepções de gênero. Haraway afirma que:

"Um mundo ciborgue pode ser sobre experiências sociais e corporais vividas em que as pessoas não têm medo de seu parentesco conjunto com animais e máquinas, não têm medo de identidades permanentemente parciais e pontos de vista contraditórios” (HARAWAY, 1991, p. 154).

A provocação da pergunta 'Podem mulheres serem ciborgues?’, busca revelar justamente o caráter ainda masculino e pautado no modelo ‘homem da razão’ de Lloyd no âmbito da robótica e inteligência artificial.

A integração do corpo vivido com a tecnologia, no sentido que Paul Preciado descreve enquanto “produções de subjetividades biotecno políticas" (2018), certamente abrem espaço para criação imaginativa de formas de existência que transgridem as dicotomias iluministas e papéis de gêneros: o uso da pílula anticoncepcional e do dia-seguinte, retira da mulher o papel determinista reprodutivo, a aplicação de testosterona dão uma via de acesso à fêmeas aos atributos legitimados e valorizados considerados exclusivamentes masculinos, a acoplação do Dildo serve como uma tecnologia de cooptação de poder em uma sociedade falocêntrica.

Entretanto, ainda assim, parece que nossa transformação em uma realidade ciborgue, como descrita no manifesto de Haraway, ainda carece de uma mudança de paradigma epistemológico, em qual o nosso conhecimento e imaginação de mundo seja capaz de descrever experiências mais múltiplas e diversas, que tenham problemas, demandas e soluções diferentes daquelas pré-estabelecidas pela razão masculina.

Ferrando, em um questionário aplicado a estudantes do Departamento de Cibernética da Universidade de Reading (Inglaterra), a fim de determinar as percepções e representações de gênero no campo da robótica e IA, aponta que a maioria dos participantes da pesquisa, que ultrapassa o n de mil, associaram o ciborgue enquanto masculino ou neutro, mas nenhum relacionou a imagem do ciborgue com o feminino (FERRANDO, 2014, p. 6). Para Ferrando, a tecnologia “não é apenas performada, mas primeiro é imaginada” (FERRANDO, 2014, p. 7), é a imaginação que é culturalmente situada que informa aquilo que pretendemos conhecer, assim, “se a genealogia do conhecimento que silenciosamente informa a IA é reduzida ao legado masculino, exclusivismo social e determinismo biológico podem ser re-inscritos em sua ontologia, com o risco consequente de que diferenças caracterizantes dos robôs possam assimilar práticas centradas no ser humano e suas discriminações” (FERRANDO, 2014, p. 7).

“Por essa razão, o emprego de quadros críticos como a Epistemologia Feminista, a Filosofia da Diferença Sexual, a Teoria Crítica da Raça, os Estudos Pós-coloniais, a Teoria Queer, os Estudos da Deficiência e a Interseccionalidade, entre outros, é visto como crucial no desenvolvimento de epistemologias pós-humanas informando os campos tecnológicos . A adoção de tais pontos de vista permitirá aos humanos gerar uma abordagem enfática, impedindo-os de transformar o robô em seu novo outro simbólico, e de cair no paradigma dualístico que historicamente caracterizou os relatos hegemônicos ocidentais, articulados em opostos como: masculino / feminino, branco / preto, humano / máquina, próprio / outro” (FERRANDO, 2014, p. 16).

Isso nos leva a perceber que a paridade de participação e diversidade em todos os campos de conhecimento não é apenas um comprometimento ético com princípios igualitários, mas é também, a via para que o conteúdo do nosso conhecimento e dos problemas que pretendemos resolver com novas tecnologias, abarque um mundo mais próximo do real: aquele situado, parcial, histórico e de pontos de vistas. Esse comprometimento metodológico feminista, precisaficar claro, não implica na abdicação completade noções de objetividade, de realidade e de critériosespecíficos para pesquisa científica; mas abre vias para um constante debate de novos paradigmas, novos mundos, e, principalmente, novas formas de conhecer o mundo que nos situa.

Referências

ADAM, Alison. (1996). Constructions of Gender in the History of Artificial Intelligence. IEEE Annals Of the History of Computing, 18(3).

FERRANDO, Francesca. (2014)Is the post-human a post-woman? Cyborgs, robots, artificial intelligence and the futures of gender: a case study. European Journal of Futures Research volume, 2(43). doi: 10.1007/s40309-014-0043-8.

HARAWAY, Donna. (1995) Saberes Localizados: a questão da ciência para o feminismo e o privilégio da perspectiva parcial. Cadernos Pagu, (5), 07-41.

HARAWAY, Donna. (1991). Simians, Cyborgs, and women: the invention of nature. New York: Routledge.

HARDING, Sandra G. (1986). Whose science? whose knowledge?: thinking from women's lives.New York: Cornell University Press,.

JAGGAR, Alison M. (1989) Love and knowledge: Emotion in feminist epistemology,

Inquiry: An Interdisciplinary Journal of Philosophy, 32:2, 151-176.

LAZREG, Marnia. (1994). Women’s experience and the feminist epistemology. In: LENNON, Kathleen; WHITFORD, Margaret. (ed.) Knowing the difference: feminist perspectives in epistemology. New York: Routledge.

LEAVY, Susan. (2018) Gender Bias in Artificial Intelligence: The Need for Diversity and Gender Theory in Machine Learning. ACM/IEEE 1st International Workshop on Gender Equality in Software Engineering. doi: 10.1145/3195570.3195580.

LLOYD, Genevieve. (1985). The man of reason. Minneapolis: University of Minnesota Press.