Uma Carta Aberta ao Sul Global: Tragam o "resto" para dentro

Durante os últimos séculos, a sociedade humana passou por várias transformações. Diferentes inovações tecnológicas permitiram que verdadeiras revoluções tomassem permanentemente a maneira como vivemos, nos relacionamos uns com os outros e compreendemos o mundo. Melhores ferramentas, motores a vapor, penicilina, telecomunicações, plástico, silício, computadores.

A chamada 4ª Revolução Industrial é o culminar da era digital, onde tecnologias como robótica, nanotecnologia, genética e inteligência artificial (IA) prometem transformar nosso mundo e a maneira como vivemos.

Você não precisa procurar muito longe para encontrar sistemas autônomos interagindo com você ou com as pessoas ao seu redor. Seu celular provavelmente opera vários tipos diferentes de modelos treinados por aprendizagem de máquina (e.g., modelos de linguagem, visão por computador), entre outras metodologias que se enquadram no grande guarda-chuva interdisciplinar que chamamos de Inteligência Artificial.

Drones entregam nossas encomendas, algoritmos de recomendação formam e influenciam nossas preferências, modelos probabilísticos otimizam vários processos anteriormente reservados apenas para o intelecto humano. Veículos autônomos, dobramento de proteínas, processamento de linguagem natural, modelos climáticos, a cada ano (ou mês) uma nova barreira é superada.

Por mais que “inteligência” seja um conceito elusivo e mal definido, há mais do que alguns que acreditam que estamos a caminho de criarmos inteligência artificial genuína. Inteligência artificial verdadeira.

A inteligência promete produzir algumas das soluções mais urgentes que a humanidade necessita. Fontes de energia limpa, curas para doenças, melhores sistemas econômicos. Todas essas soluções são “ovos de ouro”, e como disse Ray Solomonoff, um dos pais fundadores do campo de pesquisa da inteligência artificial: o campo de pesquisa de IA não está procurando por ovos de ouro específicos. Nós estamos atrás da gansa que os produz.

IA genuína pode muito bem ser a última invenção que precisamos fazer. E mesmo que o caminho para a inteligência artificial geral ainda esteja bloqueado por uma barreira desconhecida, isto não significa que a IA fraca não mudará, como já está mudando, o mundo em uma direção que ainda é, como o futuro sempre é, incerta.

E isto não é novidade.

Muitas organizações e atores globais, prevendo a urgência e a importância desta questão, já estão tomando medidas para garantir que este futuro incerto valha a pena. Dado o poder transformador da IA, seja em benefício ou em detrimento da humanidade, é de grande importância que cheguemos a um consenso sobre as normas e diretrizes que irão regular tais tecnologias.

A partir desse senso de urgência, vários campos de pesquisa surgiram, tais como Ética e Segurança da IA. Ambos com seus interesses e agendas específicas, mas com um objetivo geral comum: tornar a interação entre os seres humanos e a IA segura e benéfica. Garantir que a Inteligência Artificial seja criada para o bem de todos.

A tecnologia não é boa nem ruim. No entanto, não é neutra. A tecnologia, como a IA, é o que nós fazemos dela. Assim, embora usar nossas criações possa nos desculpar por nossos erros, em um mundo onde modelos são criados, treinados, desenvolvidos, implantados e utilizados por pessoas, a resposta “os dados são tendenciosos” não será suficiente para proteger e preservar nossos valores.

Para garantir que nossos valores estejam de acordo com os objetivos utilizados por sistemas de IA, e para assegurar que os valores que orientam a indústria responsável pelo desenvolvimento de tais sistemas não sejam apenas os valores de mercado, mas valores que promovem o florescimento de nossa espécie, várias diretrizes éticas têm sido publicadas nos últimos anos.

Esta é uma iniciativa muito importante, e nós encorajamos e parabenizamos todos os envolvidos nesse esforço. Nestes documentos publicados, com suas mais diversas origens, muitos princípios éticos são definidos e defendidos: Transparência, Justiça, Equidade, Não maleficência, Responsabilidade, Privacidade, Beneficência, Liberdade, Autonomia, Confiança, Dignidade, Sustentabilidade, Solidariedade.

O objetivo desta carta não é, de forma alguma, criticar o trabalho realizado até agora. Diretrizes éticas são escritas por pessoas. Pessoas são entidades históricas com contextos específicos. É natural que os princípios delineados em tais diretrizes reflitam as preferências dos respondentes pela sua produção. O objetivo desta carta é um pedido para que dois princípios éticos, aparentemente ignorados por muitas dessas diretrizes, recebam mais atenção neste debate: Diversidade e Inclusão.

• Diversidade: A valorização das diferentes formas pelas quais a entidade humana pode vir a se expressar por qualquer grupo ou identidade que deseje. Sistemas de IA devem ser desenvolvidos de forma a proteger e valorizar nossa diversidade.
• Inclusão: O acolhimento de todas as formas que a entidade humana pode vir a se expressar, independentemente de filiações, grupos e identidades específicos. Sistemas de IA devem ser desenvolvidos de forma a “incluir”, e não excluir.

A literatura sobre Ética da IA já avançou este debate ao ponto de criar várias definições de “justiça algorítmica”, que não deixam de ser reflexos de princípios como diversidade e inclusão. Entretanto, o mesmo não pode ser dito sobre o campo da Ética e da Governança da IA em si.

Isto não é tanto uma reivindicação, mas um fato empírico sobre o estado atual do mundo. A grande maioria das diretrizes e documentos éticos criados para regular e governar a IA e sua indústria têm suas origens vinculadas a organizações do Norte Global.

Praticamente todo o Sul Global está fora do debate sobre princípios éticos que devem regular e direcionar o futuro desenvolvimento tecnológico de nossa sociedade. E isto é inaceitável.

De nosso conhecimento, as únicas reivindicações éticas feitas pela América Latina são a “Declaração de Princípios Éticos Para la IA de Latinoamérica” de 2019, a “fAIr LAC: Adopción ética y responsable de la inteligencia artificial en América Latina y el Caribe” de 2020 e o “Marco Ético para la Inteligencia Artificial en Colombia” de 2020. No Oriente Médio, a única reivindicação ética em relação à IA é os “Dubai’s AI Principles” de 2019. No Sul da Ásia, encontramos apenas a “Compilation of existing AI ethical principles (2020)” e o “Proposed Model AI Governance Framework: Guiding Principles (2019)”, ambos de Singapura. Na África Subsaariana, encontramos apenas a “AI & Data Topical Guide Series”, de 2020. Das quase 200 diretrizes éticas publicadas até hoje, estas são as únicas vozes do Sul Global. E de forma alguma isso representa a totalidade da complexidade social que se encontra abaixo da linha do Equador.

Regiões como a América Latina, África Subsaariana, Oriente Médio e o Sul da Ásia têm muito mais para oferecer neste debate, muito mais do que se pode esperar que outros países e culturas definam o que é melhor para o contexto desses lugares. Lugares marcados por profundas cicatrizes de um velho mundo, por feridas coloniais e por políticas imperialistas que não serão curadas tão cedo.

Esta carta é um apelo para que o Sul Global acorde. É um pedido para que o Norte Global esteja pronto para ouvi-lo e para que as portas se abram para que o “resto” seja trazido para dentro. Se realmente queremos que a IA seja algo que toda a humanidade compartilhe, não podemos esquecer que vivemos em um mundo plural, desigual e diverso. Devemos lembrar as vozes que, até agora, não tiveram a oportunidade de reivindicar seus direitos, explicar seus contextos, e quem sabe, dizer-nos algo que ainda não consideramos ou ouvimos.

Para todos os atores globais do Norte, não se esqueçam que a divisão Norte/Sul é ilusória. Todos nós compartilhamos a mesma casa. E a todos os novos e potenciais atores do Sul Global, façam ouvir suas vozes. Usem quaisquer veículos de comunicação que estejam ao seu alcance. Engajem-se e reivindiquem seus direitos.

Tragam o “resto” para dentro.

Signatários

• Nicholas Kluge Corrêa, AIRES (AI Robotics Ethics Society) PUCRS
• Nythamar de Oliveira, PUCRS - CNPq
• Diogo Fernando Massmann, PUCRS
• Carolina Del Pino Carvalho, PUCRS
• Lara Sosa Márquez, PUCRS
• Camila Palhares Barbosa, PUCRS
• James William Santos, PUCRS
• Camila Trindade Galvão, PUCRS
• Rodrigo Mambrini Sandoval Barbosa, PUCRS
• Edmund Antônio Sousa Pontes Pinto, FCR - PUCRS
• Edmund Terem Ugar, University of Johannesburg (UJ)
• Rodrigo Leal de Moraes, NAVI Tecnopuc
• Guilherme Camargo, PUCRS
• Aaron Nul, AIRES (AI Robotics Ethics Society)
• Guilherme Fernandes Garcia, NAVI Tecnopuc
• Cláudio Teixeira Damilano, PUCRS
• Alexandre de Souza Athaíde, PUCRS
• Renata Lima Ferreira, Centro Universitário Ritter Dos Reis
• Délio José Kipper, EDMED-PUCRS
• Márcia Cassimiro, PUCRS
• Rafaela Weber Mallmann, AIRES PUCRS
• Tiago Protti Spinato, UniJuí
• Matheus de Mesquita Silveira, UCS
• Denise Cantarelli Machado, PUCRS
• Ricardo S. dos Santos, PUCRS
• Hellen Maruyama Kodama, Universidade do Vale do Rio dos Sinos
• Antônia Wallig, Associação Cultural Vila Flores
• Diogo Sebastião Wely, Lenda Cripto
• Camila Costa, AI Robotics Ethics Society
• Renata Guadagnin, Terceira Andar Educacional
• Nelson Fossatti, PUCRS
• Érico João Hammes, PUCRS
• Nuno Miguel Pereira Castanheira, PROCEMPA
• Joel Augusto Fogaça Barbosa, Universidade do Vale do Rio dos Sinos
• Marcelle Coelho Rosário, Universidade da Beira Interior
• Adriana Alexandra Antunes Gonçalves, Universidade da Beira Interior
• André Luiz Pontin, PROCEMPA
• Aline Santos Barbosa, RAIES/PUCRS
• Carlos Roberto Bueno, PUCRS
• Arthur Silva Fachi, UFSM
• Marcos Lentino Messerschmidt, PUCRS
• Jair Inácio Touchen, PUCRS
• Xudang Zheng, Beijing Normal University
• Paulo Castro Cardoso da Rosa, PUCRS
• Silvia Valle, Fundação Osvaldo Cruz
• Ana Paula Barreira, PUCRS
• Elzi Pedro Fabián, UFFS
• Rita Nugem, Université Claude Bernard Lyon 1
• Guilherme Padilha de Carvalho, PUCRS
• Fabiano Cunha, Estratégia Latino-Americana de Inteligência Artificial (ELA-IA)
• Carlos Wigderowitz, University of Dundee
• Luiz Vianna Sabrinho, Fundação Osvaldo Cruz
• Fernando Costa de Azevedo, UFPEL
• Lucas Taufer, UCS
• Ana Carolina Peuker, Bee Touch / NAVI
• Clovis Ricardo Montenegro de Lima, MCTI
• Wayder Matuzinhos de Moura, Faculdade SENAI Fatesg
• Julian Savulescu, National University of Singapore
• Sara Stempkowski Fagundes, Secretaria Municipal de Educação de P. Alegre
• André Dorneles Pares, Secretaria Municipal de Educação de P. Alegre
• Roger Crisp, University of Oxford
• Steven S. Gouveia, University of Porto
• Cinara Maria Leite Nahra, UFRN