sábado, 25 de maio de 2013

Sobre especismo, inteligências artificiais e a posição do Homo sapiens

Cientificamente, avançamos muito na compreensão de como a senciência se distribui na árvore da vida. Entretanto, nossos princípios culturais e jurídicos são especistas por definição, e não levam em conta, ou contrariam frontalmente, as outras espécies do planeta. Visto que podemos estar às vésperas da singularidade tecnológica e da emergência de uma inteligência artificial sobre-humana, é premente a discussão de uma moralidade pós-Darwiniana que trate do direito de diferentes espécies, sejam elas não-humanas, humanas ou pós-humanas.

Senciência é a capacidade de sofrer, sentir prazer ou felicidade. Hoje, possuímos um amplo conhecimento sobre a distribuição da senciência na árvore da vida. Evolutivamente, as diferenças entre a capacidade cerebral e cognitiva do Homo sapiens e das demais espécies de vertebrados, em especial dos Mammalia, são de grau, não de tipo.

Desde a publicação do “On the origin of species”, de Charles Darwin (1859), sabemos que a evolução é um processo contínuo de descendência com modificação a partir de um ancestral comum. Apesar da existência de descontinuidades na história evolutiva – como explica a teoria do equilíbrio pontuado de Niles Eldredge e Stephen Jay Gould (de 1972), segundo a qual existem períodos curtos em termos geológicos de rápida diversificação biológica pontuados por longos períodos de estase em que eventos de especiação são menos frequentes –, há muitas evidências que suportam o compartilhamento de atributos entre todas as formas de vida no nosso planeta, desde aquelas mais mais simples, como bactérias e amebas, até as mais derivadas, com redes neuronais complexas.

Todos os eumetazoários (o grupo dos animais ditos “verdadeiros”, que exclui as esponjas) têm sistema nervoso, seja ele em descentralizado ou organizado em gânglios cerebrais e cordões longitudinais. Através dos seus neurônios, esses organismos recebem estímulos ambientais e são capazes de interpretá-los e produzir respostas. Quando analisamos a árvore evolutiva dos animais, percebemos que ao menos desde os primeiros Bilateria – aqueles animais com um plano sagital que os divide em metades –, todos os Metazoa têm nociceptores, que são terminações nervosas que recebem estímulos com potencial de dano e enviam sinais que causam a percepção de dor. Se levarmos isso em conta, excetuando-se os poríferos, todo os animais, incluindo aí insetos, lesmas, aranhas, sanguessugas e vermes cilíndricos, poderiam ser classificados como seres sencientes, pois seriam capazes de sentir e sofrer. 


Mais de um século e meio de estudos evolutivos vêm demonstrando que a nossa espécie é apenas um dentre milhões ou mesmo bilhões de ramos de uma árvore da vida que se iniciou há mais de 3.8 bilhões de anos. No entanto, nossos sistemas sociais ainda baseiam a sua organização ética na centralidade humana, o que ignora realidades já compreendidas pela ciência e de certa forma justifica a utilização instrumental que o homem faz da natureza, atribuindo valores ou direitos diferentes a organismos dependendo da sua filiação a determinada espécie. Tal prática especista certamente leva ao sofrimento de formas sencientes e pode ser responsável por boa parte da degradação ambiental da Terra.

Darwin nunca citou o termo especismo em suas obras. Porém, no seu clássico “The Descent of Man” (1872), ele escreveu:
(...) os animais inferiores, assim como o homem, claramente sentem prazer e dor, alegria e tristeza. A felicidade não parece ser melhor expressa do que pelos animais jovens (…) quando brincam juntos, assim como nossas crianças. Mesmo insetos brincam juntos. O fato de que os animais inferiores são estimulados pelas mesmas emoções que nós mesmos está tão bem estabelecido que não será necessário cansar o leitor com detalhes. Atos de terror agem da mesma maneira neles e em nós, causando tremores nos músculos, o coração a palpitar, o relaxamento dos esfíncteres e o arrepio dos cabelos.
Em uma perspectiva semelhante, o filósofo australiano Peter Singer (2012) defende que:
Precisamos que as pessoas sejam informadas sobre essas questões e de um sistema político que responda às preocupações públicas sobre os animais. Questionários com a opinião pública mostram uma forte oposição contra a crueldade com os animais mas, no geral, as pessoas não são bem informadas sobre o que acontece a eles em lugares escondidos, em fazendas, laboratórios ou matadouros. 
Via de regra, os espécimes de Homo sapiens consideram-se acima dos demais componentes da biosfera (seríamos ungidos por Deus, Alá, Jeová, o demiurgo, Krishna ou o Monstro Espaguete Voador? Até o codescobridor do princípio da Seleção Natural, Alfred Russel Wallace, defendeu, em seus últimos trabalhos, que nossa espécie teria recebido um toque divino, o que explicaria sua inteligência “superior”).

Construções sociais especistas

Nossos princípios culturais e jurídicos são especistas por definição, pois não levam em consideração, ou mesmo contrariam frontalmente, as outras espécies do planeta. Aqui, pode ser citado como exemplo o Princípio da Dignidade da Pessoa Humana, visto como um valor moral e espiritual inerente ao ser humano (ou seja, à espécie Homo sapiens). Immanuel Kant, no seu “Fundamentação da Metafísica dos Costumes” (1785), inaugura a noção de dignidade pelo imperativo de que as pessoas devem ser tratadas como um fim em si mesmas, e não como um meio – a dignidade seria atributo exclusivo dos seres dotados de autonomia (a fórmula kantiana é problemática pois implica, por exemplo, na exclusão de recém-nascidos, prisioneiros ou indivíduos impossibilitados de viver de maneira autônoma por conta de enfermidades adquiridas ou congênitas). Na noção moderna, a dignidade humana se define como qualidade intrínseca a cada Homo sapiens, assegurando-lhe o direito contra todo ato de cunho degradante, a condições mínimas para uma vida saudável, além de propiciar-lhe os meios para uma participação ativa nos destinos da sua própria existência.

O Princípio da Dignidade da Pessoa Humana, portanto, ignora a dignidade fomo um valor para todos os seres dotados de senciência. Não obstante, outros princípios baseados numa suposta “essência humana” também bloqueiam futuras oportunidades advindas da conexão íntima entre homem e tecnologia, como defende a filosofia emergente do transumanismo. Ele é uma defesa do uso do conhecimento científico e tecnológico (biotecnologia, neurotecnologia, neurociência, nanotecnologia) na superação de limitações do Homo sapiens, tanto em termos intelectuais quanto físicas e psicológicas. 

Um dos focos de discussão transumanista é visto comumente no cinema, em séries de televisão, histórias em quadrinhos e livros de ficção científica. Esse cenário, se tornado real, poderia levar ao colapso toda a nossa construção social baseada no especismo. Ele diz respeito ao surgimento de organismos ou entidades sencientes na Terra a partir do desenvolvimento tecnológico da nossa espécie. 

A maioria se lembra da Skynet, o sistema de inteligência artificial revolucionário construído pela Cyberdyne Systems no filme “Terminator”, de James Cameron (1984). Uma questão que o transumanismo discute é como as nossas organizações sociais se comportarão frente a futuros intelectos artificiais que porventura possam ser produzidos pelo avanço da tecnologia. Na eventual emergência de inteligências artificiais reflexivas e sensíveis ao seu estado e ambiente, seriam essas entidades consideradas sujeitos de direitos? E, se não forem, o que garantirá um convívio harmonioso entre o Homo sapiens e essa nova espécie plenamente senciente e talvez com pode cognitivo maior que o nosso?

Singularidade tecnológica

Em seu ensaio “The Coming Technological Singularity”, de 1993, o o escritor de ficção científica Vernor Vinge diz que estamos às vésperas da criação, através da tecnologia, de entidades com inteligência muito acima da humana. Para ele, tal evento se explicaria por conta de:

1) Desenvolvimento de computadores, portadores de inteligência sobre-humana, capazes de “acordar”;
2) Existência de redes de computadores – e seus usuários – que poderiam da mesma forma “acordar” como um entidade com inteligência sobre-humana; 
3) Construção de interfaces homem/máquina que levariam seus usuários a serem considerados sobre-humanamente inteligentes;
4) Síntese de drogas capazes de aumentar o intelecto natural humano.

Vernor Vinge escreveu seu artigo há exatos 20 anos. Estimativas recentes  sugerem que nosso cérebro é capaz de estocar cerca de 1 Terabyte (1.000 Gigabytes) de informação – podemos comprar HDs externos com essa capacidade em qualquer loja de equipamentos de informática por pouco mais de R$ 200,00. É certo que inteligência não tem relação direta com a quantidade de informação estocada – se assim fosse, pessoas com Memória Autobiográfica Altamente Superior (conhecida como Síndrome da Memória Infalível, na qual não se esquece absolutamente nada, de um número de telefone visto uma única vez à quantidade de moedas recebidas de troco na padaria no dia 13 de maio de 1996) poderiam ser consideradas super-inteligentes, o que nem sempre é o caso.

No entanto, a popularização e o barateamento dos dispositivos de estocagem massiva de informação parecem demonstrar que a singularidade tecnológica – entendida como a emergência de uma super-inteligência através da tecnologia – está próxima. Uma vez que as capacidades dessa inteligência são impossíveis de se compreender no atual estado de conhecimento da humanidade, a singularidade tecnológica é vista como um evento a partir do qual qualquer previsão torna-se impossível. O futurista Ray Kurzweil sugere que tal singularidade deve ocorrer em torno de 2045, baseado especialmente na lei de Moore, segundo a qual o poder de processamento computacional dobra a cada 18 meses. Nick Bostrom, transumanista, filósofo de Oxford e diretor do Instituto para o Futuro da Humanidade, no ensaio “How long before superintelligence?” (de 1998), defende que a emergência de uma inteligência sobre-humana pode estar ainda mais próxima, talvez por volta de 2033.

Existiria alguma maneira de controlar essa singularidade ou ao menos de estabelecer limites para o que poderia ser a fusão homem-máquina, que possivelmente culminaria no surgimento de uma nova espécie com capacidades sobre-humanas? No filme “Blade Runner” (1982), dirigido por Ridley Scott e baseado na obra de Philip K. Dick “Do androids dream of eletric sheep?” (1968), replicantes orgânicos construídos a partir de engenharia genérica, visualmente indistintos dos humanos, são manufaturados pela Corporação Tyrell com um tempo de vida limitado a quatro anos. Nessa mesma linha, as Três Leis da Robótica, criadas pelo genial Isaac Asimov e apresentadas inicialmente na sua coletânea de contos “I, robot”, são regras de conduta inseridas no cérebro positrônico dos robôs como dispositivos de segurança. São elas:

1ª Lei: Um robô não pode ferir um ser humano ou, por omissão, permitir que um ser humano sofra algum mal.
2ª Lei: Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei.
3ª Lei: Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira e/ou a Segunda Lei.

Em trabalhos posteriores, nos quais os robôs assumiam responsabilidades como governantes de planetas e de civilizações humanas inteiras, Asimov criou uma quarta lei, chama lei zero, que precederia as demais: um robô não pode causar mal à humanidade ou, por omissão, permitir que a humanidade sofra algum mal, nem permitir que ela própria o faça.

Aplicar tais leis à robôs reais, tais como os que temos hoje em dia, é praticamente impossível. Basta pensarmos nos ferimentos de operários em fábricas automatizadas causados pelo mal funcionamento de máquinas. No entanto, essas leis não poderiam ser utilizadas como balizas para pesquisa em inteligência artificial (IA)? Para muitos autores – não apenas no ramo da ficção especulativa, como Vinge, Asimov e Dick citados acima – é possível que IAs sencientes não estejam tão distantes no futuro. 

Uma maneira de evitarmos nossa própria obsolescência seria implantar “leis” tais como “Uma inteligência artificial não pode ferir um ser humano ou, por omissão, permitir que um ser humano sofra algum mal” nos softwares e hardwares voltados para IAs. A ideia é que essas “regras”, se embutidas nos níveis mais elementares dos sistemas, poderiam impedir a emergência de IAs que considerassem o ser humano tão relevante quanto muitos de nós consideramos as vacas, os cavalos, as galinhas ou os porcos.

O surgimento de uma nova espécie com poder cognitivo muitas vezes maior que o nosso, capacidade de se auto-reparar e de evoluir (no sentido de mudar e se adequar às alterações ambientais, garantindo sua “reprodução diferencial” e, desse modo, aumentando a representatividade de suas características na descendência), seria um golpe terminal em todo e qualquer princípio especista ou instituição criados pelo Homo sapiens que o coloque como a raison d'etre do universo. A singularidade tecnológica não é apenas uma fantasia de aficcionados por Matrix, William Gibson e Neal Stephenson...

Para uma moralidade pós-Darwiniana

É urgente a discussão de uma moralidade pós-Darwiniana que trate do direito de espécies posicionadas em diferentes ramos da árvore da vida, sejam elas humanas ou não (e mesmo pós-humanas). Isso se justifica pelo reconhecimento de que a moralidade e a ética relacionadas a vida humana estão em flagrante descompasso em relação ao que se conhece sobre a evolução da vida no nosso planeta. Tais preceitos acabam por resultar na impassividade perante o sofrimento real causado pelo homem a outras espécies capazes de sentir dor e responder a ela, e também em uma visão míope e distorcida sobre as possibilidades claras de surgimento de condições pós-humanas. Não discutir tais assuntos, ou relegá-los a rótulos ou guetos intelectuais – ecochatos, “verdinhos”, futuristas, cyberpunks, geeks –, além de moralmente questionável, pode ser perigoso.

Agradecimento

O texto acima valeu-se de discussões iniciadas no projeto de Iniciação Científica “Sobre a expansão anti-especista do Princípio da Dignidade Humana à luz da evolução dos animais e da emergência da pós-humanidade”, sob minha orientação, que vem sendo executado por Gustavo R. Rosa, da Universidade Federal do ABC e do Instituto de Ética, Racionalidade e Futuro da Humanidade (IERFH) (http://www.ierfh.org/br/index.html).

Bibliografia indicada
  1. Bostrom, N. 1998. How Long Before Superintelligence? International Journal of Future Studies, vol. 2. http://www.nickbostrom.com/superintelligence.html.
  2. Bostrom, N. 2003. Transhumanist Values. In: Adams, F. (ed.)  Ethical Issues for the 21st Century. Philosophical Documentation Center Press.  http://www.nickbostrom.com/ethics/values.html.
  3. Darwin, C. 1859. On the origin of species by means of natural selection or the preservation of favored races in the struggle for life. London: John Murray.
  4. Darwin, C. 1872. The expression of the emotions in man and animals. London: John Murray.
  5. Kurzweil, R. & Grossman, T. 2006. A medicina da imortalidade: As dietas, os programas e as inovações tecnológicas que prometem revolucionar nosso processo de envelhecimento. São Paulo: Editora Aleph.
  6. Ryder, R.D. 2005. All beings that feel pain deserve human rights. The Guardian, August, 6th. http://www.guardian.co.uk/uk/2005/aug/06/animalwelfare
  7. Schmidt-Rhaesa, A. 2007. The Evolution of Organ Systems. Oxford: Oxford University Press.
  8. Singer, P. 2012. Uma filosofia para consertar o mundo. Filosofia, Ciência e Vida, 69, 5-11.
  9. Vinge, V. 1993. The Coming Technological Singularity: How to Survive in the Post-Human Era. http://www-rohan.sdsu.edu/faculty/vinge/misc/singularity.html

9 comentários:

Suzuki disse...

Fico feliz de ver pela primeira vez no blog (eu acho) uma discussão sobre especismo!
Texto fantástico, Charles!
Beijo,
Suzuki

Charles Morphy D. Santos disse...

Cara Srta. Suzuki,

Obrigado pelo comentário.
Falar sobre especismo é um corolário da compreensão da evolução como um processo contínuo, no qual o Homo sapiens é só mais um galho. Tenho discutido isso há algum tempo mas sem, de fato, tocar no tema diretamente. A ideia é sempre refinar a argumentação! Continue sintonizada. Tenho várias outras ideias a respeito que devem aparecer aqui em breve.

Beijo,
Charles

Unknown disse...

Boa noite Charles! Adorei o texto, mesmo!

Essa questão do confronto da espécie humana com tudo o que vem depois é intrigantíssima, tem me ocupado há anos e você conseguiu me mostrar que o anti-especismo é uma base sólida para essa discussão.

Você coloca pontos com os quais não concordo, como por exemplo o uso das leis do Asimov. Faço eco quando você diz que esse tipo de formulação tem de estar na base dos sistemas que estamos construindo. Já as leis de Asimov em si pecam exatamente porque são focadas demais no humano. Colocam os robôs como uma espécie de escravos que servem à vontade humana.

Outro problema das leis é que elas são regras, não valores. Não concordo que devamos compartilhar regras com uma AI vindoura. Quer queiramos ou não, o que vamos compartilhar com elas são nossos conhecimentos, métodos para agir e crenças de todo tipo.

Creio fortemente que o pensamento não possui âncoras. Possui bases bem assentadas, mas âncoras não. A discussão dessas bases eu considero fundamental para a construção de IAs não destrutivas. Existe aí toda uma teoria de "design de personalidade artificial" que tem de ser embasada na forma de evolução das ideias, de acordo com contextos, princípios e métodos utilizados.

É bem mais sutil que uma lista de regras, entende? Seria a arquitetura de um sistema harmônico que leve sua própria evolução para caminhos não destrutivos...

Enfim, essa é uma discussão fundamental que seu texto suscita.

Grande abraço.

Almir Teixeira.

Dr. Charles Morphy D. Santos disse...

Caro Almir,

Muito obrigado pelo comentário!
Aqui na Federal, sou responsável por uma disciplina chamada "Conceitos biológicos: perspectivas histórico-filosóficas". Nela, ficamos bastante tempo discutindo o conceito de emergência e como informações simples presentes nos componentes que se relacionam dentro de um sistema complexo podem levar a comportamentos muito distintos daqueles presentes em cada um dos elementos constituintes - isso explica, por exemplo, como uma revoada de pássaros voa em uníssono. São os comportamentos do tipo Botton-Up, sem controle central.
Creio que a questão relacionada à emergência de IAs esbarra fortemente na emergência de padrões inesperados a partir de elementos muito mais simples.
De fato, as leis da robótica do Asimov são focadas no humano e na manutenção do caráter servil dos robôs (o próprio termo vem do tcheco 'robota', que significa 'trabalhador em regime de servidão'). Se uma IA for autônoma, certamente não se limitaria ao papel de escravo do Homo sapiens. Nesse sentido, torna-se crucial discutir a expansão do princípio da dignidade (humana ou não-humana).
Quando você diz "um um sistema harmônico que leve sua própria evolução para caminhos não destrutivos", e não um sistema simples de regras, penso que isso é análogo ao que acontece em nossas sociedades. Leis simples como os 10 mandamentos não levam em conta a complexidade do sistema de relações que surgem no interior das populações e, desse forma, são muito menos efetivas para a construção de qualquer coisa inteligente e sustentável a longo prazo (seja uma IA ou não). Interessante isso...

Grande abraço

Anônimo disse...

Pela primeira vez o especismo me fez sentido.

Obrigado pelo texto.

Anônimo disse...

Penso que a senciência não é o elemento determinante para caracterizar os agentes morais. O elemento correto para essa demarcação seria a racionalidade, no caso, o raciocínio lógico abstrato presente em agentes conscientes.

Charles Morphy D. Santos disse...

Meu caro,

Discussões sobre especismo, na maioria das vezes, acabam sendo polarizadas e muito "apaixonadas". Penso que argumentando de maneira ponderada (e atuando efetivamente) conseguiremos diminuir em muito o efeito antrópico deletério no planeta.

Grande abraço!

Charles Morphy D. Santos disse...

Meu caro,

Obrigado pelo comentário.
Entendo seu posicionamento. No entanto, a demarcação do que é "raciocínio lógico abstrato em agentes conscientes" baseia-se em quê? Nas capacidades do Homo sapiens? Como definir racionalidade senão a partir da nossa própria atuação "racional"?
Façamos um experimento mental (hipotético): somos invadidos por alienígenas sobrehumanamente inteligentes. Eles delimitam o que são agentes morais com base na sua própria racionalidade e na sua capacidade de raciocínio lógico abstrato - que serão quase certamente diferentes das nossas. Não nos enquadramos na definição dos extraterrestres. Seremos tratados como vacas... O mesmo pode valer para uma Inteligência Artificial emergente (basta nos lembrarmos de distopias como a apresentada em filmes como Matrix).
A questão é tentar ao menos imaginar o que seria uma organização sócio-ambiental menos centrada na nossa espécie, que leve em conta que o Homo sapiens não é o ápice da evolução ou o centro da criação.
Abraço!

Michael MF disse...

Excelente texto! Muito obrigado. Apenas uma sugestão. Ao promover "anti-substratismo," não seria, talvez, mais eficaz (e pertinente) utilizar uma terminologia que seja neutra em termos de gênero? Por exemplo, talvez "Sobre especismo, inteligências artificiais, e a posição do ser humano" tivesse funcionado melhor como título. Não sei...