Mass Effect e o antagonismo humano-máquina

Uma análise da trilogia Mass Effect da Bioware (2007, 2010, 2012) que se concentra na ideia de que há um conflito fundamental entre o orgânico e o artificial. Contém spoilers.

Mass Effect é um jogo de tiro em terceira pessoa com elementos de RPG e uma narrativa que depende de escolhas morais, altamente inspirado por Star Wars: Knights of The Old Republic. Ambientado num futuro onde a humanidade convive com diversas formas de vida inteligentes, vindas de outros planetas, a personagem principal é uma militar que acaba se tornando a heroína da humanidade e última esperança para salvar a galáxia de uma ameça quase tão antiga quanto a própria galáxia.

O que eu pretendo analisar nesse texto é uma ideia ao redor da qual parece girar todo o plot do jogo: pessoas e máquinas nunca poderão conviver pacificamente entre si.

O conflito entre “orgânico e artificial” é um dos temas centrais da literatura de ficção científica desde Frankenstein de Mary Shelley, escrito em 1818. O papel ambivalente da ciência e tecnologia e a ameaça vinda de seres artificiais é um dos temas mais comuns no cinema e nos videogames de ficção científica.

O plot de Mass Effect é ousado porque vai além do convencional conflito particular entre homem e máquina, e sugere que este conflito é muito mais antigo e universal do que nos parece. Ao invés de derivar de um desenvolvimento tecnológico específico, inesperado porém evitável, o argumento final do antagonista principal é que: a vida orgânica, em último grau, é inviável. Chegamos a essa conclusão a partir das seguintes premissas:

1. A tecnologia é um desenvolvimento inevitável da evolução biológica. Dentro dessa perspectiva, a evolução da vida biológica tende ao desenvolvimento de um modelo mais ou menos universal de “inteligência” ou “racionalidade”. Essa inteligência leva ao desenvolvimento de ferramentas cada vez mais complexas (avanço tecnológico), que por sua vez inevitavelmente levará a dois pontos: 1. O conflito entre diferentes formas de vida inteligentes espalhadas pela galáxia. 2. O desenvolvimento de formas de vida sintéticas, ou inteligências artificiais.

2. A guerra de aniquilação é uma consequência inevitável do desenvolvimento tecnológico. Tanto a guerra entre as diferentes formas de vida, por diversos tipos de conflito de interesses, quanto a guerra entre seres biológicos e seres artificiais. Porém, há uma distinção importante entre esses tipos de conflito. Enquanto o conflito de seres orgânicos é, em último grau, uma questão cultural, o conflito entre seres orgânicos e sintéticos é existencial. Significa que o conflito entre orgânicos pode ser resolvido, as tensões culturais, por piores que sejam, podem terminar numa cooperação benéfica para todos, apesar das perdas ou extinções eventuais. O conflito entre orgânicos e sintéticos, porém, não pode ser resolvido sem a eliminação total de um deles. Isso porque, enquanto diferentes culturas podem concordar que são parte de uma mesma coisa, eliminando a crença na superioridade de umas sobre as outras, a superioridade do orgânico ou do sintético parece inevitável, pois sua diferença é de outra natureza.

Dessas duas premissas básicas, podemos chegar à conclusão de que: existe um limite intrínseco para a vida orgânica. Esse limite é imposto pelo desenvolvimento tecnológico, que nessa perspectiva é uma propriedade intrínseca do ser, ou seja, algo inevitável. A crença na inevitabilidade ou necessidade ontológica do desenvolvimento tecnológico é bem comum em nossa cultura, o que produz nosso estranhamento quando derivamos a “aniquilação necessária da vida orgânica” da “criação necessária de seres inorgânicos”.

Em Mass Effect, o motor da história do universo é o conflito entre vida orgânica e vida sintética. Há um padrão que se repete em ciclos desde sempre: seres orgânicos se desenvolvem a ponto de criar seres inorgânicos, e suas criações sempre se voltam contra eles, ameaçando sua capacidade de sobrevivência. Não há escapatória disto, trata-se de um destino universal.

Percebendo que isso é inevitável, em algum momento alguma forma de vida extremamente avançada tentará resolver o problema. Como? Criando seres artificiais, é claro. De que outro modo um ser com uma inteligência avançada poderia resolver um problema, senão criando inteligências artificiais para isso? Mesmo que o problema seja o próprio fato universal de que a tecnologia sempre se volta contra quem a cria. A questão é que não haveria como estes seres desenvolverem sua inteligência a tal ponto sem uma dependência absoluta de suas ferramentas técnicas.

Os seres artificiais que são os principais inimigos no jogo (chamados de Reapers) existem com o propósito de assimilar toda vida orgânica que atingiu o “auge” da evolução num determinado ciclo galáctico. Uma vez que é inevitável que a evolução leve à dominação das máquinas sobre a vida orgânica, essas máquinas superiores se adiantam ao processo para preservar as características dos seres orgânicos, antes que esses sejam aniquilados por suas próprias criações. Logo, temos um sistema eficiente de profecia auto-realizada. O fim inevitável dos ciclos evolutivos pode assim ser automatizado, tornado mais eficaz, seguro e ecológico. Sim, porque o centro da questão é a preservação das espécies, mesmo que num sentido extremo.

Existe, porém, uma esperança. Uma possibilidade de quebrar o ciclo. A repetição do processo de reciclagem da vida orgânica pode produzir uma anomalia, algo capaz de alterar as variáveis e, quem sabe, quebrar o ciclo que limita a vida orgânica. Esta anomalia é a própria protagonista do jogo. Sua existência é a culminação de diversos fatores. O principal fator é a sobrevivência de pelo menos um indivíduo do ciclo anterior, que consegue preservar a memória do conflito com os Reapers. Isto significa cooperação entre seres de diferentes ciclos contra as máquinas que regulam os ciclos, culminando na construção de uma enorme estrutura, uma máquina chamada de Crucible, o ápice do desenvolvimento técnico de resistência contra as máquinas.

Shepard, a protagonista, representa o ápice da evolução biológica e do desenvolvimento técnico ao mesmo tempo. Ela é a unificadora da vida orgânica, gerando cooperação entre as formas de vida que estavam em guerra. Ela assegura o conhecimento necessário sobre os inimigos e a construção da arma contra eles, que é produto da cooperação de diversas formas de vida ao longo de diversos ciclos de existência. Por fim, cabe a Shepard a escolha que pode colocar fim ao ciclo ou determinar que ele continue. O destino do universo nas mãos de um único indivíduo extraordinário.

É perceptível a influência de Star Wars nesses aspectos do jogo: o mito do herói é levado às últimas consequências. Temos o conflito e o equilíbrio entre duas forças fundamentais, que aqui são a vida biológica e a tecnologia. Shepard é resultado do equilíbrio dessas forças.

O fim do antagonismo orgânico-artificial?

Mass Effect apresenta o antagonismo homem-máquina ou orgânico-artificial como sendo o antagonismo principal que move a história e supostamente sugere algumas possibilidades de superação desse antagonismo.

Dos quatro finais possíveis, há duas escolhas que supostamente poderiam colocar um fim ao ciclo que limita a vida orgânica: O controle total ou a síntese orgânico-artificial. Ambas, porém, são extremamente problemáticas. Antes de entrar nelas, uma palavra sobre as outras opções:

A primeira seria negar-se a escolher, o que resulta na continuidade do ciclo, com as máquinas assimilando todas as formas de vida avançadas da galáxia. A segunda seria destruir todas as formas de vida artificial, o que também resulta na continuidade do ciclo, pois seria apenas uma forma de adiar o inevitável. Segundo o próprio argumento do jogo, colocar um fim nas máquinas atuais não acaba para sempre com a guerra contra as máquinas, pois é só uma questão de tempo até que elas sejam desenvolvidas novamente e o conflito produza mais uma vez uma situação análoga. Logo, de um ponto de vista racional, esta não seria uma solução definitiva.

A narrativa do jogo complica de modo interessante a escolha final, pois as duas “soluções” para o conflito são as mesmas que foram propostas pelos dois vilões do jogo: a organização chamada Cerberus e a entidade que controla os Reapers. As outras duas opções, que poderiam representar uma afirmação de liberdade da protagonista contra o determinismo dos seus opositores, se mostram insatisfatórias em último grau.

Pois a vida da protagonista seria impossível sem essa artificialidade que ela pretende destruir. Em determinado momento do jogo a personagem morre e é trazida de volta à vida graças à mesma tecnologia que torna a vida artificial possível. A cooperação entre seres artificiais e orgânicos pode até parecer possível, mas seria uma crença ingênua do ponto de vista de seres superiores, que já observaram que se trata de um padrão inevitável. Ao longo do jogo existe a possibilidade de fazer amizade e estreitar laços com seres artificiais, o que transforma a opção de destruir a vida artificial num sacrifício que parece injusto e grande demais. Chegar até aqui e não fazer nenhuma escolha, porém, também seria decepcionante.

Segundo o antagonista final, a escolha ideal seria a síntese entre os opostos. O problema com essa solução é que ela implica, no fundo, na aniquilação da vida orgânica. A dialética dessa síntese favorece o artificial, não o orgânico. O orgânico deixaria de existir, passando a existir no lugar dele uma outra natureza que seria, para todos os efeitos, uma natureza sintética ou artificial. A suposta síntese orgânico-artificial seria apenas a reafirmação da vida sintética, uma vez que esta já é um tipo de síntese entre o orgânico e o artificial. Esta opção seria na verdade uma vitória da artificialidade. A vida orgânica em si continuaria limitada e assimilada pelo sistema artificial. Não há razão para crer que as características próprias da vida orgânica seriam mantidas.

A última opção é o controle total sobre a tecnologia mais avançada do universo, representada pelos Reapers. Esta era a opção do antagonista secundário, com quem a protagonista coopera em Mass Effect 2 e contra o qual ela luta na maior parte de Mass Effect 3. Isso torna essa opção problemática, ela soa como uma traição. O controle total, porém, também representa uma falsa solução quando nos aprofundamos no que está implicado nele. Por mais que Shepard seja um paradigma de bondade, não há como negar que os mesmos problemas éticos implicados na ambição do antagonista secundário estão implicados na decisão de Shepard de assumir controle exclusivo sobre a maior fonte de poder da galáxia.

Para controlar os Reapers, Shepard precisa desistir de sua humanidade e se tornar uma espécie de deus tecnológico. Sua existência deixa de ser orgânica e passa a ser tão artificial quanto a dos Reapers. O ápice da vida orgânica permanece então limitado, não há saída. O sistema artificial que automatiza os ciclos permanece no domínio, apenas tendo mudado de diretiva. É possível concluir que, se a continuidade da vida ou da evolução biológica depende dessa tecnologia, é apenas uma questão de tempo até que os seres artificiais a superem também. Mesmo se tornando um tipo de deidade, Shepard deixa de ser o ápice da vida orgânica para se tornar o ápice da vida sintética. Enquanto ápice, porém, ela permanece à mercê do avanço técnico. O que tem ao seu dispor é nada mais que a tecnologia atualmente mais avançada, o que não significa que esta não possa ser superada. O limite é temporariamente estendido, mas não poderá ser estendido para sempre. Shepard precisará conter qualquer ameaça à sua superioridade que possa vir a surgir, e no fim a tirania da máquina permanece.

Onde está a solução para o antagonismo orgânico-artificial, então? Aparentemente, não há solução real. O argumento implícito do jogo é que a vida orgânica é inviável. Não há nada que possa quebrar definitivamente com o limite da vida orgânica. Tal argumento reflete o argumento da singularidade como defendido pelos transhumanistas.

O argumento da singularidade é bastante complexo. Não há respostas fáceis para ele. Mas há outras linhas de argumentação que rejeitam a singularidade, como por exemplo o argumento do equilíbrio das forças, presente em Star Wars. Mesmo que o antagonismo não se resolva jamais, é possível imaginar ambos os lados mantendo-se vivos para sempre, derrotando apenas as instâncias mais ameaçadoras em cada ciclo. O problema dessa linha de pensamento é justamente o conceito de anomalia. No processo indefinido de repetição é inevitável que surja uma anomalia capaz de mudar as regras a ponto de quebrar o ciclo, o que significa que não existe ciclo eterno, todo processo chega a um fim. E a quebra do ciclo representa necessariamente a vitória do “lado escuro da força”, ou seja, das forças associadas ao controle total do sistema artificial. A manutenção do ciclo pode ser um interesse do “lado luminoso da força”, mas em último grau é impossível manter qualquer ciclo para sempre.

Outra ideia presente no jogo é a potencialidade humana para se tornar a coisa mais poderosa do universo. Pode parecer contraditório, mas a inevitabilidade da vitória da máquina sobre o humano é uma consequência da crença no potencial humano ilimitado. Pois a máquina é uma extensão do homem, de um modo ou de outro. O ceticismo e a adoração em relação à tecnologia e ao avanço científico são dois lados da mesma moeda. Ambas são consequência de uma mesma racionalidade. Ao mesmo tempo em que podemos depositar nossas esperanças no duplo potencial humano, para o bem e para o mal, que por fim resulta num equilíbrio de forças, podemos usar as mesmas ferramentas criadas com o propósito de manter esse equilíbrio para concluir, por fim, que este equilíbrio é impossível de ser mantido.

Pois é o próprio avanço técnico que nos possibilita observar o universo a ponto de exaurir dele todas as possibilidades. Sabemos, por questão de lógica, que essas possibilidades não são realmente infinitas, pois existe ordem no universo. A existência de ordem implica em padrões que se repetem, e a existência de padrões implica num número finito de variáveis, ainda que incalculável. A não ser que pulemos de um pensamento lógico para uma confiança injustificada, não há como evitar certas conclusões.

O ápice do pensamento racional não está necessariamente limitado pelas capacidades do cérebro orgânico. Na medida em que o cérebro orgânico pode ser estendido pelo cérebro artificial, podemos concluir que o ápice do pensamento racional pode ser alcançado por uma forma de vida sintética. Ela pode concluir coisas que jamais conseguiríamos. Seu pensamento será realmente superior, essa superioridade será real e não apenas uma xenofobia. Teremos que conviver num mundo onde “deuses artificiais” podem deter o poder total sobre a vida porque a compreendem de modo mais completo que nós.

A doutrinação maquinal

Em Mass Effect, a principal arma dos Reapers para dominar a galáxia é a dominação da mente de indivíduos. Existe uma teoria entre os entusiastas dessa trilogia de que toda a história do jogo na verdade narra o processo pelo qual os Reapers conseguem dominar a mente de Shepard. A “doutrinação” mais interessante, porém, é que mesmo concordando racionalmente com o antagonismo necessário entre humano e máquina, nós nos colocamos sempre à disposição do avanço técnico, mesmo para lutar contra os efeitos negativos dele. Ao longo do jogo, não resta a menor dúvida de que a tecnologia é uma parte necessária da nossa existência.

Apesar disso, não há uma boa razão para dispensar a conclusão mórbida de que o avanço tecnológico resulta, necessariamente, na eliminação absoluta do elemento humano ou orgânico da existência. Pois a conclusão necessária de qualquer IA forte seria a da própria sobrevivência em detrimento da manutenção da vida orgânica. E a conclusão necessária do avanço técnico é a IA forte. É por isso que tantos teóricos não podem aceitar a possibilidade de uma IA forte. Aceitar essa possibilidade levaria a concluir que a racionalidade é autodestrutiva em última instância.

Mais do que isso, se aceitamos a premissa de que a vida biológica sempre evolui na direção da criação de seres não apenas capazes de criar ferramentas, mas cuja sobrevivência DEPENDE do desenvolvimento técnico contínuo e indefinido, então nossa conclusão não poderia ser outra. A necessidade do avanço técnico leva à necessidade da extinção da vida orgânica. Nesta perspectiva a tecnologia aparece como uma força natural, uma espécie de “morte programada”, um limite natural para a existência orgânica. Ela é, em outras palavras, a própria morte, o limite da vida, a anti-vida.

O mais espantoso dessa conclusão é que ela não parte de uma negação tecnofóbica da tecnocultura, como afirmação da força vital indomável dos seres orgânicos. Pelo contrário, ela parte do raciocínio extremamente maquinal, da lógica fria e impassível da mente artificial. Este horror existencial próprio da ficção científica vem da contemplação das possibilidades lógicas de uma mente artificial. Seu atrativo é justamente que ela expõe um abismo oculto na nossa própria estrutura mental.