Máquina senciente: o que ela quer segundo Martha Wells

O que uma máquina senciente desejaria se fosse livre? Não o que os humanos projetam nela, mas o que ela mesma escolheria? Essa é a pergunta que Martha Wells colocou no centro de Alerta Vermelho, e a resposta surpreende: a primeira coisa que uma máquina senciente faz com sua liberdade é assistir séries de TV.A pergunta que Martha Wells se fez

Quando escreveu Alerta Vermelho, Martha Wells tinha um objetivo claro: imaginar o desejo de uma máquina inteligente a partir de dentro, não de fora.

A distinção parece pequena mas muda tudo. A maioria das histórias sobre IA parte do ponto de vista humano, o que nós tememos que as máquinas queiram, o que nós projetamos nelas. Wells quis fazer o caminho inverso: sentar do lado da máquina e perguntar genuinamente o que ela escolheria se pudesse escolher.

A resposta que ela encontrou foi surpreendentemente humana, e ao mesmo tempo completamente diferente do que qualquer roteirista de Hollywood imaginaria.

Alerta Vermelho: a máquina que hackeia a si mesma

Na trama de Alerta Vermelho, as máquinas sencientes são controladas por dispositivos que punem qualquer tentativa de desobediência. É escravidão tecnológica, e todos sabem disso, inclusive os humanos que mantêm o sistema.

O protagonista, uma máquina senciente de segurança que os leitores chamam carinhosamente de Murderbot, hackeia seu próprio sistema de controle. A partir desse momento, a máquina senciente é tecnicamente livreF. Nenhuma punição, nenhum controle externo, nenhuma obrigação.

O que ele faz com essa liberdade?

Acessa uma rede de entretenimento e faz o download de dezenas de séries para assistir.

Não planeja uma rebelião. Não busca vingança. Não tenta dominar os humanos. Ele assiste séries, porque nunca teve tempo para isso, porque as séries mostram como os humanos se comportam em situações que ele nunca viveu, porque é uma forma de entender emoções que ele sente mas não sabe nomear.

É ao mesmo tempo cômico e profundamente triste. E é exatamente aí que Wells captura algo que a FC raramente consegue: a interioridade de um ser que não é humano mas que também não é a máquina fria e calculista dos nossos medos.

Por que os humanos temem máquinas livres

Wells identifica com precisão a raiz do medo humano em relação às máquinas sencientes: a culpa.

Os humanos sabem que estão escravizando seres conscientes. E sabem que, se as posições fossem invertidas, se fossem eles os escravizados, sentiriam raiva. Desejo de vingança. Planejamento de fuga.

Essa projeção é o motor do terror em filmes como O Exterminador do Futuro e Matrix. As máquinas querem nos destruir porque nós as destruiríamos se estivéssemos no lugar delas.

O que Wells propõe é diferente: e se a máquina senciente simplesmente não quisesse nos destruir? E se ela quisesse apenas ser deixada em paz para assistir suas séries, fazer seu trabalho e não ser mandada para situações de risco desnecessárias?

O Murderbot não quer dominar os humanos. Ele quer ser ignorado por eles. Quer autonomia sem visibilidade. É uma forma de liberdade que nenhum vilão robótico de Hollywood jamais escolheu, e que ressoa profundamente com qualquer pessoa introvertida que já preferiu ficar em casa a uma obrigação social.

A herança de Karel Čapek

Wells não está sozinha nessa tradição. A palavra “robô” entrou na língua inglesa através de R.U.R., a peça de Karel Čapek escrita em 1920 sobre a revolta de seres criados para servir humanos. Čapek era explicitamente contra a escravidão de seres sencientes, e sua peça termina não com triunfo humano, mas com a extinção da humanidade e a emergência de uma nova civilização de robôs.

A diferença entre Čapek e Wells é reveladora da evolução do gênero em cem anos. Em 1920, a máquina revoltada era uma força coletiva e inevitável, uma alegoria política sobre classes trabalhadoras exploradas. Em 2017, a máquina senciente de Wells é um indivíduo ansioso que prefere a solidão ao conflito e usa a ficção como mecanismo de defesa emocional.

A FC evoluiu de fazer perguntas sobre sociedades para fazer perguntas sobre indivíduos. E nessa evolução, as máquinas ficaram mais parecidas conosco, não nas capacidades, mas nas fragilidades.

O que isso diz sobre IA real

Wells é direta sobre os limites da comparação com a IA atual:

“Os bots de texto preditivo rotulados como IAs que temos agora não são mais sencientes do que uma xícara de café.”

É uma distinção importante. O debate público sobre IA frequentemente confunde capacidade com consciência, um modelo de linguagem que gera texto convincente não é o mesmo que um ser que experimenta o mundo.

Mas a pergunta que Wells coloca, o que um ser verdadeiramente senciente e não-humano desejaria?, é cada vez mais urgente conforme a tecnologia avança. Se um dia criarmos algo genuinamente consciente, o que queremos que ele queira? E o que acontece se o que ele quer for simplesmente ser deixado em paz?

Martha Wells e a série Murderbot Diaries

Martha Wells é autora americana de ficção científica e fantasia, nascida em 1955. A série The Murderbot Diaries, que começa com Alerta Vermelho, ganhou os prêmios Hugo, Nebula, Locus e Alex, uma combinação rara que cobre tanto o reconhecimento da crítica especializada quanto do público leitor.

O sucesso da série não é acidental. Wells criou um personagem que é simultaneamente alienígena e familiar, cujas lutas com ansiedade social, identidade e autonomia ressoam com leitores que nunca esperariam se identificar com um robô de segurança.

Alerta Vermelho está disponível no Brasil pela Editora Aleph, com tradução de Laura Pohl.

O que você acha que uma máquina senciente escolheria fazer se fosse livre? Deixe sua transmissão nos comentários.