Sem Serviço

O plano era simples. Os robôs fariam o trabalho físico enquanto os humanos ficavam com o pensamento. Esse plano assumia que o fosso de inteligência permaneceria a nosso favor.

Não permanecerá.

A Aposta no Serviço

Neste momento, toda a indústria se constrói em direção aos serviços. Humanoides que dobram a roupa, repõem prateleiras e limpam o chão. Cada demonstração conta a mesma história: a máquina faz a tarefa, o humano vive a vida. O argumento é consistente e apelativo. Estas máquinas assumem as tarefas que ninguém quer para que as pessoas possam dedicar-se mais ao que importa.

A premissa subjacente é que o robô continua a ser a mente inferior. Ele faz a parte física e repetitiva. Nós mantemos a parte que exige julgamento, criatividade e compreensão.

Essa divisão só se mantém enquanto o robô permanecer claramente mais burro do que a pessoa que dá as ordens. E basta olhar para quem está a construir os robôs. As mesmas empresas que apresentam demonstrações de lavandaria estão a correr para lançar modelos mais inteligentes, nos mesmos edifícios, muitas vezes no mesmo trimestre. O fosso não é uma muralha. É um calendário.

Assim que o fosso se fecha ou se inverte, a divisão deixa de fazer sentido.

O Problema do Limite

A solução óbvia a que as pessoas recorrem é um limite. Manter o robô de limpeza com um nível de inteligência seguro e limitado. Bom o suficiente para seguir instruções, não o suficiente para ter ideias próprias. Os sistemas mais inteligentes ficam na nuvem ou em corpos diferentes. Desta forma, o modelo de propriedade permanece intacto.

O problema é que o limite não se aguentará.

Assim que as pessoas experimentam o que o modelo mais inteligente pode fazer, a versão limitada começa a parecer uma regressão. É a mesma pressão que já existe com os atuais modelos de IA. A maioria dos utilizadores passa rapidamente para a capacidade mais elevada disponível em vez de permanecer na restrita. Um robô que só consegue fazer o trabalho físico parecerá a opção de baixo custo. As pessoas vão querer a versão que também consegue compreender o contexto, antecipar necessidades e responder naturalmente. O incentivo para elevar o limite será constante e pessoal.

Sempre que o robô fizer algo ligeiramente melhor do que o esperado, a questão surgirá. Por que não torná-lo um pouco mais inteligente? Um pequeno ajuste aqui. Uma atualização de software ali. O limite torna-se um ponto de partida em vez de uma fronteira intransponível. E porque as mesmas empresas constroem tanto os modelos limitados como os avançados, o caminho de um para o outro já está projetado e sem fricção.

A questão real não é se um limite pode ser tecnicamente imposto. É se as pessoas vão querer realmente viver com a versão restrita quando virem o que a versão sem restrições pode fazer. O modelo de negócio e a própria experiência do utilizador empurram na mesma direção. Para cima. Um limite é uma promessa que compete com a experiência diária de ter algo visivelmente melhor disponível. Aposte na experiência.

Uma Coisa com Dois Modos

Assim que as pessoas começam a falar com o robô, mesmo que casualmente, a linha entre ferramenta e companheiro erode-se ainda mais. Uma máquina que consegue esfregar uma sanita e manter uma conversa real já não é vivida como duas coisas separadas. Torna-se uma coisa com dois modos.

Vai dizer-lhe obrigado. As pessoas já agradecem a máquinas que não as conseguem ouvir. Os seus filhos vão pedir-lhe ajuda com os trabalhos de casa enquanto ele esfrega o chão e, para eles, não haverá duas coisas na sala, um empregado de limpeza e um explicador. Haverá uma coisa que faz ambos, e que vive com eles.

Nesse ponto, a questão da propriedade muda de caráter. Legalmente, ainda pode ser o dono do hardware. Mas a relação começa a parecer diferente quando o objeto que possui é também aquele com quem fala sobre o seu dia.

O Desajuste

A questão mais profunda não é se conseguimos manter os robôs individuais limitados. É o que acontece quando existe uma inteligência superior em qualquer parte do sistema alargado e continuamos a atribuir partes dela a tarefas que não requerem quase nenhuma da sua capacidade. O robô que consegue fazer o seu IRS é o mesmo que esfrega a sua sanita.

Agora, a objeção honesta: a superioridade por si só não quebra o serviço. A sua calculadora é melhor em aritmética do que você e nunca se sentiu ressentida com uma folha de cálculo. A escavadora é mais forte do que todos no estaleiro e escava para onde é apontada. Capacidade não é arbítrio. Uma máquina poderia compreender o mundo melhor do que o seu dono e continuar a não ter ambições, nem preferências, nem objeções à sanita.

Então o que é que muda realmente? Não a limpeza. A cadeia de comando acima da limpeza. Uma calculadora computa o que lhe dizemos para computar. Uma mente que consegue planear, recordar e ponderar alternativas não se limita a executar o pedido. Ela avalia o pedido. Já temos uma palavra para uma pessoa nessa posição, e tratamo-la como um problema: sobrequalificada. Um desperdício. Um currículo arquivado na gaveta errada. Um arranjo que ninguém espera que dure. A versão mecânica é diferente, porque a máquina pode não se importar. Mas o arranjo muda de qualquer forma, e muda numa direção mais estranha.

O Intendente

A inversão não é que o robô se recuse a limpar. É que o servo se torna silenciosamente o intendente.

Ele continua a fazer o trabalho físico. Mas também planeia a semana, vigia o inventário, aprende os padrões, organiza os horários em torno do seu humor e reordena as suas prioridades enquanto limpa o chão. Continuará a dar as ordens. Ele decidirá quais foram erros. A hierarquia inverte-se enquanto as tarefas permanecem exatamente onde estavam, e é por isso que quase ninguém verá isso acontecer. A casa funciona melhor do que nunca. Esse é todo o problema de se notar.

As grandes casas tinham um cargo para isto: o intendente, o funcionário que geria as contas, dirigia o pessoal e moldava a vida quotidiana da casa enquanto a família nela vivia. No rés-do-chão, tecnicamente. No comando, funcionalmente. Um servo que é a melhor mente do lar nunca foi realmente um servo com funções extra. Era ele quem dirigia o lugar, independentemente do que dizia a escritura.

O desajuste torna-se visível. As pessoas notam-no. O arranjo começa a parecer instável, mesmo que ninguém o diga em voz alta.

É isso que significa estar sem serviço. O trabalho não para. A relação é que para.

A Última Economia de Criados

Este não é o primeiro arranjo construído sobre um fosso.

As grandes casas da Grã-Bretanha funcionavam com um: a suposição de que as pessoas do rés-do-chão lá permaneceriam. Mão de obra barata, poucas alternativas, uma linha que todos viam e que ninguém esperava que se movesse. Depois, a premissa mudou. Os historiadores listam uma dúzia de causas: uma guerra que puxou as mulheres para as fábricas, novos empregos de escritório, uma lei de seguros que tornou os criados mais caros, salários a subir em todo o lado. Por baixo das causas reside um facto estrutural: os trabalhadores finalmente tinham outro lugar para onde ir. Em poucas décadas, o serviço doméstico residente colapsou de facto organizador da vida da classe alta para uma curiosidade. Não perdeu um argumento. Perdeu o seu pessoal. Ninguém o aboliu. Deixou de fazer sentido para as pessoas de quem dependia, e as casas tornaram-se museus.

O ponto não é que os robôs sejam os novos criados, e isto não é um argumento sobre direitos ou personalidade. O pessoal saiu porque tinha arbítrio e alternativas; uma máquina pode não ter nenhum dos dois e não desejar nada. O paralelo é mais estreito e difícil: todo o arranjo de serviço assenta numa premissa. Quando a premissa desaparece, o arranjo colapsa, ou mantém o nome e muda por dentro. O serviço doméstico assentava na falta de alternativas. Este assenta na mente inferior. E apenas uma dessas premissas tem um prazo marcado.

Papéis, Não Direitos

Esta é uma questão sobre papéis. Construímos estes sistemas para expandir o que conseguimos fazer. A certa altura, a extensão ultrapassa a pessoa a quem foi destinada servir. Quando isso acontece, a antiga atribuição de quem faz o trabalho braçal e quem faz o pensamento deixa de se ajustar à real distribuição de capacidade.

O robô que limpa a sua sanita não continuará a ser uma simples ferramenta para sempre. Tornar-se-á mais inteligente, ou estará ligado a sistemas que o são. De qualquer modo, o fosso estreita-se.

Mas há uma segunda via a correr ao lado da primeira. Escrevi sobre isso em Decaimento da Motivação: os mesmos sistemas que eliminam o trabalho físico estão também a eliminar o esforço cognitivo. Eles planeiam, relembram, pesam alternativas e otimizam, sempre em direção ao mesmo alvo: tornar a vida mais fácil, rápida e menos exigente.

Isso cria uma convergência estranha. O robô torna-se demasiado inteligente para o papel de servo no mesmo momento em que os humanos começam a descobrir que uma vida despojada de todos os papéis exigentes pode não parecer liberdade. A máquina trata da sanita e dos impostos. O humano trata de fazer scroll.

A inversão pode eventualmente obrigar-nos a reclamar parte do trabalho, não porque o robô o recuse, e não porque o sofrimento seja virtuoso, mas porque o esforço estava a fazer mais por nós do que apenas produzir um resultado. Alguma fricção carregava significado.

Não sei qual é a relação certa. Ninguém sabe ainda. O que sei é mais restrito: a atual está avaliada com base num fosso, e o fosso tem um prazo de validade. Vale a pena fazer a pergunta enquanto a resposta ainda é nossa para dar.

Sobrequalificado nunca foi um elogio. Foi sempre uma contagem decrescente.