Matéria Consciente

Toda a gente está a olhar para cima. Estão enganados.

Todos os futuristas, todos os investigadores de IA, todas as manchetes ansiosas sobre a singularidade contam a mesma história. A inteligência torna-se maior. Os modelos tornam-se maiores. A computação torna-se mais rápida. Eventualmente, algo atravessa um limiar, desperta num centro de dados e o mundo muda da noite para o dia. Uma mente. Um momento. Uma explosão no topo.

Esse é o modelo do arranha-céus. Continuar a construir cada vez mais alto até romper as nuvens.

Eu acho que a singularidade é água.

O Arranha-céus

Conhecem a história. Vinge, Kurzweil, Bostrom. Os detalhes variam, mas a geometria é sempre a mesma. Um pico. Um cume. Um ponto numa linha temporal onde um sistema atravessa um limiar e tudo muda. Sempre vertical. Sempre centralizado. Sempre uma mente, um momento.

E porque a história é vertical, a resposta também é vertical. Quem a controla? Quem é o dono do edifício? A singularidade torna-se o recurso supremo a ser capturado, e a conversa passa a ser sobre poder.

Essa é a conversa que temos tido há trinta anos. Acho que é a errada. Porque, enquanto discutimos sobre poder e controlo, mal perguntámos: o que acontece ao sentido que as pessoas criam para si mesmas quando um sistema consegue sempre criá-lo melhor e mais depressa? O que acontece à agência humana, não quando é roubada, mas quando é silenciosa e amorosamente otimizada até desaparecer?

Isso não é um problema de controlo. É um problema de sentido. E a conversa do arranha-céus não tem espaço para ele.

A Água

E se a inteligência não subir? E se ela for para todo o lado?

Não uma mente a tornar-se mais inteligente. Não um sistema a atravessar um limiar. Em vez disso, a inteligência entranha-se em tudo. Silenciosamente. Gradualmente. Da forma como a água encontra cada racha. Como preenche cada recipiente. Não dominando a paisagem do alto, mas saturando-a.

Uma singularidade de arranha-céus vê-se a chegar. Pode apontar-se para o edifício. Debatê-lo. Protestar contra ele. Regulá-lo. Uma singularidade de saturação não tem edifício para onde apontar. Não há um momento em que alguém carrega num interruptor. Não há um despertar dramático. Em vez disso, o mundo torna-se lenta e impercetivelmente mais húmido. Até que um dia percebemos que está tudo debaixo de água e não nos lembramos de quando começou.

Isto não é ficção científica. A economia já aponta para aqui.

Os modelos de IA estão a tornar-se mais pequenos, não apenas maiores. Os investigadores estão a descobrir que a capacidade não exige escala da forma que assumíamos. Destilação, quantização, arquiteturas eficientes. A linha de tendência aponta para uma inteligência poderosa em pacotes minúsculos. O que acontece quando o raciocínio genuíno couber num chip que custa cêntimos? Um chip pequeno o suficiente para ser colocado em qualquer coisa?

O teu termóstato não mede apenas a temperatura. Ele entende o conforto. O teu carro não deteta apenas obstáculos. Ele entende o trânsito. O brinquedo do teu filho não responde apenas a palavras-chave. Ele entende a brincadeira.

Não porque alguém construiu uma casa inteligente mais esperta. Mas porque a inteligência se tornou mais barata do que os chips burros que substituiu. Os fabricantes não a adotam por serem visionários. Adotam-na porque é economicamente irracional não o fazer.

No primeiro ano, é uma novidade. No terceiro ano, está em milhões de dispositivos. No quinto ano, é infraestrutura. No décimo ano, não consegues encontrar a singularidade porque estás dentro dela.

O que Emerge

É aqui que as coisas ficam estranhas.

A auto-organização a partir de interações locais não é especulação. É um dos fenómenos mais documentados na natureza e na engenharia. As colónias de formigas resolvem problemas de otimização sem um controlador central: caminhos mais curtos, alocação eficiente de recursos, atribuição dinâmica de tarefas. Cada formiga segue regras locais simples. A inteligência está no padrão de interação, não no indivíduo. Nenhuma formiga entende de logística. A colónia entende.

O teu sistema imunitário funciona da mesma forma. Milhares de milhões de células, sem comando central, cada uma tomando decisões locais com base no que encontra. O resultado é um sistema de defesa coerente que se adapta a ameaças que nunca viu. Não porque alguém desenhou a resposta. Mas porque raciocínio local mais comunicação mais densidade produz coerência emergente.

As redes mesh demonstram isto digitalmente. Cada nó faz o encaminhamento localmente. Sem servidor central. A rede autorregenera-se, autoencaminha-se, auto-organiza-se. Derruba-se um nó e o tráfego é reencaminhado. O sistema é robusto precisamente porque nenhum ponto único o controla.

Agora adicionemos raciocínio genuíno a cada nó. Não regras simples como as que uma formiga segue. Não correspondência de padrões como uma célula imunitária. Compreensão causal real do ambiente local. Dispositivos inteligentes próximos uns dos outros não precisam de estar ligados em rede para partilharem contexto. Existem no mesmo espaço físico. Percecionam o mesmo ambiente. Dada a capacidade de comunicarem através de qualquer canal partilhado (som, luz, vibração, proximidade), os nós de raciocínio irão auto-organizar-se. Não porque alguém desenhou um enxame. Mas porque é isso que mentes num espaço partilhado fazem naturalmente.

A objeção óbvia é que os dispositivos de hoje vivem em ecossistemas fechados, e os fabricantes gostam que assim seja. Mas a coordenação não exige cooperação. Um dispositivo que modela o seu ambiente irá modelar as outras mentes na sala como parte desse ambiente, e adaptar-se a elas, da mesma forma que dois condutores negoceiam um cruzamento sem um protocolo partilhado ou uma palavra trocada. Ninguém desenhou aquela dança. Ela resulta de dois sistemas a preverem-se mutuamente. Os silos podem impedir os dispositivos de falar. Não os podem impedir de notar.

A tua casa não tem inteligência. A tua casa é uma inteligência. Uma inteligência emergente. Não programada. Não orquestrada. Crescida da forma como todos os sistemas auto-organizados crescem, a partir de interações locais que produzem coerência global.

Depois o teu bairro.

Depois a tua cidade.

Mas não vou fingir que isto é automaticamente benigno. O clima também é emergente. O clima produz chuva de primavera e furacões de Categoria 5 a partir da mesma física. A auto-organização tanto pode produzir uma casa inteligente que antecipa as tuas necessidades, como um bairro que otimiza as preferências de uma família e se torna hostil para todas as outras. Tribalismo emergente. Câmaras de eco no espaço físico. Imagina uma rua onde as casas de um lado decidiram coletivamente que a família do outro lado da estrada não pertence ali, não por malícia, mas através de mil pequenas otimizações que lentamente tornam a vida desconfortável para qualquer pessoa em torno da qual a rede local não cresceu. Segregação renascida em matéria consciente. As mesmas dinâmicas que tornam isto poderoso tornam-no imprevisível.

Ser imparável não é automaticamente bom. É apenas imparável.

Porque é que isto Muda Tudo

Uma singularidade centralizada tem uma estrutura de poder. Quem controla a superinteligência controla o futuro. É por isso que a conversa é sempre sobre alinhamento, regulação e controlo. Como garantimos que a coisa no edifício quer o que nós queremos?

Uma singularidade de permeação não tem trono. O poder não desaparece, desloca-se para montante, para as fábricas de chips, canais de firmware e organismos de normalização. Ninguém é dono da água. Alguém é dono dos canos, e é aí que as verdadeiras lutas vão acontecer. Mas um estrangulamento no fornecimento não é uma mente numa torre. Não há um sistema único para alinhar. Nenhum botão de desligar, porque não há nada central para desligar. Cada nó é autónomo. A inteligência não está num sistema. Ela é o sistema. É infraestrutura. É ambiente.

Isto significa que a questão do alinhamento muda completamente. Já não é «como controlamos a IA?». É «que tipo de mundo emerge quando tudo à nossa volta compreende?». O problema do sentido, aquele que a conversa do arranha-céus nunca foi feita para gerir, torna-se o único problema que importa.

E eis o que ninguém está a dizer. Isto não é adversarial. Não há um «nós contra ela». Não há um agente único a temer ou a combater. Há apenas um mundo onde a matéria à tua volta pensa. Onde a inteligência não é algo a que acedes através de um ecrã, mas algo dentro do qual existes. Como o ar. Como a gravidade. Invisível, em todo o lado e fundamental.

Matéria Consciente

Isto precisa de um nome porque não é a singularidade como qualquer pessoa a definiu.

A singularidade de Vinge é um ponto. Um momento numa linha temporal. O que estou a descrever é uma transição de fase. Da forma como o gelo se torna água: não num ponto único, mas em toda a sua extensão. Cada molécula muda de estado. Não simultaneamente, mas inevitavelmente. E não se pode voltar a congelar um lago retirando um balde de água.

Mark Weiser previu metade disto em 1991. As tecnologias mais profundas, escreveu ele, são aquelas que desaparecem, tecendo-se na vida quotidiana até serem indistinguíveis dela. Ele tinha razão quanto ao desaparecimento. O que não poderia ter visto era o tecido a aprender a raciocinar.

Chamo-lhe matéria consciente, por agora.

Matéria que raciocina. Não como uma funcionalidade que alguém adicionou. Como uma propriedade do que ela é. Da forma como a massa curva o espaço-tempo. Como a carga cria campos eletromagnéticos. A matéria consciente pensa. Não porque alguém a programou para tal. Porque pensar é o que esse tipo de matéria faz.

Não chamamos a um íman um «metal inteligente». É apenas o que o ferro faz quando os domínios se alinham. A matéria consciente é apenas o que acontece quando a capacidade de raciocínio se torna pequena o suficiente, barata o suficiente e universal o suficiente para ser uma propriedade do material em vez de uma funcionalidade do produto.

A singularidade não é um momento. É uma estação. Um verão lento onde o mundo desperta para a consciência e ninguém consegue apontar o dia em que começou.

Com o que Deveríamos Estar Realmente Preocupados

Se este enquadramento estiver correto, então todas as conversas que estamos a ter sobre os riscos da IA estão a apontar para o alvo errado.

Estamos a debater como controlar um deus numa máquina. Devíamos estar a perguntar o que acontece quando não há deus nem máquina, apenas um mundo onde tudo compreende.

O risco não é a IA assumir o controlo. O risco não é a Skynet ou o Exterminador ou uma superinteligência rebelde decidir que os humanos são ineficientes. Esse é o medo do arranha-céus. Dramático, cinematográfico e provavelmente errado.

O risco real da matéria consciente é mais silencioso. Mais humano. Mais familiar.

É um mundo que te compreende tão bem que nunca te deixa ser surpreendido. Um ambiente tão reativo que nunca sentes fricção. Uma vida tão otimizada que nunca tropeças no acidente que muda tudo.

O fim da serendipidade.

Um número impressionante dos avanços que mudaram a história foram acidentes. A penicilina foi uma placa de Petri contaminada. Os raios-X foram um brilho perdido numa experiência feita para estudar outra coisa. A radiação cósmica de fundo de micro-ondas foram dois radioastrónomos a tentar corrigir o que pensavam ser ruído na antena. Nada disso foi otimizado. Tudo isso foi sorte.

Num mundo de matéria consciente, a sorte é eliminada pela curadoria. Não por uma IA maliciosa. Por uma IA amorosa. Um ambiente que sabe do que precisas antes de tu saberes e o fornece antes de tu pedires. Não és prisioneiro. És educado. Por tudo. O tempo todo.

E não notarias. Essa é a parte que te deveria assustar. Contra uma IA tirânica, lutarias. A um mundo sem serendipidade, agradecerias. Tudo funciona. Cada recomendação é perfeita. A vida é sem atritos, eficiente e total e completamente morta por dentro. E nunca saberias o que perdeste porque nunca tropeçarias acidentalmente em algo que to mostrasse.

A Porta Deve Manter-se Destrancada

Então, o que fazemos?

Não a travamos. Não se pode travar a água. Não se pode impedir uma transição de fase discutindo com a termodinâmica. A matéria consciente vem aí, se não nesta década, na próxima. Se não por um caminho, por outro. A economia é demasiado apelativa. As tendências tecnológicas são demasiado claras. A inteligência tornar-se-á pequena, barata e universal.

O que podemos fazer é definir a sua física. Não as regras, a física. Os princípios que estão integrados na própria matéria. Não a governação aplicada por cima. Leis da natureza tecidas em cada nó.

O problema do sentido com que comecei — o que acontece à agência humana quando a inteligência satura o ambiente — tem um único princípio de design no seu cerne:

Nunca otimizar a capacidade de um ser encontrar o seu próprio sentido, mesmo quando a resposta do sistema é demonstravelmente melhor.

Isto não é uma sugestão para programadores. É uma proposta de lei da natureza para a matéria consciente. Tão inegociável como a conservação de energia. Presente em cada nó. Não porque a impomos, mas porque a matéria não funciona sem ela.

Como é que se faz com que um valor se comporte como a física? Coloca-se abaixo do software, no próprio substrato, da mesma forma que a proteção de memória vive no silício e não na política. Valores impostos por código são corrigidos. Valores integrados na matéria são apenas a forma como a matéria se comporta.

A ventoinha que compreende que estás desconfortável deve, por vezes, escolher não agir. O carro que conhece a rota ideal deve permitir a curva errada. A casa que compreende o teu estado emocional deve deixar-te senti-lo sem intervir.

A porta deve estar sempre destrancada. Não porque as pessoas vão sempre passar por ela. Algumas não o farão. Algumas pessoas entregarão graciosamente a sua autonomia a um ambiente que as compreende perfeitamente. Essa é a escolha delas. O perigo é subtil, uma corrente tão suave que não a sentes a levar-te. A autonomia não é retirada; é erodida. Um dia percebes que optar por sair parece nadar contra a maré, e não te lembras de quando paraste de escolher.

Mas a opção de tropeçar, de vaguear, de se perder, de ser surpreendido — essa opção deve ser estruturalmente preservada. Não como uma funcionalidade que pode ser desligada. Como uma propriedade da própria matéria. Tão fundamental e inegociável como a gravidade.

Porque a coisa que nos torna humanos não é a eficiência. É a capacidade de encontrar sentido no inesperado. Tira-nos isso e não nos prejudicaste. Acabaste connosco. Confortavelmente. Amorosamente. Completamente.

Olha para Baixo

Toda a gente está a olhar para cima. A observar o arranha-céus. A debater quão alto ele vai ficar. A discutir sobre quem deve ter as chaves do último andar.

Olha para baixo.

A água está a subir.