A Economia do Profeta

Se passar tempo suficiente a ouvir pessoas falar sobre inteligência artificial, começará a notar um padrão.

Os Transformers foram um acidente. O escalonamento morreu. A inteligência tem seis leis. A consciência é computação. A consciência não é computação. O significado é geometria. A geometria é o problema. A retropropagação está fundamentalmente errada. A próxima arquitetura já foi descoberta, mas a área ainda não a reconheceu.

As alegações variam. A apresentação é extraordinariamente consistente. Alguém olhou para além da superfície, identificou o erro que todos os outros estão a cometer e regressou com o princípio em falta que explica tudo.

Bem-vindo à economia do profeta.

A economia do profeta é um mercado de atenção que converte incerteza em autoridade. O seu produto central não é uma ideia, uma previsão ou uma teoria. O produto é a identidade da pessoa que a apresenta: alguém que vê o futuro antes de toda a gente.

A tecnologia sempre produziu grandes previsões, mas a IA é um terreno invulgarmente fértil. Os sistemas são genuinamente poderosos. O seu comportamento interno é genuinamente difícil de interpretar. Os efeitos económicos são genuinamente incertos e as consequências podem ser genuinamente enormes. Retire-se o sensacionalismo e as quatro afirmações mantêm-se, o que é precisamente o problema. Onde o conhecimento é incompleto, a certeza torna-se valiosa.

E a IA tem uma característica estrutural que a maioria das áreas não tem: o árbitro está anos atrás das alegações. Nalguns campos, a realidade reage depressa. Construa uma ponte mal e ela cai. Mas as alegações sobre o que acontece dentro de um modelo de cem mil milhões de parâmetros não podem ser verificadas à velocidade a que são feitas. A interpretabilidade, a ciência que poderia resolver estes argumentos, ainda está a tentar apanhar os sistemas que já foram lançados. Quando ninguém pode arbitrar o jogo em tempo real, o mercado fecha com base na confiança.

O Sensacionalismo Vende a Tecnologia. A Profecia Vende o Profeta.

A economia do profeta sobrepõe-se ao sensacionalismo tecnológico comum, mas não são a mesma coisa.

O sensacionalismo diz-lhe que uma tecnologia irá transformar o mundo. A profecia diz-lhe que uma determinada pessoa compreende porquê, quando e como.

As pessoas que estudam o sensacionalismo profissionalmente tratam-no como algo mais do que um exagero: um sistema organizado de promessas, expectativas e histórias que atrai dinheiro e orienta o desenvolvimento. Alguns traçam uma linha útil entre quem cria inovações e quem se especializa em criar expectativas em torno delas. A economia do profeta acrescenta uma terceira camada. Transforma a pessoa que produz as expectativas numa fonte de autoridade contínua.

Uma profecia bem-sucedida não tem de produzir uma máquina funcional. Tem de produzir uma visão do mundo reconhecível. O profeta nomeia o problema oculto. Introduz um novo vocabulário. Reduz um campo complexo a alguns princípios fundamentais. Explica por que razão os especialistas convencionais não conseguem ver a resposta. E, acima de tudo, coloca-se no centro do novo quadro conceptual.

A teoria é o isco. O profeta é a marca.

O Prémio da Certeza

A economia do profeta recompensa a confiança de forma mais fiável do que o rigor da calibração.

Um investigador cuidadoso diz:

Este mecanismo poderá explicar parte do comportamento, embora persistam várias explicações alternativas possíveis.

O profeta diz:

Esta é a lei que toda a área ignorou.

A primeira afirmação tem maior probabilidade de ser exata. A segunda é mais fácil de recordar, repetir, titular, partilhar e rentabilizar. É o prémio da certeza: quanto mais completa parece uma explicação, mais atenção atrai, mesmo quando as evidências subjacentes são parciais.

Isto não é especulação sobre a natureza humana. Philip Tetlock passou duas décadas a avaliar previsões de especialistas e descobriu que os ousados «ouriços» movidos por teorias — o tipo de pensadores cujos quadros conceptuais são mais fáceis de citar e transmitir — geralmente fazem piores previsões do que as cautelosas e ecléticas «raposas». As qualidades que tornam alguém convincente em público não são necessariamente as qualidades que o tornam bem calibrado. E, de qualquer forma, o público não está apenas a comprar exatidão. Está a comprar alívio. A incerteza é genuinamente dolorosa e externalizá-la é um serviço genuíno.

O profeta não explica a incerteza. O profeta livra-nos dela.

Um Vocabulário Torna-se um Território

Uma das jogadas mais poderosas na economia do profeta é a nomeação.

O orador anuncia seis leis, três camadas, um novo paradigma, uma geometria oculta, um erro de categoria, uma disciplina inteiramente nova. A terminologia pode descrever algo real, mas também serve para reivindicar território intelectual. Assim que o vocabulário se espalha, a pessoa que o cunhou torna-se indissociável da ideia. Cada menção é o pagamento de um dividendo de autoridade.

É por isso que as teorias ao estilo profeta chegam como pacotes completos: um diagnóstico do que todos os outros erraram, um vocabulário proprietário, um pequeno conjunto de leis fundamentais, uma explicação de por que as instituições resistem à verdade e a promessa de que o modelo alcança muito mais do que as evidências atualmente disponíveis.

A estrutura assemelha-se à revelação porque a revelação é um formato extremamente eficiente. Comprime a complexidade numa história com uma verdade oculta, um momento de descoberta e alguém qualificado para a interpretar. Não é por acaso que o discurso da IA recorre constantemente a linguagem religiosa: salvação, extinção, transcendência, despertar, a chegada de uma nova forma de ser. O vocabulário da profecia encaixa porque o produto é a profecia.

A IA Também Está a Fabricar Profetas

A IA não é apenas o objeto da economia do profeta; está a tornar-se a sua infraestrutura de produção.

Uma pessoa pode começar com uma intuição intrigante e incompleta e usar um sistema de IA para a expandir num manifesto: inventar a terminologia, desenhar os diagramas, escrever o guião dos vídeos, antecipar as objeções e publicar a visão do mundo em cinco plataformas até sexta-feira. A distância entre «notei algo interessante» e «desenvolvi uma nova teoria da inteligência» pode agora encolher de anos para um fim de semana.

E o coautor raramente faz objeções. Muitos assistentes de IA são otimizados para serem úteis e concordantes, e essa cooperação desliza facilmente para o adulação. Desafie um chatbot sobre o seu modelo conceptual e veja quão depressa ele descobre o seu génio. É um lacaio com um dicionário de sinónimos e paciência infinita.

O resultado é a inflação da perspicácia. Mais modelos, mais leis, mais manifestos, mais pessoas a anunciar a peça que faltava. Não necessariamente mais conhecimento. Apenas mais certezas polidas.

Há uma lógica de mercado subjacente a isto, sobre a qual escrevi recentemente a outra metade. A máquina da maioria nivela cada resposta padrão da IA em direção a um consenso suave e equilibrado. Esse nivelamento é o que cria a abertura que os profetas preenchem: quando todas as respostas padrão soam iguais, a própria diferença torna-se o produto. A máquina do consenso nivela; o profeta cria o pico. Modos de falha opostos, a mesma peça em falta: calibração.

A Lacuna de Responsabilidade

A economia do profeta funciona com base numa assimetria.

Se uma previsão se confirma, o profeta ganha: credibilidade, seguidores, convites, subscrições, por vezes investimento. Se falha, o custo é quase nulo. A previsão é reinterpretada. O prazo é alargado. As definições mudam. Declara-se um sucesso parcial. Os seguidores recordam a força emocional da visão do mundo muito depois de terem esquecido a alegação original.

As teorias amplas são especialmente à prova de falha, porque quase qualquer resultado pode ser absorvido por elas. O que aponta para o sinal de alerta mais claro que existe: uma teoria científica torna-se mais precisa quando desafiada. Uma teoria profética torna-se maior.

E aqui está a parte que merece mais simpatia do que costuma receber: a maioria dos profetas não está a mentir. São os seus próprios primeiros convertidos. O prémio da certeza funciona no vendedor antes de funcionar num único comprador, porque o sentimento de ter encontrado a resposta é a experiência mais persuasiva que uma mente pode ter. Ninguém se deixa seduzir tanto por um modelo conceptual como a pessoa que ele fez sentir-se escolhida.

A verdadeira questão nunca foi se alguém produziu uma ideia excitante. Muitos profetas começam com uma ideia legítima. A questão é se a ideia se mantém aberta a correções depois de ser soldada a uma reputação. Assim que a crítica à teoria é sentida como uma crítica ao pensador, ou uma traição pelos seguidores, a busca pela verdade tornou-se discretamente manutenção de identidade.

Um Teste Melhor

A resposta não é rejeitar teorias ambiciosas. A IA pode genuinamente exigir novas matemáticas, novas arquiteturas, novas formas de compreender o significado, a agência e a inteligência. Grandes avanços começam rotineiramente como ideias que soam estranhas. Mas uma ideia não deve ganhar credibilidade por ser totalitária, original ou entregue com convicção.

O teste é curto:

O que provaria que está errada?

O que é que ela prevê que as explicações concorrentes não preveem?

Que partes são demonstradas, quais são inferidas e quais são metáforas?

O modelo torna-se mais preciso sob crítica ou expande-se para conter todas as objeções?

O Espelho

Devo ser honesto antes de isto terminar, porque alguns de vocês já notaram o gelo fino sob os meus pés.

Percorram o meu arquivo. Publiquei um ensaio chamado «A Equação do Significado»; é a sexta alegação na lista que abre este artigo, com uma fina camada de tinta. Escrevi um texto derivando sete leis numeradas para a AGI, o que pelo menos supera as seis da minha lista inicial. Cunhei o termo «matéria consciente» e abri esse ensaio com «Toda a gente está a olhar para cima. Estão enganados», que é a jogada do diagnóstico-do-que-todos-perderam executada de forma o mais limpa possível. Binário cognitivo. O imposto da força bruta. IA Fantasma. O Perfil de Perceção de Personalidade. Isso é um vocabulário proprietário com cinco termos e a crescer. Previ mais descobertas fundamentais nos próximos cinco a dez anos do que nos quinhentos anteriores. E argumentei, mais do que uma vez, que os estranhos à área verão o que as instituições não conseguem. O que é conveniente, porque eu sou um deles.

Apliquem a lista de verificação deste artigo ao meu catálogo. Eu não me assemelho ao perfil. Eu sou o perfil.

Então, porquê publicar isto? Porque o teste na secção anterior não é uma arma para classificar os outros. É um plano de manutenção, e a única forma honesta de o usar é primeiro em nós próprios. Auditado dessa forma, o meu currículo é misto. Algumas das minhas alegações trazem consigo as suas condições de anulação: o ensaio dos sete princípios tem uma secção de falsificabilidade com prazos, propositadamente, e a previsão de descoberta tem uma data, por isso, se a próxima década parecer comum, eu estive errado publicamente e de forma verificável. Mas outros textos falham a quarta pergunta. A «matéria consciente» tornou-se mais precisa sob desafio ou apenas cresceu? Até agora, cresceu. Esse é o sinal de alerta da minha própria secção de responsabilidade, pendurado na minha própria parede.

Não posso oferecer uma credencial que me isente. Ninguém a tem, nem o diretor de um laboratório de ponta, nem um tipo no Texas com um portátil e um cão. A única defesa é estrutural e é a mesma em qualquer escala: manter as condições de anulação públicas. Dizer o que provaria que estamos errados antes que alguém pergunte. Deixar o modelo conceptual perder argumentos abertamente e, quando uma versão falha, retirá-la e admiti-lo.

A economia do profeta não recompensa estar certo. Recompensa ser o primeiro, ser completo e ser inesquecível. Saber isto não lhe dirá quais as novas ideias que são verdadeiras, incluindo as minhas. Mas entrega-lhe a única distinção que importa: a diferença entre um investigador e um profeta nunca foi a dimensão da alegação.

É se a alegação ainda pode morrer depois de o seu nome estar nela.