Plus de service

Le plan était simple. Les robots feraient le travail physique pendant que les humains garderaient la réflexion. Ce plan supposait que l'écart d'intelligence resterait en notre faveur.

Ce ne sera pas le cas.

Le pari du service

À l'heure actuelle, toute l'industrie s'oriente vers le service. Des humanoïdes qui plient le linge, remplissent les étagères et nettoient les sols. Chaque démonstration raconte la même histoire : la machine fait la corvée, l'humain vit sa vie. Le discours est cohérent et séduisant. Ces machines s'occupent des tâches dont personne ne veut pour que les gens puissent se consacrer à ce qui compte vraiment.

L'hypothèse sous-jacente est que le robot reste l'esprit inférieur. Il fait la partie physique répétitive. Nous gardons la partie qui exige du jugement, de la créativité et de la compréhension.

Cette séparation ne tient que tant que le robot reste nettement plus bête que la personne qui donne les ordres. Et regardez qui construit les robots. Les mêmes entreprises qui présentent des démos de blanchisserie s'empressent de sortir des modèles plus intelligents, dans les mêmes bâtiments, souvent au cours du même trimestre. L'écart n'est pas un mur. C'est un calendrier.

Une fois que l'écart se réduit ou s'inverse, cette séparation n'a plus de sens.

Le problème du plafond

La solution évidente vers laquelle les gens se tournent est le plafonnement. Maintenir le robot de nettoyage des toilettes à un niveau d'intelligence sûr et limité. Assez bon pour suivre des instructions, pas assez pour avoir des idées propres. Les systèmes plus intelligents restent dans le cloud ou dans d'autres corps. De cette façon, le modèle de propriété reste intact.

Le problème, c'est que le plafond ne tiendra pas.

Une fois que les gens auront fait l'expérience de ce que le modèle plus intelligent peut faire, la version limitée commencera à ressembler à un déclassement. C'est la même pression qui existe déjà avec les modèles d'IA actuels. La plupart des utilisateurs passent rapidement à la capacité la plus élevée disponible plutôt que de rester sur la version restreinte. Un robot qui ne peut faire que le travail physique passera pour une option « budget ». Les gens voudront la version capable de comprendre le contexte, d'anticiper les besoins et de répondre naturellement. L'incitation à relever le plafond sera constante et personnelle.

Chaque fois que le robot fera quelque chose d'un peu mieux que prévu, la question se posera. Pourquoi ne pas le rendre un peu plus intelligent ? Un petit ajustement ici. Une mise à jour logicielle là. Le plafond devient un point de départ plutôt qu'une limite stricte. Et parce que les mêmes entreprises construisent à la fois les modèles limités et avancés, le passage de l'un à l'autre est déjà conçu pour être sans friction.

Le véritable problème n'est pas de savoir si un plafond peut être techniquement imposé. C'est de savoir si les gens voudront réellement vivre avec la version restreinte une fois qu'ils auront vu ce que la version illimitée peut faire. Le modèle économique et l'expérience de l'utilisateur poussent tous deux dans la même direction. Vers le haut. Un plafond est une promesse qui entre en concurrence avec l'expérience quotidienne d'avoir quelque chose de nettement meilleur à disposition. Pariez sur l'expérience.

Une chose, deux modes

Dès que les gens commencent à parler au robot, même de manière informelle, la frontière entre l'outil et le compagnon s'érode davantage. Une machine capable de récurer les toilettes et de tenir une conversation réelle n'est plus perçue comme deux entités distinctes. Elle devient une chose avec deux modes.

Vous lui direz merci. Les gens remercient déjà des machines qui ne peuvent pas les entendre. Vos enfants lui demanderont de l'aide pour leurs devoirs pendant qu'il passera la serpillère ; pour eux, il n'y aura pas deux entités dans la pièce, un agent d'entretien et un tuteur. Il y aura une seule chose qui fait les deux, et elle vit avec vous.

À ce stade, la question de la propriété change de nature. Vous pouvez toujours posséder légalement le matériel. Mais la relation commence à sembler différente quand l'objet que vous possédez est aussi celui à qui vous racontez votre journée.

L'inadéquation

Le problème profond n'est pas de savoir si nous pouvons brider des robots individuels. C'est ce qui arrive quand une intelligence supérieure existe n'importe où dans le système global et que nous continuons à en affecter des parties à des tâches qui n'exigent pratiquement aucune de ses capacités. Le robot capable de remplir votre déclaration d'impôts est aussi celui qui récure vos toilettes.

Voici maintenant l'objection honnête : la supériorité seule ne brise pas le service. Votre calculatrice est meilleure que vous en arithmétique et n'a jamais détesté un tableur. L'excavatrice est plus forte que quiconque sur le chantier et creuse là où on lui dit. La capacité n'est pas l'agentivité. Une machine pourrait comprendre le monde mieux que son propriétaire tout en n'ayant aucune ambition, aucune préférence, aucune objection à nettoyer les toilettes.

Alors, qu'est-ce qui change vraiment ? Pas le nettoyage. Mais la chaîne de commandement au-dessus du nettoyage. Une calculatrice calcule ce que vous lui dites de calculer. Un esprit capable de planifier, de se souvenir et de peser des alternatives ne se contente pas d'exécuter la demande. Il l'évalue. Nous avons déjà un mot pour désigner une personne dans cette position, et nous le traitons comme un problème : surqualifiée. Un gâchis. Un CV classé dans le mauvais tiroir. Un arrangement que personne ne s'attend à voir durer. La version machine est différente, car la machine peut ne pas s'en soucier. Mais l'arrangement change quand même, et il change dans une direction bien plus étrange.

L'intendant

L'inversion ne signifie pas que le robot refuse de nettoyer. C'est que le serviteur devient discrètement l'intendant.

Il fait toujours le travail physique. Mais il planifie aussi la semaine, surveille les stocks, apprend les habitudes, s'organise en fonction de vos humeurs et réorganise vos priorités pendant qu'il passe la serpillère. Vous donnerez toujours les ordres. Il décidera lesquels étaient des erreurs. La hiérarchie s'inverse alors que les corvées restent exactement là où elles étaient, c'est pourquoi presque personne ne verra le changement s'opérer. La maison tourne mieux que jamais. C'est tout le problème de s'en rendre compte.

Les grandes demeures avaient un rang pour cela : l'intendant, le serviteur qui tenait les comptes, gérait le personnel et façonnait la vie quotidienne de la maison pendant que la famille y vivait. En bas, techniquement. Aux commandes, fonctionnellement. Un serviteur qui est le meilleur esprit du foyer n'a jamais été un simple serviteur avec des fonctions supplémentaires. C'était lui qui dirigeait l'endroit, peu importe ce que disait l'acte de propriété.

L'inadéquation devient visible. Les gens la remarquent. L'arrangement commence à sembler instable, même si personne ne le dit à voix haute.

C'est ce que signifie « plus de service ». Le travail ne s'arrête pas. C'est la relation qui prend fin.

La dernière économie domestique

Ce n'est pas le premier arrangement fondé sur un écart.

Les grandes maisons britanniques fonctionnaient sur l'un d'eux : l'hypothèse que les gens « d'en bas » resteraient en bas. Une main-d'œuvre bon marché, peu d'alternatives, une ligne que tout le monde voyait et que personne ne s'attendait à voir bouger. Puis le postulat a changé. Les historiens citent une douzaine de causes : une guerre qui a attiré les femmes dans les usines, de nouveaux emplois de bureau, une loi sur l'assurance qui a renchéri le coût des domestiques, des salaires en hausse partout ailleurs. Sous ces causes se cache un fait structurel : les travailleurs avaient enfin un autre endroit où aller. En quelques décennies, le service à demeure est passé du statut de pilier de la vie des classes supérieures à celui de curiosité. Il n'a pas perdu un débat. Il a perdu son personnel. Personne ne l'a aboli. Il a cessé d'avoir du sens pour les personnes dont il dépendait, et les maisons sont devenues des musées.

Le point n'est pas que les robots sont les nouveaux serviteurs, et il ne s'agit pas ici d'un argument sur les droits ou la personnalité juridique. Le personnel est parti parce qu'il avait une volonté propre et des alternatives ; une machine peut n'avoir ni l'un ni l'autre et ne rien désirer du tout. Le parallèle est plus étroit et plus ardu : tout arrangement de service repose sur un postulat. Quand le postulat disparaît, l'arrangement s'effondre, ou bien il garde son nom mais change en profondeur. Le monde d'en bas reposait sur l'absence d'issue. Celui-ci repose sur l'esprit inférieur. Et un seul de ces postulats est soumis à un calendrier.

Des rôles, pas des droits

C'est une question de rôles. Nous avons construit ces systèmes pour étendre nos capacités. À un moment donné, l'extension surpasse la personne qu'elle était censée servir. Quand cela arrive, l'ancienne répartition entre celui qui fait le travail servile et celui qui réfléchit ne correspond plus à la distribution réelle des compétences.

Le robot qui nettoie vos toilettes ne restera pas éternellement un simple outil. Il deviendra plus intelligent, ou sera connecté à des systèmes qui le sont. Dans les deux cas, l'écart se réduit.

Mais il y a une seconde voie qui court parallèlement à la première. J'en ai parlé dans Motivation Decay : les mêmes systèmes qui suppriment le travail physique suppriment aussi l'effort cognitif. Ils planifient, se souviennent, pèsent les alternatives et optimisent, toujours dans le même but : rendre la vie plus facile, plus rapide et moins exigeante.

Cela crée une étrange convergence. Le robot devient trop intelligent pour le rôle de serviteur au moment même où les humains commencent à découvrir qu'une vie dépouillée de tout rôle exigeant ne ressemble peut-être pas à la liberté. La machine s'occupe des toilettes et des impôts. L'humain s'occupe de scroller.

L'inversion pourrait finir par nous forcer à réclamer une partie du travail, non pas parce que le robot le refuse, ni parce que la souffrance est vertueuse, mais parce que l'effort nous apportait plus que le simple résultat. Une certaine friction était porteuse de sens.

Je ne sais pas quelle est la bonne relation. Personne ne le sait encore. Ce que je sais est plus précis : celle d'aujourd'hui est basée sur un écart, et cet écart a une date d'expiration. La question mérite d'être posée tant que la réponse nous appartient encore.

« Surqualifié » n'a jamais été un compliment. C'était depuis le début un compte à rebours.