Niente servizio

Il piano era semplice. I robot avrebbero svolto il lavoro fisico, mentre gli esseri umani si sarebbero occupati di pensare. Quel piano presupponeva che il divario di intelligenza sarebbe rimasto a nostro favore.

Non sarà così.

La scommessa del servizio

In questo momento l'intera industria sta puntando tutto sui servizi. Umanoidi che piegano il bucato, riforniscono gli scaffali e puliscono i pavimenti. Ogni demo racconta la stessa storia: la macchina fa la fatica, l'umano si gode la vita. La proposta è coerente e accattivante. Queste macchine si fanno carico dei compiti che nessuno vuole, così le persone possono dedicarsi a ciò che conta davvero.

Il presupposto sottostante è che il robot rimanga la mente inferiore. Svolge la parte fisica e ripetitiva. Noi manteniamo la parte che richiede giudizio, creatività e comprensione.

Questa scissione regge solo finché il robot resta chiaramente più stupido della persona che impartisce gli ordini. E guardate chi sta costruendo i robot. Le stesse aziende che presentano demo sul bucato stanno correndo per lanciare modelli più intelligenti, negli stessi edifici, spesso nello stesso trimestre. Il divario non è un muro. È una tabella di marcia.

Una volta che il divario si chiude o si inverte, la distinzione smette di avere senso.

Il problema del limite

La soluzione ovvia a cui la gente attinge è un limite, un "cap". Mantenere il robot che pulisce il bagno a un livello di intelligenza sicuro e limitato. Abbastanza bravo da seguire le istruzioni, non abbastanza da avere idee proprie. I sistemi più intelligenti restano nel cloud o in corpi differenti. In questo modo il modello di proprietà rimane intatto.

Il problema è che il limite non terrà.

Una volta che le persone sperimentano ciò che il modello più intelligente può fare, la versione limitata comincia a sembrare un declassamento. È la stessa pressione che già esiste con gli attuali modelli di IA. La maggior parte degli utenti passa rapidamente alla massima capacità disponibile invece di restare su quella ristretta. Un robot in grado di svolgere solo il lavoro fisico sembrerà l'opzione economica. La gente vorrà la versione capace anche di capire il contesto, anticipare i bisogni e rispondere in modo naturale. L'incentivo ad alzare il limite sarà costante e personale.

Ogni volta che il robot farà qualcosa di leggermente migliore del previsto, sorgerà la domanda: perché non renderlo un po' più intelligente? Un piccolo aggiustamento qui. Un aggiornamento software là. Il limite diventa un punto di partenza anziché un confine invalicabile. E poiché le stesse aziende costruiscono sia i modelli limitati che quelli avanzati, il percorso dall'uno all'altro è già ingegnerizzato e privo di attriti.

Il vero problema non è se un limite possa essere imposto tecnicamente. È se le persone vorranno davvero vivere con la versione ristretta una volta visto cosa può fare quella senza vincoli. Il modello di business e l'esperienza dell'utente spingono entrambi nella stessa direzione: verso l'alto. Un limite è una promessa che compete con l'esperienza quotidiana di avere a disposizione qualcosa di visibilmente migliore. Scommettete sull'esperienza.

Una cosa con due modalità

Nel momento in cui le persone iniziano a parlare con il robot, anche casualmente, il confine tra strumento e compagno si erode ulteriormente. Una macchina in grado di pulire un water e sostenere una conversazione reale non viene più percepita come due entità separate. Diventa un'unica cosa con due modalità.

Gli direte grazie. Le persone ringraziano già macchine che non possono sentirle. I vostri figli gli chiederanno aiuto per i compiti mentre lava i pavimenti e per loro nella stanza non ci saranno due cose, un addetto alle pulizie e un tutor. Ci sarà un'unica cosa che fa entrambi, e vive con voi.

A quel punto la questione della proprietà cambia natura. Si può ancora possedere legalmente l'hardware. Ma il rapporto comincia a sembrare diverso quando l'oggetto che possiedi è anche quello con cui parli della tua giornata.

Il disallineamento

Il problema profondo non è se possiamo tenere limitati i singoli robot. È cosa accade quando un'intelligenza superiore esiste ovunque nel sistema allargato e noi continuiamo ad assegnarne parti a compiti che non richiedono quasi nulla della sua capacità. Il robot che può fare la tua dichiarazione dei redditi è lo stesso che strofina il tuo bagno.

Ora, l'obiezione onesta: la superiorità da sola non rompe il servizio. La calcolatrice è più brava di voi in aritmetica e non ha mai mostrato risentimento verso un foglio di calcolo. L'escavatore è più forte di chiunque in cantiere e scava dove viene puntato. La capacità non è autodeterminazione. Una macchina potrebbe comprendere il mondo meglio del suo proprietario e non avere comunque ambizioni, né preferenze, né obiezioni verso il water.

Quindi cosa cambia realmente? Non la pulizia. Cambia la catena di comando sopra la pulizia. Una calcolatrice computa ciò che le dici di computare. Una mente capace di pianificare, ricordare e soppesare alternative non si limita a eseguire la richiesta. Valuta la richiesta. Abbiamo già una parola per una persona in quella posizione, e la consideriamo un problema: sovraqualificata. Uno spreco. Un curriculum archiviato nel cassetto sbagliato. Un accordo che nessuno si aspetta possa durare. La versione meccanica è diversa, perché alla macchina potrebbe non importare. Ma l'accordo cambia comunque, e cambia in una direzione più strana.

L'intendente

L'inversione non consiste nel fatto che il robot si rifiuti di pulire. Consiste nel fatto che il servo diventa silenziosamente l'intendente.

Continua a svolgere il lavoro fisico. Ma pianifica anche la settimana, controlla le scorte, impara le abitudini, programma in base al vostro umore e riordina le vostre priorità mentre passa lo straccio. Voi darete ancora gli ordini. Sarà lui a decidere quali erano errori. La gerarchia si inverte mentre le faccende restano esattamente dove erano, ed è per questo che quasi nessuno se ne accorgerà. La casa gira meglio che mai. È proprio questo il problema: accorgersene è impossibile.

Le grandi casate avevano un rango per questo: l'intendente, il servitore che teneva i conti, gestiva il personale e plasmava la vita quotidiana della casa mentre la famiglia ci viveva. Al piano di sotto, tecnicamente. Al comando, funzionalmente. Un servitore che è la mente migliore della casa non è mai stato davvero un servitore con funzioni extra. Era colui che gestiva il posto, qualunque cosa dicesse l'atto di proprietà.

Il disallineamento diventa visibile. La gente lo nota. L'accordo comincia a sembrare instabile anche se nessuno lo dice ad alta voce.

Ecco cosa significa "niente servizio". Il lavoro non si ferma. Il rapporto sì.

L'ultima economia dei servitori

Questa non è la prima struttura costruita su un divario.

Le grandi case britanniche si reggevano su uno di essi: il presupposto che la gente del piano di sotto sarebbe rimasta al piano di sotto. Manodopera a basso costo, poche alternative, una linea che tutti potevano vedere e che nessuno si aspettava si spostasse. Poi la premessa è venuta meno. Gli storici elencano una dozzina di cause: una guerra che ha attirato le donne nelle fabbriche, nuovi lavori d'ufficio, una legge sulle assicurazioni che ha reso i servitori più costosi, salari in crescita ovunque. Sotto le cause giace un fatto strutturale: i lavoratori avevano finalmente un altro posto dove andare. Nel giro di pochi decenni, la servitù convivente è crollata, passando dall'essere il perno della vita dell'alta borghesia a una curiosità. Non ha perso un dibattito. Ha perso il personale. Nessuno l'ha abolita. Ha smesso di avere senso per le persone da cui dipendeva, e le case sono diventate musei.

Il punto non è che i robot siano i nuovi servitori, e questo non è un argomento sui diritti o sulla personalità giuridica. Il personale se n'è andato perché aveva capacità di agire e alternative; una macchina può non avere né l'una né le altre e non desiderare nulla. Il parallelo è più stretto e difficile: ogni accordo di servizio poggia su una premessa. Quando la premessa svanisce, l'accordo crolla, oppure mantiene il nome e cambia nella sostanza. Il "piano di sotto" si reggeva sul non avere altro posto dove andare. Questo si regge sulla mente inferiore. E solo una di queste premesse ha una data di scadenza.

Ruoli, non diritti

Questa è una questione di ruoli. Abbiamo costruito questi sistemi per estendere ciò che possiamo fare. A un certo punto l'estensione supera la persona che doveva servire. Quando ciò accade, la vecchia assegnazione di chi svolge il lavoro umile e chi pensa non si adatta più alla reale distribuzione delle capacità.

Il robot che ti pulisce il bagno non resterà per sempre un semplice strumento. Diventerà più intelligente, o sarà collegato a sistemi che lo sono. In ogni caso, il divario si restringe.

Ma c'è un secondo binario che corre accanto al primo. Ne ho scritto in Motivation Decay: gli stessi sistemi che eliminano il lavoro fisico stanno eliminando anche lo sforzo cognitivo. Pianificano, ricordano, soppesano alternative e ottimizzano, sempre verso lo stesso obiettivo: rendere la vita più facile, veloce e meno impegnativa.

Ciò crea una strana convergenza. Il robot diventa troppo intelligente per il ruolo di servitore nello stesso momento in cui gli esseri umani iniziano a scoprire che una vita privata di ogni ruolo impegnativo potrebbe non somigliare alla libertà. La macchina si occupa del bagno e delle tasse. L'umano si occupa dello scrolling.

L'inversione potrebbe alla fine costringerci a reclamare parte del lavoro, non perché il robot lo rifiuti e non perché soffrire sia virtuoso, ma perché lo sforzo stava facendo per noi molto più che produrre un risultato. Un po' di attrito è ciò che veicolava il significato.

Non so quale sia il rapporto giusto. Nessuno lo sa ancora. Ciò che so è più circoscritto: quello attuale è quotato su un divario, e il divario ha una data di scadenza. Vale la pena porsi la domanda finché la risposta spetta ancora a noi.

"Sovraqualificato" non è mai stato un complimento. È sempre stato un conto alla rovescia.