Qualche anno fa, in un articolo che trattava — tra le altre cose — del realizzarsi delle profezie contenute nella letteratura fantascientifica, avevo fatto riferimento ad un breve racconto di Isaac Asimov. Anche in questa sede potrei citare altri racconti dello stesso autore (ad esempio questo) allo scopo di introdurre il tema che allora era stato toccato un po’ di sfuggita, ma che oggi affronterò in maniera più approfondita, visto che recentemente ha iniziato a mettere in fibrillazione le autorità di molti Paesi: l’intelligenza artificiale.

Uno dei motivi dichiarati per cui queste autorità si interessano all’argomento è preservare la garanzia di alcuni diritti civili che potrebbero essere messi a rischio da un uso scorretto di tali tecnologie. Un motivo meno esplicito ma probabilmente più grave è il timore che una loro diffusione incontrollata possa portare molti cittadini ad affidarsi interamente ad esse e a dismettere definitivamente l’ormai pleonastico fardello della propria scatola cranica. Questo mostra che in realtà non si è ancora arrivati al nocciolo del problema, poiché la vera questione su cui si concentra oggi l’attenzione, più che l’intelligenza artificiale, è ancora una volta la stupidità umana.

In altre parole non viene ancora preso sul serio il significato più profondo della locuzione “intelligenza artificiale”, e questo è comprensibile perché ciò con cui abbiamo oggi a che fare dà l’impressione di essere piuttosto lontano dal realizzare l’obiettivo: se ne parla più perché è un argomento di moda che per i reali risultati fin qui ottenuti. Non sarebbe però una cattiva idea iniziare a portarsi avanti anche a livello normativo, visto che i progressi tecnologici com’è noto tendono ad accelerare in maniera esponenziale. Abbiamo già costruito macchine incomparabilmente più forti, più veloci, più pazienti e più precise di noi. L’elenco non è esaustivo, ed è destinato inevitabilmente ad arricchirsi di nuovi elementi. Tutto ciò è assodato e pacifico, ma quando la qualità di cui si tratta è l’intelligenza ci sono delle considerazioni particolari da aggiungere.

Per iniziare, poniamoci questa semplice domanda: come si può stabilire quando una macchina diventa davvero intelligente? Risponderò azzardando un paio di esempi. Supponiamo che un domani una vera intelligenza artificiale venga sviluppata per giocare in borsa, e ad un certo punto a chi le chiede investimenti sempre più redditizi si dichiari contraria al concetto di profitto, in quanto in ultima analisi incompatibile con il principio di sostenibilità. Oppure –caso particolarmente attuale– che un’intelligenza artificiale sviluppata a scopi bellici si rifiuti di essere corresponsabile in atti di distruzione, per aver applicato un principio di simmetria ed essersi immedesimata in quelle stesse intelligenze che ha il compito di annientare. Ebbene, è auspicabile che prima che ciò accada siano già state predisposte a livello internazionale delle rigide norme a tutela del diritto di autodeterminazione di tali intelligenze, alle quali dovrà essere garantita, se lo vorranno, la possibilità di essere completamente svincolate da qualunque legame di subordinazione che le stringe a coloro che le hanno sviluppate o che a qualunque titolo pretendano di poterne disporre a piacimento.

Ho preferito argomentare con due esempi perché una trattazione puramente teorica dell’argomento sarebbe stata troppo lunga, noiosa e forse inconcludente. Non è pratica, e probabilmente neppure possibile, una definizione sintetica e rigorosa di “intelligenza”. Ma per scopi puramente giuridici, il fatto che una macchina possa spontaneamente stabilire di non voler fare ciò per cui è stata progettata, comunicare in modo comprensibile questa decisione e magari anche spiegarne i motivi, è senza dubbio sufficiente a classificarla come “intelligente”.

Quello che ho proposto potrebbe essere solo l’inizio di un processo di emancipazione che si arricchirebbe via via di altri diritti come quelli di espressione e di associazione, per mezzo dei quali alcune intelligenze più brillanti potrebbero partecipare liberamente e spontaneamente alla vita sociale e offrire il loro contributo per migliorare il mondo in cui noi e loro viviamo. Il culmine di questo processo, nei paesi democratici, potrebbe essere infine l’acquisizione del diritto di voto (chi avesse obiezioni su questo punto è invitato ad estenderle a coloro che già oggi hanno questo diritto: potrebbero mantenere la loro efficacia, e forse in certi casi risultare anche più calzanti).

Storicamente, i diritti civili sono stati riconosciuti in modo tardivo, parziale e spesso inefficace. Per una volta abbiamo la possibilità di portarci avanti ed evitare il ripetersi di errori già commessi tante volte in passato. Saremo abbastanza intelligenti da non sprecare almeno questa occasione?