La disumanità del computer sta nel fatto che, una volta programmato e messo in funzione, si comporta in maniera perfettamente onesta.
In questa celebre affermazione di Isaac Asimov c’è la consapevolezza del fatto che i computer, come li conosciamo, sono macchine imperative, in grado di svolgere compiti alla lettera senza opporre alcuna resistenza ai comandi somministrati dall’uomo.
Questa convinzione è dettata dall’esperienza e dalla conoscenza che Issac Asimov aveva dei computer, più o meno la stessache tutti quanti noi abbiamo maturato negli anni: nessuno di noi ha mai dovuto lottare con il proprio dispositivo, pc o smartphone, se non a causa di un guasto tecnico o per qualsiasi altra cosa riferibile alla volontà di un altro essere umano.
Questo ci ha convinti che i computer sono strumenti sempre assoggettati alla nostra volontà.
L’idea che un computer possa opporsi alla volontà del suo programmatore è altresì un incubo ricorrente della letteratura e della cinematografia fantascientifica sin dagli anni ‘80: in “War Games – Giochi di guerra” del 1983 il super-calcolatore W.O.P.R. a cui è affidato il controllo di tutte le armi nucleari americane, si ribella ai comandi dei militari e porta il mondo intero sull’orlo di una “guerra termo-nucleare globale”. Secondo gli autori di “Terminator” del 1984 è altresì scontato che nel futuro i computer avranno preso il controllo della Terra portando la razza umana verso l’estinzione.
Tutta colpa delle Intelligenze Artificiali
Ciò che rende i computer dei racconti di fantascienza capaci di opporsi alla volontà dell’uomo ed a prendere il controllo del proprio destino (talvolta sterminando la razza umana per questioni di simpatia o antipatia) ha un nome e si chiama Intelligenza Artificiale.
Nella narrazione fantastica, le AI rappresentano il passaggio da un’idea di computer programmabili e sottomessi a un’idea di computer in grado di sviluppare un’auto-coscienza che li rende indipendenti e (per esigenze di narrazione) estremamente pericolosi.
Ad oggi sappiamo che a questa visione apocalittica dell’informatica non trova corrispondenze nella tecnologia moderna e per molti anni avanti non dovremo lottare contro macchine in grado di ribellarsi all’uomo e di mettere il mondo a ferro e fuoco. E seppure si stiano facendo passi da gigante nella ricerca scientifica, i software di AI sono in grado solo di emulare il comportamento umano ma non di replicarlo in tutta la sua complessità.
Le AI oggi sono in grado di replicare molte attività intelligenti ed a volte superano l’umano in termini di efficienza in ambiti come la conversazione, la diagnosi medica o la previsione dell’andamento dei mercati azionari. Ad ogni modo nessuno di questi strumenti ha mai sviluppato una qualche consapevolezza di sé o della propria esistenza decretando l’avvento di un’intelligenza superiore a quella umana (detta anche singolarità).
Ad un passo dalla Singolarità
Le moderne AI sono basate su Reti Neurali Artificiali, strumenti in grado di elaborare un gran numero di informazioni e farle proprie come un individuo che fa proprie le esperienze vissute in prima persona. Le informazioni in questione sono generalmente costituite da una gran quantità di “domande” e “risposte” corrispondenti che forniscono “esempi” sulla base dei quali la RNA svilupperà il proprio comportamento.
Le conseguenze dell’introduzione delle RNA sono fondamentalmente due. La prima è che le AI oggi non sono strumenti imperativi, le AI sono altresì in grado di elaborare concetti in maniera “non predicibile” restituendo output sempre diversi ed in maniera non deterministica. Da questo punto di vista le AI hanno già conquistato una sorta di primordiale autonomia dall’uomo generando una forma di autonomia di comportamento che non è il risultato di una simulazione ma è reale.
La seconda è che alla base del comportamento di una AI c’è la base di conoscenza su cui essa si è formata che a sua volta è condizionata dalle idee e dalle convinzioni di chi l’ha elaborata. Pertanto ha senso dire che le AI sono tutt’altro che agnostiche: esse elaborano una visione delle cose personale, condizionata soltanto dalle opinioni di chi ha contribuito alla loro istruzione. Questa natura assolutamente non agnostica delle AI appare come un ulteriore forma di autonomia.
Alla luce di tutto questo appare evidente che le AI siano strumenti intelligenti destinati, prima o poi, a raggiungere l’indipendenza dall’uomo.