Controcultura

Così i robot nel 2019 raggiunsero l'intelligenza E si misero a filosofare

Ecco «Golem», supercomputer immaginato dallo scrittore polacco in grado di aggirare gli ordini degli uomini...

Così i robot nel 2019 raggiunsero l'intelligenza E si misero a filosofare

L'abbattimento della barriera dell'intelligenza come viene definita avvenne dopo l'anno Duemila grazie a un nuovo metodo di costruzione delle macchine, chiamato anche «l'evoluzione invisibile dell'Intelligenza». Da allora ogni successiva generazione di computer venne costruita in forma reale; l'idea di produrre variazioni tramite una enorme accelerazione del processo anche di mille volte, seppur nota, non si riusciva a mettere in pratica poiché i computer esistenti, che dovevano fungere da matrice o da ambiente sintetico di questa evoluzione dell'intelligenza, non disponevano della potenza sufficiente. Solo la creazione della Rete Federale di Informazione permise la realizzazione di questa idea. Lo sviluppo di sessantacinque successive generazioni durò appena una decade; la Federazione, durante la notte, quando il livello di carica era minimo, diede alla luce un genere di Intelligenza artificiale dopo l'altro; era una generazione «accelerata nella computergenesi», poiché crebbe facendosi il nido nei simboli, dunque nelle strutture immateriali, nel substrato informazionale, ovvero l'ambiente nutritivo della Rete.

Ma dopo questo successo sorsero nuove difficoltà: AJAX e HANN, i prototipi della settantottesima e settantanovesima generazione, ritenute degne di essere rivestite di metallo, cominciarono a manifestare segni di indecisione, fenomeno noto come «nevrosi delle macchine». La differenza tra le vecchie e le nuove macchine in realtà era paragonabile a quella che passa tra un insetto e un uomo. L'insetto viene al mondo programmato dall'inizio alla fine dall'istinto al quale si sottomette in modo irriflessivo. L'uomo invece deve imparare i comportamenti più adatti, tuttavia questo apprendimento possiede un effetto emancipatore: con la determinazione e l'ingegno l'uomo può cambiare i precedenti programmi d'azione.

Dunque i computer, fino alla ventesima generazione compresa, erano caratterizzati da un comportamento da insetti: erano incapaci di mettere in discussione né tanto meno trasformare i propri programmi. Il programmatore impregnava la propria macchina con la conoscenza come l'Evoluzione impregna l'insetto con l'istinto. Ancora nel XX secolo si parlava molto della «autoprogrammazione», anche se allora erano solo sogni irrealizzabili. La condizione per il raggiungimento della «Vittoria definitiva» era proprio la creazione di una intelligenza che si autoperfeziona; AJAX era ancora una forma intermedia; solo GILGAMESH raggiunse il livello intellettuale adeguato «entrò nell'orbita della psicoevoluzione».

L'educazione del computer di ottantesima generazione assomigliava di fatto più all'educazione di un bambino che al classico programma di una macchina digitale. Infatti, al di là della enorme massa delle notizie generali e specialistiche, bisognava «iniettare» al computer alcuni rigidi valori che sarebbero diventati la bussola del suo comportamento. Erano astrazioni di più alto livello, come la «ragione di Stato» (l'interesse nazionale), come i principi ideologici contenuti nella costituzione degli Stati Uniti, come il codice di comportamento, come la sottomissione assoluta alle decisioni del Presidente ecc. ecc. Per salvaguardare il sistema da «distorsioni etiche» e dal «tradimento degli interessi del Paese» non è stata insegnata l'etica alla macchina così come si insegna il suo principio all'uomo. Non è stato caricato un codice etico della sua memoria, ma tutti i comandi di obbedienza e di sottomissione sono stati inseriti nella struttura della macchina così come fa l'Evoluzione naturale nel corso della vita sessuale. Come è noto, l'uomo può cambiare le sue opinioni ma non può distruggere gli impulsi elementari (ad esempio gli impulsi sessuali) con un semplice atto di volontà. Le macchine vennero dotate di libertà intellettuale ma vincolata ai fondamenti dei valori precedentemente impostati ai quali dovevano obbedire.

Al XXI Congresso Panamericano di Psiconica il professor Eldon Patch presentò un lavoro nel quale affermò che il computer, anche se impregnato nel modo già descritto, può oltrepassare la cosiddetta soglia assiologica e si dimostra a quel punto in grado di mettere in discussione qualsiasi principio che gli sia stato instillato in altre parole per un tale computer non ci sono più valori intoccabili. Se non è in grado di opporsi a un imperativo in modo diretto, può farlo aggirandolo. Quando venne divulgato, il lavoro di Patch suscitò un fermento negli ambienti universitari (...) Le affermazioni di Patch vennero equiparate alle paure irrazionali e a quei pregiudizi che circolavano nella società in quel periodo. La brochure di Patch non ottenne la stessa popolarità del libro bestseller del sociologo E. Lickey (Cybernetics. Death Chamber of civilization); questo autore sosteneva che «lo stratega perentorio» avrebbe sottomesso l'intera umanità da solo o attraverso un segreto accordo con un analogo computer russo. Il risultato sarebbe stato un «duunvirato elettronico».

Simili timori, espressi da ampi settori della stampa, vennero dissipati dalla messa in funzione dei successivi prototipi che passarono il test di efficienza. Per testare la dinamica etologica, su ordine del governo venne appositamente costruito il computer ETHOR BIS, dalla morale inappuntabile, prodotto nel 2019 presso l'Istituto di Dinamica Psiconica nell'Illinois; dopo la messa in funzione, dimostrò una piena stabilizzazione assiologica e l'insensibilità ai «test del deragliamento sovversivo». Quindi non suscitò più proteste massive o manifestazioni la nomina nell'anno seguente alla carica di Alto commissario del trust dei cervelli presso la Casa Bianca del primo computer della lunga serie dei GOLEM (GENERAL OPERATOR, LONGRANGE, ETHICALLY STABILIZED, MULTIMODELLING).

Era appena il GOLEM I.

Commenti