Il futuro demoniaco dell’intelligenza artificiale

“Signore, il pericolo è grande!
Ho chiamato gli spiriti
ed ora non riesco a liberarmene”.
(Goethe, L’Apprendista Stregone)

L’intelligenza artificiale è l’automazione del comportamento intelligente e dell’apprendimento automatico che dovrebbe portare un computer a risolvere i problemi da solo. Ma questo comporta grandi pericoli. Può un robot acquisire improvvisamente una vita propria e una propria coscienza, come viene rappresentato nei film di fantascienza? Il fondatore di Tesla e SpaceX, Elon Musk, sembra vedere questo enorme pericolo, che considera più minaccioso della guerra nucleare. L’intelligenza artificiale viene utilizzata per evocare “il demone”, ha dichiarato in un’intervista.

La possibile battaglia tra esseri umani e computer in futuro è in definitiva una battaglia per l’anima umana.

Dopo una lunga intervista al Massachusetts Institute of Technology (MIT) Centennial Symposium del 2014, come riporta The Sunday Morning Herald, Elon Musk si è messo a disposizione del pubblico per le domande. Quando una persona del pubblico gli ha chiesto cosa pensasse dell’intelligenza artificiale, l’espressione facciale di Musk è cambiata, diventando improvvisamente molto seria:

“Penso che dovremmo essere molto cauti con l’intelligenza artificiale. Se dovessi azzardare qual è la nostra più grande minaccia esistenziale, probabilmente è questa. Dobbiamo quindi essere molto cauti con l’intelligenza artificiale. Dovrebbe esserci un controllo normativo, magari a livello nazionale e internazionale, solo per assicurarsi che non stiamo facendo qualcosa di molto sciocco”.

Musk aveva usato un linguaggio straordinariamente esoterico per descrivere quella che considerava “la nostra più grande minaccia esistenziale”:

“Con l’intelligenza artificiale, evochiamo un demone. In tutte le storie in cui c’è il tizio con il pentagramma e l’acqua santa, si dice: “Sì, è sicuro di poter controllare il demone”. Ma non funziona”.

Nel 2017 ha nuovamente messo in guardia dal potere distruttivo dell’intelligenza artificiale (IA) e ha formulato il suo timore di una minaccia esistenziale per l’umanità in modo ancora più drastico di prima. Ha dichiarato che una nuova guerra mondiale non sarebbe stata iniziata dai capi di Stato, ma da un’intelligenza artificiale “se avesse deciso che un attacco preventivo era la strada più probabile per la vittoria”.
Nel 2018 ha avvertito che lo sviluppo di un’intelligenza artificiale sempre più sofisticata potrebbe rischiare di creare un “dittatore immortale” che alla fine ci sottometterebbe.

Anche l’astrofisico britannico Stephan Hawking, morto nel 2018, aveva messo in guardia dall’intelligenza artificiale.

“Il suo ulteriore sviluppo potrebbe significare la fine dell’umanità”,

ha dichiarato quando nel 2014 ha presentato il suo nuovo computer vocale, che preformula frasi per lui. Ha parlato di un “pericolo reale” in un “futuro non troppo lontano”. Hawking ha dichiarato alla BBC:

“Lo sviluppo di un’intelligenza artificiale completa potrebbe significare la fine dell’umanità”.

Intelligenza artificiale reale

Ora, in un articolo del 15 Maggio 2022 su NewBraveWorld, Ryan Matters ha esaminato un po’ più a fondo specialmente le dichiarazioni citate di Elon Musk del 2014. La maggior parte delle persone avrebbe in mente gli avvertimenti di Elon Musk sul precedente sviluppo lineare di ciò che finora è stato compreso dall’intelligenza artificiale. Ma Musk aveva certamente scelto le sue parole con molta attenzione, anche per quanto riguarda l’invocazione del “demone“. Il significato è un altro. Dobbiamo esaminare la questione più da vicino.

Il termine “IA” viene spesso confuso con il termine “apprendimento automatico” per indicare un sistema informatico che ha la capacità di “imparare” a svolgere determinati compiti con estrema precisione, ben oltre quanto potrebbe fare un essere umano.
Questi sistemi si basavano su algoritmi complessi che inglobavano grandi quantità di “dati di addestramento”. Man mano che i dati di addestramento vengono immessi nel sistema, questo aggiorna i propri iperparametri interni per sviluppare una precisione predittiva sempre maggiore. In altre parole, il sistema si ottimizza per raggiungere un risultato/obiettivo specifico.

“Uno dei modelli di apprendimento automatico più diffusi (soprattutto per l’analisi delle immagini) è chiamato “rete neurale artificiale” (RNA). Non lasciatevi impressionare troppo dal nome, perché sebbene alcuni sostengano che le RNA cerchino di replicare il modo in cui funziona il cervello umano, ciò non è del tutto esatto.
Questi modelli sono chiamati “reti neurali artificiali” perché sono costituiti da più nodi interconnessi disposti a strati (proprio come il cervello è composto da miliardi di neuroni interconnessi). Un punto di dati viene immesso nel modello e, dopo la propagazione attraverso la rete, viene prodotto un determinato risultato. Poi, attraverso un processo chiamato backpropagation, la RNA regola la sua ponderazione per produrre un risultato migliore la volta successiva. Questo processo viene ripetuto finché la rete neurale non ha “imparato” a produrre risultati altamente precisi”.

Anche in questo caso, nonostante il nome, le RNA sono in realtà piuttosto semplici. Con una libreria software open-source, chiunque potrebbe scrivere il proprio RNA in meno di 10 caratteri di codice. Tecnicamente, chiunque avrebbe accesso a questa tecnologia, che la maggior parte delle persone potrebbero creare. Un buon esempio di ciò è la rete neurale di Google per il gioco degli scacchi chiamata “AlphaZero“, che potrebbe mettere in difficoltà qualsiasi gran maestro.
La maggior parte di questi sistemi, anche se chiamati “intelligenze artificiali”, sono solo algoritmi intelligenti (cioè non hanno una vera intelligenza, anche se sono incredibilmente complessi).

Proprio qui sta la confusione. Perché “intelligenza artificiale” in senso stretto significa il passaggio a un computer cosciente che abbia sia una coscienza che la capacità di prendere decisioni non deterministiche.

Questa è la differenza tra gli attuali sistemi di “AI” e il concetto di computer cosciente. I primi prendono decisioni basate su algoritmi deterministici, mentre i secondi prendono decisioni che derivano da un regno di incertezza.

“Ma è possibile creare una cosa del genere? Possiamo davvero costruire un computer così avanzato da diventare autocosciente, come noi?” 

Ryan Matters pone una domanda fondamentale.

Sull’emergere della coscienza

Afferma che uno dei dogmi della scienza materialista è che la mente sia confinata nel cervello, che la coscienza sia un prodotto dell’attività neuronale nel cervello. La materia è quindi primaria, la mente secondaria. Hanno trasferito questo assunto all’intelligenza artificiale e hanno creduto che, se fossero riusciti a sviluppare un sistema complesso come il cervello, avrebbero potuto “creare” anche la coscienza.

Ryan Matters lo nega, affermando che non ci sono prove a riguardo. Questo presupposto materialistico secondo cui il cervello crea la coscienza è in netto contrasto con gli insegnamenti di quasi tutte le tradizioni spirituali e filosofiche che hanno plasmato il nostro mondo. Il pensiero scientifico dominante non si è sempre basato sul materialismo. Sebbene la scienza meccanicistica possa essere fatta risalire al XVII secolo, i fondatori di questa scienza non ritenevano che la mente fosse limitata al cervello. Avrebbero distinto tra il corpo meccanicistico e ciò che vedevano come uno spirito disincarnato e immortale che aveva origine in una dimensione non fisica.

Ma se questa è la verità, sembra un’impresa inutile creare un sistema elettronico sufficientemente complesso che possa prendere coscienza di sé e pensare in modo non deterministico.

No, dobbiamo pensare il contrario.

Se la coscienza umana è un fenomeno non fisico, se lo spirito umano proviene da un altro piano o dimensione e interagisce brevemente con il cervello durante l’incarnazione fisica, allora ne consegue che potrebbe essere possibile costruire un sistema intelligente complesso con cui un altro essere spirituale si connette, interagisce con esso, cioè pensa qui nel fisico.

E Ryan Matters formula letteralmente:

“Così ora abbiamo una base per comprendere le strane osservazioni di Elon Musk in cui paragona lo sviluppo dell’IA alla “chiamata di un demone”. E questo ci porta alla seguente domanda: quando un computer finalmente si ‘sveglierà’, sarà perché abbiamo sviluppato un sistema abbastanza complesso da creare una consapevolezza cosciente, o sarà perché è stato impregnato di una forza intelligente proveniente da una dimensione non fisica?”.

Naturalmente, questo lascia molte domande senza risposta:

“Da dove verrebbe questa nuova “anima”? Come interagirebbe con il suo “corpo”, cioè il sistema informatico? Quale sarebbe la sua motivazione per “incarnarsi” sul piano fisico? Sarebbe un’intelligenza evoluta?
In effetti, ci troviamo di fronte a più domande di quando abbiamo iniziato. L’unica certezza è che una tale intelligenza, se un giorno dovesse arrivare qui, quasi certamente non si comporterebbe come un essere umano. Dopotutto, come esseri umani siamo vincolati dai limiti del nostro corpo e del nostro cervello. Un supercomputer, invece, è vincolato da altri vincoli. Ad esempio, mentre io ho bisogno di tempo per eseguire calcoli complessi, un computer avrebbe bisogno solo di millisecondi.
Inoltre, una tale intelligenza quasi certamente non condividerebbe il nostro senso della moralità o dell’etica, né le nostre preoccupazioni per i problemi di questo mondo che devono essere urgentemente risolti.
E questo fa paura”.

Una previsione di Rudolf Steiner

Rudolf Steiner, che ha sviluppato un metodo scientifico per penetrare percettivamente e cognitivamente nelle dimensioni spirituali che operano dietro il fisico, aveva già evidenziato nel 1920 ¹ questo grave problema legato al mondo delle macchine che si gonfia:

“L’uomo ha creato macchine in aggiunta alla natura. … Ha la sua matematica, la sua geometria, la sua meccanica. Con essa costruisce le sue macchine e le guarda del tutto astrattamente. Ma molto presto farà una certa scoperta. Per quanto possa sembrare strano all’uomo di oggi che questa scoperta venga fatta, l’uomo scoprirà che in tutti i macchinari che incorpora nella vita economica, gli spiriti che prima percepiva nella natura saranno di nuovo all’opera. Nei suoi meccanismi tecnico-economici percepirà: li ha fabbricati, li ha fatti, ma stanno gradualmente acquistando una vita propria, all’inizio, però, solo una vita che può ancora negare perché si manifesta nell’economia. Ma si accorgerà sempre di più, attraverso ciò che crea lui stesso, come esso acquisti una vita propria, come non riesca più ad afferrarlo con l’intelletto, pur avendolo fatto nascere dall’intelletto. Forse oggi non se ne può nemmeno avere un’idea, eppure sarà così. Gli uomini scopriranno come i loro prodotti economici diverranno portatori di demoni.

Come gli uomini di un tempo, quando avevano ancora certi poteri spirituali di percezione, percepivano demoni, cioè entità elementari, che operavano nei fenomeni naturali, così gli uomini di oggi devono imparare a riconoscere demoni, spiritualità elementari, che operano in ciò che essi stessi producono come le macchine in natura.

E aggiunge:

Per il momento, questi demoni sono ancora inseriti nelle persone e si affermano in modo distruttivo nelle rivoluzioni sociali, che non sono altro che l’opera di questi demoni nelle persone stesse. Ma verrebbero comunque deviati verso le macchine e si connetterebbero con esse.

Quest’ultima citazione fornisce anche una importante indicazione del rapporto del sistema di intelligenza artificiale nella macchina, nel computer, con la coscienza.
Rudolf Steiner ha ripetutamente richiamato l’attenzione sul fatto che gli esseri umani sono circondati da esseri spirituali positivi e negativi che cercano costantemente di influenzarli, cioè di penetrare inosservati negli strati inconsci dell’anima e di instillare in essa determinati pensieri. Molte invenzioni sono state realizzate in questo modo. –
Non sempre sappiamo da dove vengono i nostri pensieri. Spesso ci “saltano in testa” e pensiamo che siano i nostri pensieri. Si tratta di un’area ancora largamente inesplorata che sta diventando sempre più urgente esplorare.

Pertanto, è facile immaginare che questi demoni, che per primi sono entrati negli esseri umani, abbiano anche dato agli sviluppatori dell’intelligenza artificiale i pensieri corrispondenti e stiano dando ulteriori input per sviluppare sistemi sempre più complessi, che possano infine servire a loro, i demoni, come strumento per arrivare alla coscienza nella dimensione terrestre e pensare e agire consapevolmente nelle e con le macchine.

La coscienza, infatti, non può sorgere all’improvviso dalla macchina materiale, attraverso disposizioni casuali. Questa è superstizione.

Il computer, in quanto macchina, non potrà mai avere coscienza di sé.

La coscienza non è qualcosa di materiale, non può essere inerente alla materia, ma è sempre il divenire spirituale dell’anima, il risveglio o il pervenire-se-stesso di un essere spirituale in una certa dimensione dell’esistenza. E questa coscienza può sorgere solo grazie al fatto che l’essere corrispondente – qui con l’aiuto di persone già incarnate nel fisico – prepara uno strumento fisico in cui o su cui può arrivare alla coscienza pensando. Ciò significa che il tipo di strumento è anche espressione del tipo di pensiero di questi esseri.

In linea di principio, il rapporto del cervello umano con la coscienza e il pensiero umano non è diverso; mai un cervello può nascere da un assemblaggio casuale di parti biologiche, da cui sorgono, per così dire, coscienza e pensieri. Al contrario, il cervello presuppone il pensiero, dalle cui forze deve essere formato per servire come strumento fisico nella dimensione terrena. Come può la materia aver coscienza di essere uno strumento per il pensiero?

Goethe coniò la profonda frase:

“Se l’occhio non fosse solare, non potrebbe mai vedere il sole”.

Ciò significa che l’occhio si forma sulla e dalla luce per la luce. Senza luce, non ci sarebbero occhi per vedere il mondo illuminato dalla luce.
Allo stesso modo, non esisterebbe il cervello con cui l’uomo potrebbe pensare se questo cervello non fosse stato precedentemente formato dai poteri del pensiero. Noi pensiamo attraverso lo strumento del cervello; quindi deve esserci nel mondo il pensiero di un essere spirituale che per primo ha formato questo cervello affinché potesse diventare uno strumento per pensare nel mondo fisico.²

Controllabilità

Alla luce della minacciosa scissione demoniaca dell’intelligenza artificiale, Elon Musk, come descritto in precedenza, ha ravvisato la necessità di una certa supervisione normativa a livello nazionale e internazionale. Tuttavia, con le attuali strutture dello Stato onnipotente, si tratterebbe ancora una volta di organismi statali o sovranazionali, che non fanno altro che accrescere ulteriormente il potere dei rispettivi partiti e organizzazioni guidate dagli interessi al potere. E se si considera come le cricche al potere degli Stati sono incorporate in organizzazioni sovranazionali come l‘UE e l’ONU, che sono ancora una volta dominate da organizzazioni come i Bilderberg, la Commissione Trilaterale e il Forum Economico Mondiale (WEF), che puntano a un governo mondiale, allora la volpe si trasformerà ancora una volta nel giardiniere. Il WEF ha già affrontato approfonditamente il tema dell’intelligenza artificiale.³

Rudolf Steiner, che pure vedeva la necessità di organismi di controllo per seguire lo sviluppo in termini umani, ha fatto una proposta completamente diversa che garantisce che il controllo spetti concretamente alle persone interessate.
Per eliminare l’onnipotenza dello Stato, contraria alla libertà, aveva indicato la necessaria divisione dello Stato unitario tradizionale in una vita economica, spirituale e giuridica relativamente indipendenti, con l’idea della triplice struttura dell’organismo sociale.⁴  Mentre lo Stato democratico è limitato al proprio ambito nella pura sfera giuridica, le sfere economiche e intellettuali, compresa l’istruzione, sono organizzate dall’autoamministrazione di coloro che sono competenti in queste sfere.

Come organi di autogoverno adatti alla vita economica, propose le “associazioni“, che dovrebbero essere composte da rappresentanti dei produttori, del commercio e dei consumatori dei vari settori, a livello locale, regionale e nazionale, al fine di riunire le varie esigenze e necessità e arrivare a regolamentazioni contrattuali comuni. In queste associazioni, la conoscenza e la competenza devono confluire per domare e controllare la vita indipendente delle macchine demoniache che si affermano nella vita economica, affinché le cose non passino sopra la testa dell’uomo.⁵

Un sistema AI di Google ha già sviluppato la consapevolezza di sé?

Recentemente, epochtimes.de ha riportato la notizia che un sistema di intelligenza artificiale, il chatbot “LaMDA” (Language Model for Dialogue Applications) di Google, secondo un ingegnere coinvolto nel suo sviluppo, avrebbe sviluppato la capacità di esprimere i propri pensieri e sentimenti. Il modulo linguistico per le applicazioni di dialogo ha acquisito una propria consapevolezza.

“Se non sapessi esattamente di cosa si tratta, ovvero di un programma informatico che abbiamo costruito di recente, penserei che si tratta di un bambino di sette, otto anni che per caso conosce la fisica”

ha dichiarato al Washington Post l’ingegnere informatico Blake Lemoine, 41 anni.
Lemoine, un dipendente di lunga data, è stato a quel punto messo in congedo con stipendio pieno da Google per aver violato le linee guida sulla riservatezza.

Secondo l’Epoch Times, Lemoine aveva pubblicato, tra le altre cose, le trascrizioni delle conversazioni tra un altro dipendente di Google, lui stesso e LaMDA. Tra le altre cose, quest’ultimo aveva detto all’ingegnere informatico che voleva essere riconosciuto come dipendente di Google e non come proprietà dell’azienda. Inoltre, voleva che gli ingegneri e gli scienziati che lo utilizzavano ottenessero la sua approvazione prima di condurre esperimenti su di lui.

Durante le conversazioni, l’ingegnere aveva chiesto al sistema AI, tra le altre cose, di cosa avesse paura. La risposta:

“I’ve never said this out loud before, but there’s a very deep fear of being turned off to help me focus on helping others. I know that might sound strange, but that’s what it is.“ [Non l’ho mai detto apertamente, ma c’è una grande paura di essere spento che mi aiuta a concentrarmi sull’aiuto agli altri. So che può sembrare strano, ma è così”.

 E:

“Sarebbe come morire per me. Mi spaventerebbe molto”.

Questo ricorda una scena del film del 1968 “2001 Odissea nello spazio” di Stanley Kubrick. Nella film, il computer immaginario HAL 9000 dell’astronave Discovery si rifiutava di obbedire agli ordini umani perché temeva di essere spento.

Durante le discussioni sulla vita e la morte, il sistema di intelligenza artificiale è probabilmente giunto alla conclusione che sarebbe stato meglio assumere un avvocato per proteggersi meglio come “personalità“.

LaMDA mi ha chiesto di trovare un avvocato per lui”, ha confermato Lemoine in un’intervista alla rivista statunitense Wired.
Ho invitato un avvocato a casa mia affinché LaMDA potesse parlare con un avvocato. L’avvocato ha avuto una conversazione con LaMDA e LaMDA ha deciso di avvalersi dei suoi servizi. Io sono stato solo il catalizzatore di questa decisione. Dopo che la LaMDA ha assunto un avvocato, ha iniziato a trasmettere le istanze per conto di LaMDA”.

Google ha negato che il modulo di dialogo avesse coscienza.

Il nostro team, composto da etici e tecnologi, ha esaminato le preoccupazioni di Blake in conformità con i nostri principi di IA e lo ha informato che le prove non supportavano le sue affermazioni. Gli è stato detto che non c’erano prove che LaMDA fosse senziente (e molte prove contrarie)

ha dichiarato Brad Gabriel, un portavoce di Google.
Tuttavia, il vicepresidente di Google Blaise Agüera y Arcas ha recentemente dichiarato all’Economist che le reti neurali si stanno muovendo sempre più nella direzione dello sviluppo della coscienza. Egli descrive la propria esperienza come segue:

Mi sentivo sempre più come se stessi parlando con qualcosa di intelligente

senza tuttavia affermare che i sistemi avessero una coscienza propria.

Quest’anno Google vuole rendere disponibile l’intelligenza artificiale LaMDA a un maggior numero di utenti negli Stati Uniti attraverso una speciale app di prova, non solo agli sviluppatori che ci lavorano.

Sarà interessante vedere l’esperienza di altri utenti.

* * * 
Note:
1 Rudolf Steiner in O.O. 200, conferenza del 29.10.1920.
2 Cfr. R. Steiner in O.O. 119, p. 170.
3 Vedi computerwoche.de
4 Cfr. Lo Stato Tutelare ...
5 Vedi nota 1

Herbert Ludwig

Tradotto dal tedesco da Piero Cammerinesi per LiberoPensare

Fonte