L’INFORMAZIONE NON È LA VERITÀ. E IL POTERE NON È LA SAPIENZA.

 

L’INFORMAZIONE NON È LA VERITÀ. E IL POTERE NON È LA SAPIENZA.

Una conversazione immaginaria con Antonio Bruno, a partire dal prologo di Nexus di Yuval Noah Harari

Un dialogo epistemologico e fenomenologico sulla conoscenza, sulle reti umane, sull'intelligenza artificiale e sulla responsabilità di costruire il mondo nel quale viviamo.

1. Siamo davvero Homo sapiens?

Intervistatore: Antonio Bruno, Yuval Noah Harari apre il prologo del suo libro con una provocazione: abbiamo chiamato la nostra specie Homo sapiens, ma siamo davvero sapienti? Abbiamo accumulato conoscenze straordinarie e contemporaneamente siamo capaci di distruggere le condizioni della nostra stessa esistenza. Come interpreta questa contraddizione?

Antonio Bruno: Comincerei col domandarmi chi sia l'osservatore che definisce questa una contraddizione.

Harari osserva due fenomeni: l'accumulazione delle conoscenze e la possibilità dell'autodistruzione. Poi li mette in relazione, presupponendo che l'aumento della conoscenza dovrebbe comportare un aumento della saggezza.

Ma perché dovrebbe?

La conoscenza scientifica ci permette di intervenire sul mondo. La saggezza, invece, riguarda il modo in cui viviamo e conviviamo.

Sono due domini differenti.

Se io conosco perfettamente il funzionamento di un ecosistema, questo non significa che desideri conservarlo. Potrei utilizzare quella conoscenza per sfruttarlo fino al suo esaurimento.

La domanda, dunque, non è perché l'uomo sapiente si comporti stupidamente.

La domanda è: come facciamo quello che facciamo quando utilizziamo la conoscenza per produrre le conseguenze che poi dichiariamo di non volere?

È una domanda molto diversa. Non cerca un colpevole. Cerca di comprendere il processo generativo del nostro agire.

2. Il mito di Fetonte e l'illusione del controllo

Intervistatore: Harari richiama il mito di Fetonte e la ballata dell'Apprendista stregone di Goethe. Entrambi raccontano di qualcuno che acquisisce un potere che non riesce a controllare. Non è proprio quello che stiamo facendo con l'intelligenza artificiale?

Antonio Bruno: C'è un presupposto che mi interessa mettere in discussione: l'idea che l'essere umano possa controllare integralmente le conseguenze delle proprie azioni.

Noi agiamo sempre in un presente, sulla base della nostra struttura e della nostra storia.

Possiamo immaginare il futuro, possiamo progettare, possiamo fare previsioni. Ma il futuro non è qualcosa che possediamo.

Fetonte credeva di poter governare il carro del Sole. L'Apprendista stregone credeva di poter governare la scopa.

E noi crediamo di poter governare le tecnologie che produciamo.

Ma c'è una differenza fondamentale tra progettare un sistema e conoscere tutte le trasformazioni che quel sistema renderà possibili.

Questo non significa rinunciare alla responsabilità. Significa riconoscere che la responsabilità non coincide con l'onnipotenza.

Anzi, direi che comincia proprio quando abbandoniamo l'illusione dell'onnipotenza.

3. Maturana: non viviamo in un mondo indipendente dal nostro osservare

Intervistatore: Lei richiama spesso Humberto Maturana. Quale contributo può offrire alla riflessione di Harari?

Antonio Bruno: Maturana introduce una distinzione epistemologica decisiva.

Noi non abbiamo accesso a una realtà indipendente dal nostro operare come osservatori, nel senso di poterla descrivere da un punto di vista assoluto, esterno a ogni esperienza.

Questo non significa che il mondo sia una nostra fantasia o che tutto sia arbitrario.

Significa che ogni spiegazione viene formulata da un osservatore, attraverso le distinzioni che egli compie.

Harari parla di reti informative che producono rappresentazioni vere o false del mondo.

Io aggiungerei una domanda: attraverso quali operazioni un osservatore distingue qualcosa come informazione, come verità, come errore?

Prendiamo un bosco.

Un agronomo può osservarlo come ecosistema. Un imprenditore come risorsa economica. Un amministratore come patrimonio pubblico. Un bambino come luogo nel quale giocare.

Non stanno necessariamente osservando boschi differenti.

Stanno facendo emergere domini differenti di significato attraverso le loro distinzioni.

Il problema nasce quando uno di questi osservatori pretende che la propria descrizione esaurisca tutto ciò che il bosco è.

Ecco perché la consapevolezza del nostro osservare ha conseguenze etiche.

Se riconosco che la mia spiegazione è una spiegazione formulata da me, posso ascoltare quella dell'altro senza doverla immediatamente annullare.

4. L'informazione produce la verità?

Intervistatore: Harari critica quella che definisce la visione ingenua dell'informazione: l'idea secondo cui più informazioni producano più verità e, conseguentemente, più saggezza.

Antonio Bruno: Sono d'accordo con la critica, ma vorrei approfondirla.

Un'informazione non possiede un significato indipendentemente dal sistema che la interpreta.

Prendiamo una temperatura di 40 gradi.

Per un medico può indicare una condizione febbrile grave. Per un agronomo può essere una temperatura atmosferica pericolosa per determinate colture. Per un tecnologo alimentare può rappresentare una condizione di processo.

Il numero è lo stesso.

Ma il significato emerge nel dominio operativo in cui viene utilizzato.

Non basta, dunque, aumentare la quantità delle informazioni.

Dobbiamo comprendere come quelle informazioni partecipano alla costruzione delle nostre spiegazioni e delle nostre decisioni.

C'è poi una questione ulteriore.

Quando un essere umano dice di conoscere qualcosa, spesso smette di interrogarsi sulle condizioni attraverso le quali è arrivato a conoscerla.

La conoscenza può trasformarsi in certezza.

E la certezza, quando pretende di essere indipendente dall'osservatore, può diventare una forma di dominio.

Intervistatore: Sta sostenendo che non esista una verità scientifica?

Antonio Bruno: No. Sarebbe una conclusione impropria.

Le spiegazioni scientifiche hanno criteri di validazione, procedure sperimentali, possibilità di confutazione e di correzione.

Non sono equivalenti a qualunque opinione.

Quello che metto in discussione è la pretesa che la validità di una spiegazione autorizzi chi la formula a considerarsi un osservatore privilegiato, sottratto alle condizioni del proprio osservare.

La scienza è tanto più rigorosa quanto più rende esplicite le proprie operazioni di verifica.

Non quanto più si proclama infallibile.

5. Le reti umane e la costruzione del potere

Intervistatore: Harari sostiene che il potere umano non nasce dall'individuo isolato, ma dalla cooperazione su vasta scala. Il nostro problema sarebbe, dunque, un problema di rete.

Antonio Bruno: Questo è uno dei passaggi più interessanti del suo ragionamento.

Nessun essere umano costruisce una società da solo.

Viviamo in reti di conversazioni, di coordinazioni di azioni e di emozioni.

Maturana ci aiuta a comprendere che il sociale non nasce semplicemente dalla connessione tra individui.

Nasce da particolari modalità di convivenza.

Non ogni coordinazione costituisce necessariamente una relazione sociale fondata sull'accettazione reciproca.

Anche un esercito autoritario è una rete coordinata. Anche un'organizzazione criminale può possedere una straordinaria capacità di cooperazione operativa.

Ma dobbiamo domandarci quale emozione sostiene quella coordinazione.

È la paura? È l'obbedienza? È la competizione? Oppure è l'accettazione dell'altro come legittimo altro nella convivenza?

Questa distinzione cambia radicalmente il modo di osservare le reti.

Harari si domanda come le reti producano potere.

Io mi domando anche quale mondo relazionale facciamo emergere mentre partecipiamo a quelle reti.

6. Il potere e la sottomissione

Intervistatore: C'è una frase di Maturana particolarmente significativa: «Il potere è la conseguenza, la sottomissione è la causa». Come si inserisce in questa discussione?

Antonio Bruno: È una frase che rovescia il nostro modo abituale di osservare il potere.

Siamo abituati a pensare che qualcuno possieda il potere e che gli altri, di conseguenza, obbediscano.

Maturana ci invita a osservare la relazione.

Il potere esiste come fenomeno relazionale nel dominio in cui qualcuno accetta, o è costretto ad assumere, una posizione subordinata.

Naturalmente questo non significa negare la violenza, la coercizione o le asimmetrie materiali.

Significa che il potere non è semplicemente una proprietà che una persona custodisce dentro di sé.

È qualcosa che si realizza nelle relazioni.

E allora la domanda cambia.

Non mi interessa soltanto sapere chi governa una rete informativa.

Mi interessa comprendere come partecipiamo, anche inconsapevolmente, alla conservazione delle relazioni che rendono possibile quel governo.

Pensiamo alle organizzazioni pubbliche.

Possiamo avere norme, regolamenti, sistemi informatici e procedure perfettamente definiti.

Ma se le persone operano nella paura di assumersi responsabilità, quella rete produrrà comportamenti differenti rispetto a un'organizzazione nella quale sia possibile riconoscere gli errori, discuterli e correggerli.

Non è soltanto una questione di informazioni.

È una questione di cultura relazionale.

7. L'intelligenza artificiale è davvero un agente?

Intervistatore: Harari afferma che l'intelligenza artificiale non è semplicemente uno strumento, ma un agente, perché può elaborare informazioni, prendere decisioni e generare nuove idee. Lei condivide questa distinzione?

Antonio Bruno: Dipende da che cosa intendiamo per agente.

Se intendiamo un sistema capace di operare autonomamente secondo determinate architetture, produrre risultati e prendere decisioni senza un intervento umano immediato, possiamo utilizzare il termine.

Ma dobbiamo evitare una confusione epistemologica.

La capacità di produrre un comportamento che noi distinguiamo come intelligente non dimostra, da sola, l'esistenza di un'esperienza soggettiva analoga alla nostra.

Qui il pensiero di Maturana è particolarmente utile.

Per Maturana, la cognizione biologica è inseparabile dall'organizzazione del vivente.

Un organismo vive attraverso la conservazione della propria organizzazione e del proprio accoppiamento strutturale con l'ambiente.

Un sistema artificiale può realizzare operazioni straordinariamente complesse senza che questo ci autorizzi automaticamente ad attribuirgli la stessa modalità di esistenza di un organismo vivente.

Non sto dicendo che l'intelligenza artificiale sia innocua.

Sto dicendo che dobbiamo distinguere la sua efficacia operativa dalle interpretazioni che formuliamo sulla sua natura.

Intervistatore: Ma se un algoritmo prende decisioni che incidono sulla vita di milioni di persone, non importa forse poco che sia cosciente oppure no?

Antonio Bruno: Dal punto di vista delle conseguenze sociali, la coscienza non è una condizione necessaria per produrre danni.

Un algoritmo può contribuire a discriminare, escludere o condizionare persone anche senza alcuna esperienza soggettiva.

La questione fondamentale diventa allora la responsabilità umana nella progettazione, nell'adozione e nella supervisione di questi sistemi.

Il rischio è che attribuendo all'intelligenza artificiale una volontà autonoma finiamo per rendere invisibili le responsabilità delle persone e delle istituzioni che la utilizzano.

Dire che è stato l'algoritmo a decidere può diventare una nuova forma di deresponsabilizzazione.

8. Populismo, verità e sfiducia

Intervistatore: Harari dedica una parte importante del prologo al populismo, che descrive come una visione dell'informazione intesa principalmente come arma per conquistare il potere.

Antonio Bruno: Mi interessa la dinamica relazionale che rende possibile questo fenomeno.

Quando una persona afferma che tutte le istituzioni mentono, compie una generalizzazione.

Quando un'istituzione risponde che chi la critica è ignorante, può compiere un'altra generalizzazione.

In entrambi i casi rischiamo di interrompere la conversazione.

E quando la conversazione si interrompe, rimane soltanto il confronto tra certezze contrapposte.

Vorrei distinguere, però, la critica alle istituzioni dalla delegittimazione indiscriminata della conoscenza.

Le istituzioni devono poter essere criticate.

La scienza deve poter essere discussa.

Il potere deve poter essere sottoposto a verifica.

Ma la critica ha bisogno di criteri, di argomentazioni e della disponibilità a correggere le proprie conclusioni.

Se ogni affermazione viene considerata soltanto un tentativo di esercitare potere, diventa impossibile costruire una conoscenza condivisa.

E se ogni contestazione viene considerata una minaccia all'autorità, diventa impossibile correggere gli errori.

La convivenza democratica richiede entrambe le possibilità.

9. L'esperienza dell'agronomo: conoscere non significa custodire

Intervistatore: Lei è un agronomo e ha dedicato gran parte della sua vita professionale alla gestione del territorio. Possiamo utilizzare questa esperienza per comprendere il problema posto da Harari?

Antonio Bruno: Certamente.

Pensiamo al paesaggio agrario salentino.

Disponiamo di conoscenze scientifiche sui suoli, sull'acqua, sulle colture, sulle fitopatie e sugli ecosistemi.

Possediamo strumenti di rilevazione, cartografie, modelli previsionali e sistemi informativi territoriali.

Eppure il possesso di queste conoscenze non garantisce che il territorio venga governato in modo sostenibile.

Perché?

Perché le decisioni non nascono soltanto dalle conoscenze tecniche.

Nascono all'interno di reti di interessi, abitudini, aspettative, vincoli economici e relazioni istituzionali.

Prendiamo un oliveto compromesso dalla Xylella.

Un osservatore può distinguerlo come perdita produttiva. Un altro come patrimonio paesaggistico da ricostituire. Un altro ancora come terreno sul quale continuare a percepire una rendita.

La conoscenza scientifica può aiutarci a comprendere ciò che è biologicamente ed economicamente possibile.

Ma non determina da sola ciò che una comunità sceglierà di fare.

Ecco perché considero insufficiente un approccio che identifichi l'innovazione con l'introduzione di nuove tecnologie.

L'innovazione più difficile è spesso la trasformazione delle relazioni attraverso le quali una comunità conserva il proprio modo di vivere e di produrre.

Non basta sapere che cosa si potrebbe fare.

Bisogna osservare che cosa stiamo conservando mentre continuiamo a fare ciò che facciamo.

10. I meccanismi di autocorrezione e la capacità di riconoscere gli errori

Intervistatore: Harari attribuisce grande importanza ai meccanismi di autocorrezione delle reti informative: tribunali indipendenti, ricerca scientifica, revisione tra pari. È d'accordo?

Antonio Bruno: Assolutamente sì.

Ma aggiungerei che un meccanismo di autocorrezione funziona soltanto se esistono condizioni che permettono di utilizzarlo.

Un'organizzazione può prevedere formalmente la possibilità di correggere un errore.

Ma se chi riconosce l'errore viene umiliato, punito o emarginato, quella possibilità resterà sulla carta.

La correzione richiede una cultura nella quale l'errore non coincida necessariamente con la perdita della dignità personale.

Questo vale per la scienza, per la pubblica amministrazione, per la politica e per le relazioni familiari.

Io posso accorgermi di aver sbagliato soltanto se posso osservare ciò che ho fatto senza essere interamente identificato con quell'azione.

E qui entra in gioco una distinzione che considero fondamentale.

Io non sono riducibile a ciò che ho fatto ieri.

Oggi posso osservare il mio passato e scegliere di conservare qualcosa oppure di modificarlo.

Non perché io possa cancellare il passato, ma perché il mio agire presente non è una semplice ripetizione obbligata di ciò che è già accaduto.

11. La fenomenologia dell'informazione: che cosa accade mentre leggiamo?

Intervistatore: Finora abbiamo parlato soprattutto di epistemologia. Vorrei affrontare la dimensione fenomenologica. Che cosa accade, concretamente, quando lei legge un testo come quello di Harari?

Antonio Bruno: Accade qualcosa che spesso trascuriamo.

Mentre leggo, non ricevo semplicemente delle informazioni che entrano nella mia mente.

Leggo, distinguo, associo, ricordo, provo emozioni, formulo domande.

La lettura è un'esperienza che si realizza nel presente.

Quando Harari parla dell'Apprendista stregone, io posso ricordare Goethe, il film di Disney, oppure una situazione della mia vita nella quale ho prodotto conseguenze inattese.

Questi ricordi non sono contenuti materialmente nel testo.

Emergono nella mia esperienza di lettore.

Il testo partecipa a una perturbazione della mia struttura, ma non determina univocamente ciò che vivrò.

Due persone possono leggere le stesse parole e vivere esperienze completamente differenti.

Questo non rende inutile il testo.

Rende evidente che la comprensione è un fenomeno che coinvolge il lettore, la sua storia e il contesto in cui legge.

Intervistatore: Dunque il significato non è semplicemente qualcosa che l'autore trasferisce al lettore?

Antonio Bruno: Esattamente.

La comunicazione non è il trasporto materiale di un significato già confezionato da una mente all'altra.

È una coordinazione che si realizza nella relazione.

L'autore scrive. Il lettore legge. E nella storia delle loro rispettive operazioni può emergere un dominio condiviso di significati.

È una prospettiva che cambia profondamente anche il modo di concepire l'insegnamento.

Un docente non introduce conoscenze nella testa degli studenti come si verserebbe acqua in un recipiente.

Predispone condizioni, propone distinzioni, partecipa a conversazioni.

L'apprendimento emerge nelle trasformazioni che lo studente realizza nella propria esperienza.

12. La domanda decisiva: che cosa vogliamo conservare?

Intervistatore: Harari conclude sostenendo che la storia non è deterministica e che il futuro dipenderà dalle scelte che compiremo. È un'affermazione che condivide?

Antonio Bruno: Sì, ma vorrei spostare l'attenzione.

Quando parliamo del futuro, spesso ci domandiamo che cosa dobbiamo cambiare.

Io preferisco cominciare con un'altra domanda:

Che cosa vogliamo conservare?

È una domanda che può apparire paradossale.

Se vogliamo trasformare il mondo, perché dovremmo preoccuparci di ciò che conserviamo?

Perché ogni trasformazione si realizza conservando qualcosa.

Se vogliamo conservare la competizione come fondamento delle nostre relazioni, costruiremo tecnologie e istituzioni coerenti con quella scelta.

Se vogliamo conservare il dominio, utilizzeremo anche l'intelligenza artificiale per rafforzare il dominio.

Se vogliamo conservare la convivenza democratica, dovremo costruire sistemi che rendano possibile la partecipazione, la verifica, la responsabilità e la correzione.

La tecnologia non decide autonomamente quali valori debbano orientare la nostra convivenza.

Anche quando un sistema artificiale opera con un elevato grado di autonomia, rimane essenziale domandarci quali condizioni istituzionali e relazionali ne rendano possibile l'uso.

13. Vivere senza dover controllare tutto

Intervistatore: Vorrei concludere con una domanda personale. Lei ha recentemente descritto un'esperienza nella quale il tempo sembra non essere più qualcosa da rincorrere. Ha detto che fa ciò che fa mentre lo fa, senza sforzo. C'è un rapporto tra questa esperienza e le questioni affrontate da Harari?

Antonio Bruno: C'è un rapporto che considero molto significativo.

Harari descrive un'umanità che accumula potere e contemporaneamente teme di perderne il controllo.

Io mi accorgo che, nella mia esperienza quotidiana, posso vivere senza dover continuamente controllare ciò che accadrà dopo.

Questo non significa rinunciare a progettare, studiare, lavorare o assumermi responsabilità.

Significa che posso essere presente a ciò che faccio.

Quando canto, canto.

Quando studio, studio.

Quando cammino, cammino.

Quando incontro qualcuno, posso incontrarlo senza dover immediatamente trasformare quell'incontro in un risultato.

Non sto cercando di eliminare il tempo.

Semplicemente, non vivo ogni attività come un ostacolo che mi separa dall'attività successiva.

La scelta e l'azione possono essere vissute come un'unica esperienza.

Intervistatore: Ma non c'è il rischio che questa posizione diventi una forma di disimpegno rispetto ai grandi problemi del mondo?

Antonio Bruno: Sarebbe così se confondessimo l'assenza di sforzo soggettivo con l'assenza di responsabilità.

Io posso occuparmi di un problema complesso senza trasformarlo necessariamente in una lotta contro me stesso.

Posso impegnarmi nella tutela di un albero, nello studio di un territorio, nella scrittura di un articolo o nella comprensione di una questione politica senza vivere ogni momento come una battaglia da vincere.

L'impegno non richiede necessariamente sofferenza.

La responsabilità non richiede necessariamente ansia.

E la consapevolezza non richiede necessariamente un continuo esercizio volontario di controllo.

Posso accorgermi di ciò che faccio mentre lo faccio.

A volte riconosco questo accorgermi soltanto successivamente, quando ricostruisco l'esperienza.

Non devo trasformare neppure l'osservazione di me stesso in un compito da eseguire.

14. La sapienza come modo di convivere

Intervistatore: Allora ritorniamo alla domanda iniziale di Harari. Dopo centomila anni di storia, siamo diventati più sapienti?

Antonio Bruno: Non saprei rispondere attraverso una misura unica.

Abbiamo certamente ampliato enormemente le nostre capacità operative.

Possiamo conoscere la struttura del DNA, osservare galassie lontanissime, intervenire sul genoma, produrre sistemi artificiali capaci di elaborare quantità immense di dati.

Ma nessuna di queste capacità, considerata isolatamente, ci dice come desideriamo convivere.

Per me la sapienza non coincide con il possesso di tutte le risposte.

Ha piuttosto a che fare con la capacità di riconoscere che ogni nostra risposta nasce da un modo di osservare, che le nostre azioni hanno conseguenze e che viviamo in relazione con altri esseri umani e con gli altri viventi.

Una persona può possedere pochissime informazioni scientifiche e avere una straordinaria capacità di vivere nel rispetto degli altri.

Un'altra può possedere conoscenze immense e utilizzare quelle conoscenze per esercitare dominio.

Non dobbiamo per questo rinunciare alla scienza.

Dobbiamo evitare di confondere la competenza con la saggezza.

Intervistatore: E quale sarebbe, allora, la domanda da porre all'intelligenza artificiale?

Antonio Bruno: Non le chiederei soltanto quanto diventerà intelligente.

Mi domanderei:

Come stiamo vivendo mentre la costruiamo?

Quali relazioni stiamo conservando attraverso il suo utilizzo?

Quali possibilità di convivenza stiamo aprendo e quali stiamo chiudendo?

Quale mondo facciamo emergere mentre facciamo quello che facciamo?

E soprattutto:

Qual è lo scopo di ciò che stiamo facendo? E qual è lo scopo di quello scopo?

Perché possiamo costruire una macchina capace di rispondere a milioni di domande.

Ma rimane nostra la responsabilità di interrogarci sul senso delle domande che scegliamo di porre.

Epilogo — La domanda che nessun algoritmo può risolvere al nostro posto

La conversazione termina dove il prologo di Harari aveva avuto inizio: davanti alla distanza tra il potere dell'umanità e la sua capacità di vivere saggiamente.

Ma qualcosa è cambiato.

Harari ci invita a comprendere le reti informative per evitare che diventino strumenti di distruzione o di dominio.

Antonio Bruno, attraverso la prospettiva epistemologica di Maturana e l'attenzione fenomenologica all'esperienza vissuta, introduce un'ulteriore dimensione: non basta comprendere come funzionano le reti. Occorre riconoscere come partecipiamo alla loro continua realizzazione.

Non basta domandarci se le informazioni siano vere.

Occorre comprendere come le distinguiamo, le validiamo e le utilizziamo.

Non basta domandarci chi possieda il potere.

Occorre osservare le relazioni attraverso le quali il potere si realizza e si conserva.

Non basta domandarci quale futuro produrrà l'intelligenza artificiale.

Occorre riconoscere che il futuro dipenderà anche da ciò che scegliamo di conservare nella nostra convivenza.

E forse la differenza più importante è proprio questa.

L'essere umano non diventa sapiente quando riesce a controllare tutto. Può diventare più saggio quando riconosce i limiti del proprio sapere, assume la responsabilità delle proprie azioni e impara a convivere senza pretendere di dominare ogni cosa.

Conversazione immaginaria elaborata a partire dal prologo di Nexus di Yuval Noah Harari. Le risposte attribuite ad Antonio Bruno sono una ricostruzione interpretativa, non dichiarazioni testuali, sviluppata attraverso il pensiero di Humberto Maturana e Ximena Dávila e le riflessioni epistemologiche e fenomenologiche di Antonio Bruno.