Il discernimento a prova di algoritmo

I sistemi algoritmici stanno trasformando il mondo nel quale l’uomo vive e stanno cambiando l’uomo stesso, il suo modo di relazionarsi con gli altri esseri umani e con l’ambiente circostante e la sua comprensione della realtà, andando ad influenzare il processo di discernimento che egli compie ogni volta che deve prendere decisioni per la sua vita. Questa affermazione, però, non è pacificamente accolta da tutti e l’idea che gli algoritmi siano soltanto meri strumenti nelle mani dell’uomo è ancora molto forte. Questo pensiero ha radici molto profonde.

Il pensiero computazionale

Nel quattordicesimo secolo Raimondo Lullo era convinto di poter risolvere qualunque problema attraverso la matematica, in quanto ogni proposizione può essere ridotta in termini complessi e questi ultimi in più termini semplici. Combinando i termini semplici in tutti i modi possibili si possono ottenere tutte le proposizioni vere pensabili: questa è l’arte combinatoria che fonda le basi del calcolo computazionale. Questo sogno di razionalizzazione della realtà portò a ritenere utile matematizzare ogni processo per dare a ciascuno di essi una rispettabilità maggiore di quella che altrimenti avrebbe avuto: ne deriva che i risultati ottenuti da questa procedura assumono una forte credibilità e legittimità. Con il veloce sviluppo dell’informatica e dei computer, alcuni iniziarono così ad affermare che l’elaborazione dei dati e l’uso degli algoritmi e delle correlazioni statistiche avrebbe garantito una maggiore qualità delle decisioni e una neutralità che l’uomo non poteva garantire.

Il mito della neutralità algoritmica

Verso gli anni ’80 del secolo scorso, si iniziò tuttavia a rendersi conto che la tecnologia non è un semplice strumento nelle mani dell’uomo, ma è il prodotto di fattori sociali, economici e politici, oltre che dello sviluppo della tecnica. In questo senso i sistemi algoritmici vengo compresi come costruzioni sociali che riflettono interessi e assunti arbitrari sul mondo sociale. Si sono potute così mostrare tre evidenze che i sostenitori della neutralità algoritmica negavano. La prima evidenza è che in fase di progettazione, e anche in quella di addestramento per gli algoritmi più evoluti, un sistema algoritmico risente di alcune distorsioni che non permettono di garantire una totale oggettività: il funzionamento dei sistemi algoritmici, anche nel caso del machine learning e dell’intelligenza artificiale, non è indipendente dalle scelte umane, dagli errori e dalle distorsioni culturalmente indotte. La seconda evidenza è che non necessariamente l’automatizzazione di un processo lo rende neutro. Infatti, l’automatizzazione è sempre il prodotto di idee e scelte determinate dall’uomo: un algoritmo è ciò che implementa visioni, idee, credenze e che soddisfa bisogni e desideri. Infine, la terza evidenza è che, per quanto possano essere accurati, i risultati degli algoritmi alterano la realtà attraverso dinamiche che sono socialmente, storicamente e politicamente note.

La cultura algoritmica

Eticamente questo discorso è molto interessante. Ogni dato e ogni algoritmo riflettono una cultura, un contesto sociale, una storia e generano una cultura, un contesto sociale e una storia: i dati e gli algoritmi non solo predicono statisticamente qualcosa, ma favoriscono un comportamento che l’uomo assumerà nella sua vita. Tutto ciò ha portato alcuni studiosi a parlare di cultura algoritmica. Se gli algoritmi di Facebook o Google filtrano i risultati prodotti in base alle ricerche che ogni utente ha effettuato, questo significa che chiunque utilizzi uno di questi sistemi avrà un risultato che è legato alle esperienze che ha già vissuto. Tutto ciò influenza il comportamento dell’utente che vivrà un’esperienza sempre più orientata dall’algoritmo stesso. In questo senso, gli algoritmi sono produttori di cultura in quanto vanno a modificare il modo attraverso cui l’uomo comprende la realtà e a veicolare alcuni contenuti rispetto ad altri. Questo fenomeno è talmente forte, e al tempo stesso invisibile, che si parla di inconscio tecnologico: gli algoritmi non solo mediano ciò che sappiamo e comprendiamo, ma vanno a creare la realtà stessa riducendo il confine tra ciò che è reale e ciò che è virtuale e andando a ridurre anche la nostra capacità critica sulla realtà.

Influenza nelle scelte umane  

Le considerazioni fatte sulla non neutralità e sulla cultura algoritmica permettono di compiere un ulteriore passaggio. I sistemi algoritmici producono cultura, influenzano le relazioni che l’uomo ha con gli altri uomini e determinano, in positivo o in negativo, il modo in cui l’uomo vive il suo essere in relazione e la sua comprensione della realtà che lo circonda. Inoltre, tali sistemi sono capaci di suscitare nuovi bisogni (si pensi ad esempio a cosa accade ogni volta che facciamo degli acquisti online: immediatamente vengono suggeriti nuovi prodotti da comprare e spesso finiamo per acquistare quei prodotti) e nuovi valori legati alla comprensione della realtà e ai pregiudizi sia dello sviluppatore del sistema e sia dell’utilizzatore. Uno studio del MIT ha anche dimostrato che essi sono capaci di introdurre nuovi pregiudizi rispetto a quelli umani che derivano dalle correlazioni statistiche dei dati che essi rilevano. Pertanto, andando a suscitare nuovi bisogni e valori, alterano anche l’urgenza e la priorità dei valori che l’uomo riconosce come significativi per la propria vita. I sistemi algoritmici influenzano, quindi, la gerarchia dei valori che l’uomo assume nella sua vita e producono conoscenza e cultura che vanno a loro volta ad influenzare la comprensione stessa della realtà in una sorta di circolarità che può rafforzare il bene prodotto ma anche il male che viene generato. Questo significa che essi orientano inevitabilmente le decisioni che l’uomo prende e tutto ciò avviene in un modo di cui spesso non si ha neanche consapevolezza: la pervasività e la velocità con cui i sistemi algoritmici sono entrati nella vita dell’uomo rende questa realtà parte integrante della sua esperienza nel mondo e non solo in modo strumentale, ma in quanto parte essenziale della sua capacità di interpretare la realtà che lo circonda e di discernere su di essa. Infine, oltre a toccare l’individualità personale, agiscono anche a livello sociale in quanto generano meccanismi di controllo economico, politico e finanziario che regolano il vivere sociale dell’uomo e che determinano la comprensione che la comunità ha del bene comune.

Una sfida per l’uomo

Non esiste, oramai, attività umana che non sia direttamente o indirettamente influenzata dagli algoritmi. Pur ribadendo la centralità della persona umana e della sua dignità, l’algoritmo informatico può però diventare un’occasione di sviluppo integrale dell’uomo se regolato da una governance che lo renda capaci di non ledere la dignità umana. Questa è la sfida che l’uomo oggi si trova a dover affrontare: accogliere la tecnica come prodotto dell’intelletto umano, e come tale come dono di Dio, per poterla comprendere e governare in modo da poter sempre più scegliere il bene possibile per la propria vita e per il mondo. Quello su cui bisogna riflettere è la visione del futuro, la comprensione dell’umano e la direzione che si vuole dare alla società. In questo modo, i sistemi algoritmici «possono divenire occasioni di umanizzazione non solo quando, grazie allo sviluppo tecnologico, offrono maggiori possibilità di comunicazione e di informazione, ma soprattutto quando sono organizzati e orientati alla luce di un’immagine di persona e del bene comune che ne rispecchi le valenze universali»[1]. Tutto ciò permetterà all’uomo di non perdere la sua umanità e di non lasciarsi sempre più disumanizzare smarrendosi in derive tecnocratiche e postumane.

[1] Benedetto XVI, lettera enciclica Caritas in veritate sullo sviluppo umano integrale nella carità e nella verità, 29 giugno 2009, n. 73.