Oltre la singolarità: cosa succede quando l’algoritmo sa prevedere le tue decisioni

Immaginiamo un algoritmo che sappia con buona probabilità quale film sceglieremo stasera, quale prodotto compreremo, quale strada percorreremo e perfino quale notizia attirerà la nostra attenzione. Non è fantascienza pura: sistemi di raccomandazione e modelli predittivi lavorano già su tracce digitali, comportamenti precedenti e somiglianze statistiche tra utenti.

Il punto filosoficamente più interessante, però, non è che una macchina possa “leggere il futuro”. È che una previsione, una volta inserita nell'ambiente in cui scegliamo, può contribuire a produrre proprio il comportamento che pretendeva soltanto di prevedere.

Prevedere non significa conoscere la persona

Un algoritmo non ha bisogno di sapere chi siamo nel senso umano del termine. Gli basta individuare regolarità. Se persone con comportamenti simili al nostro hanno scelto un determinato contenuto, quel contenuto può esserci proposto.

Più interagiamo, più il sistema raccoglie segnali. Ma una correlazione statistica non equivale a una comprensione della nostra interiorità.

Il passaggio decisivo: dalla previsione all'influenza

Se una piattaforma pensa che io abbia buone probabilità di cliccare su un certo contenuto, me lo mostra. Quel semplice atto cambia il mio ambiente decisionale.

Io continuo formalmente a scegliere. Ma non scelgo in uno spazio neutro: scelgo tra possibilità ordinate da qualcun altro secondo criteri che spesso non vedo.

Il rischio della profezia che si autoavvera

Più un sistema è efficace nel suggerire ciò che già ci interessa, più può restringere l'esplorazione. Cominciamo a vedere più spesso ciò che assomiglia alle nostre scelte precedenti.

Questo non significa che gli algoritmi cancellino automaticamente la libertà. Significa che la libertà contemporanea deve fare i conti anche con l'architettura delle possibilità che ci vengono presentate.

La singolarità forse non è il problema più urgente

Si parla molto del giorno ipotetico in cui l'intelligenza artificiale supererà l'intelligenza umana in senso generale. Ma potremmo avere davanti un problema più concreto: macchine non onnipotenti ma abbastanza capaci da orientare miliardi di microdecisioni quotidiane.

Non serve una superintelligenza per cambiare il comportamento collettivo. Basta un sistema molto efficace nel decidere cosa mettere davanti ai nostri occhi.

Cosa sappiamo davvero

La ricerca su sistemi di raccomandazione, profilazione e previsione comportamentale mostra che le piattaforme possono usare grandi quantità di dati per stimare preferenze e probabilità di azione. Da questo non segue che possano prevedere con certezza le scelte individuali.

Le persone restano variabili, contraddittorie e capaci di sorprendere.

È una questione che attraversa anche la riflessione su l’uomo nell’era dell’algoritmo.

La nuova domanda sulla libertà

Per secoli abbiamo pensato la libertà come assenza di costrizione. Nell'era algoritmica dobbiamo aggiungere una domanda: quanto è libera una scelta quando qualcuno ha costruito con estrema precisione il contesto in cui verrà presa?

Forse la libertà del futuro non consisterà soltanto nel poter dire sì o no. Consisterà anche nel sapere chi ha deciso quali alternative avremmo visto prima di rispondere.