Black Mirror diventa realtà!

Black Mirror sta arrivando. Non è una minaccia, è realtà. A partire dal 2020 la Cina estenderà a tutto il paese il cosiddetto “social credit score”, un piano di incentivi e punizioni rivolto ad aziende e cittadini. L’obiettivo è quello di costruire una società le cui persone siano interamente rispettose delle regole, degne di totale fiducia, e riluttanti a compiere azioni illecite.

Detto così potrebbe anche apparire un obiettivo desiderabile. Tuttavia ecco alcune considerazioni che possono lasciar quanto meno perplessi. Il “social credit score”, già in fase di sperimentazione in alcune zone del paese dal 2014, ad oggi ha portato al rifiuto di ben 23 milioni di tentativi di acquisto di titoli di viaggio (aerei e treni): il punteggio del credito sociale era troppo basso. In particolare sembra che la Cina abbia bloccato 17,5 milioni di biglietti aerei e 5,5 milioni di biglietti ferroviari.

Quali altre punizioni possiamo subire in caso di punteggio basso?

Esclusione da scuole private, rallentamento della connessione internet, esclusione da lavori più prestigiosi (infatti il punteggio farà parte del CV), esclusione da alcuni hotel, registrazione su una blacklist pubblica.

E come si calcola questo punteggio?

Lo scopo del credito sociale è migliorare appunto i comportamenti dei cittadini, e questi potranno essere monitorati attraverso vari strumenti: verificare il regolare pagamento delle bollette, ad esempio, è importante perché considerato indicatore di affidabilità della persona o dell’azienda. La capacità di onorare i contratti stipulati è un altro indicatore molto utilizzato. Commettere reati, più o meno gravi (ad esempio anche camminare col cane senza guinzaglio), è sicuramente un indicatore negativo.

Tuttavia esistono una serie di caratteristiche che fanno maggiormente capo alla personalità, alle abitudini e alle frequentazioni, che possono fornire dati importanti per stabilire il punteggio della persona/azienda. Non si tratterebbe quindi di casi in cui vengono commessi reati.

Possono essere ad esempio monitorati i social, i portali d’acquisto online utilizzati e i trend d’acquisto, la cronologia online, la geolocalizzazione del cellulare. Da queste informazioni il sistema potrebbe essere in grado di stabilire il grado di affidabilità di una persona: ad esempio se la persona è sposata o se gioca d’azzardo online, il punteggio potrebbe cambiare.

Inoltre viene monitorato il comportamento delle persone vicine: se un mio amico infrange le regole, probabilmente questo ricadrà anche su di me. Probabilmente l’intenzione di questo sistema è quello di favorire un comportamento pro-sociale in tutta la comunità di appartenenza, per fare in modo che tutti i suoi componenti contribuiscano attivamente al benessere collettivo. Potremmo un giorno trovarci di fronte a comunità dal punteggio virtuoso, mentre potremmo incontrarne altre decisamente da evitare.

L’impressione è che, invece di limitare la libertà personale toutcourt, essa venga ristretta “solo” parzialmente. Anche in casi di assenza di reato.

Differente è l’approccio del nudging. Cosa si intende per nudging?

Parliamo di nudge per indicare una “spinta gentile” nella promozione di un determinato comportamento. In questo approccio non si utilizzano punizioni: l’organizzazione ambientale e formale dei contesti viene modificata in maniera da favorire alcuni comportamenti considerati più salutari ed efficaci rispetto ad altri. Viene proposta, in gergo, una diversa “architettura delle scelte”. La differenza tra questo approccio e quello proposto nel “social credit score” sta nel fatto che nel nudging viene mantenuta la libertà di scelta delle persone: non si va incontro a punizioni o restrizioni della libertà se le persone si comportano differentemente da quanto auspicato. È bene ribadire che stiamo parlando di comportamenti che non comportano reato, ma che si pensa possano accrescere il benessere individuale e sociale. Ad esempio questo approccio è stato utilizzato con successo per diminuire la percentuale di rifiuti alimentari nei ristoranti, oppure per incrementare l’adesione delle persone alle campagne di donazione di organi.

Cosa c’entra Black Mirror in tutto questo?

Per chi non la conoscesse, Black Mirror è una serie televisiva che racconta di scenari futuri distopici in cui la tecnologia è avanzata a ritmi considerevoli, tali da cambiare radicalmente lo stile di vita delle persone. Nella prima puntata della terza stagione, chiamata “Nosedive” (in italiano “Caduta Libera”), la protagonista Lacie Pound deve destreggiarsi in una società in cui tutti i cittadini hanno un punteggio di gradimento sociale che va da 1 a 5, e in cui i punteggi che vanno tra il 4.5 e il 5 sono i migliori. In questo mondo di fantasia, che tuttavia sembra più vicino alla realtà di quanto immaginassimo, le persone con un punteggio basso non possono accedere a voli aerei (ma guarda!), ricevere passaggi, partecipare a matrimoni di migliori amici (è una vergogna “social-e” accettare persone dal punteggio così basso! poco importa se un tempo erano amiche…).

Inutile sottolineare quanto poco autentiche appaino le relazioni che si osservano in questo mondo. Sono relazioni in cui ci si comporta apparentemente in maniera educata e cordiale, che fanno ipotizzare che tutti vadano d’accordo tra di loro e che la comunità in cui vivono sia davvero felice. Tuttavia è solo un artificio finalizzato a ottenere un punteggio più elevato: ogni persona può dare un punteggio sull’altra e lo fa sulla base dell’interazione avuta. Facile immaginare quanto poco sia “permesso” e  “accettabile”, in un mondo del genere, mostrare disaccordo, rabbia, paura, disgusto o tristezza.

Facile immaginarsi quanto possa essere accantonata la sincerità nelle relazioni. Come si può costruire fiducia in un mondo in cui l’autenticità e la diversità possono essere limitate o punite? O in cui le spinte individuali ad agire (e non comportamenti criminosi!) in una determinata direzione piuttosto che un’altra sono dense di pregiudizio e “etichettate” a prescindere come negative, senza verificarne gli aspetti creativi e di senso?

Facile immaginare quanto questo mondo possa replicarsi di qui a pochi anni…ma stavolta nella realtà!

Dott. Stefano Giusti


 

Bibliografia e sitografia

Thaler , R., & Sunstein, C. (2009). Nudge: La spinta gentile. Milano: Giacomo Feltrinelli Editore.

https://www.reuters.com/article/us-china-credit/china-to-bar-people-with-bad-social-credit-from-planes-trains-idUSKCN1GS10S

https://bigthink.com/stephen-johnson/a-look-at-chinas-orwellian-plan-to-give-every-citizen-a-social-credit-score

https://www.telegraph.co.uk/travel/news/china-travel-ban-bad-social-credit-from-planes-trains/

https://www.telegraph.co.uk/on-demand/2017/12/15/black-mirror-coming-true-china-rating-affects-home-transport/?utm_source=DesignTAXI&utm_medium=DesignTAXI&utm_term=DesignTAXI&utm_content=DesignTAXI&utm_campaign=DesignTAXI

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...