Utopia e Distopia. Da Gutenberg a Zuckerberg

Nel 1450 Johann Gensfleish, passato alla storia con il nome di J. Gutenberg, dal nome del paese di provenienza, inventò la stampa a caratteri mobili. Nel 1958 pubblicò il besteller della storia del genere umano: la Bibbia. Nel mondo della comunicazione ci fu una rivoluzione: la prima, inaspettata, grandiosa.

Nel 2004 Mark Zuckerberg, passato alla storia con il nome di Mark Zuckerberg, nelle terre della Silicon Valley, inventò Facebook. Il primo Social Network. In quegli anni e per gli anni successivi, il mondo di Internet, la rivoluzione tecnologica, hanno fatto fare una transizione senza precedenti al genere umano che, dal punto di vista della comunicazione e della diffusione dell’informazione è passato dalle “stalle alle stelle”.

Almeno finché… Personalmente, almeno finché non ho sentito dire:

Se non stai pagando per il prodotto, allora il prodotto sei tu. — Andrew Lewis

Ho ragionato parecchio sulle parole del formatore e giornalista Andrew Lewis che, riferendosi al mondo di Internet e dei Social Network, con una citazione nemmeno troppo lunga, ha fatto breccia in un pensiero che difficilmente ci sfiora: lo sappiamo, ma ce ne freghiamo. Sto parlando del lato oscuro dei Social Network.

Il 30 Luglio di quest’anno i vertici delle più grandi aziende Tech del mondo, Amazon, Google, Facebook, Apple sono stati chiamati a processo per rispondere alle accuse di “strapotere” e di “stra controllo”. Il fondatore di Facebook, Mark Zuckerberg, di Amazon, Jeff Bezos, l’AD di Apple, Time Cook e Sundar Pichai a capo del gruppo Google (Alphabet) hanno partecipato ad una “virtual-accusa” che a giudicare dall’impalcatura della situazione, dal contesto virtuale, dalle risposte fumose date dai big boss ai membri del Congresso, non possiamo dare completamente torto a quelli che ci hanno visto una farsa mediatica.

L’Antitrust ha accusato le Big Tech per aver fatto piazza pulita della concorrenza, per aver gestito dati e informazioni in modo poco trasparente, per aver attuato pratiche commerciali anti-concorrenziali che, negli anni, hanno reso questi colossi dei veri e propri monopoli con fatturati mai visti prima nella storia. A tal proposito, è recentissima la notizia di Jeff Bezos come primo uomo al mondo a sfondare il muro dei 200 miliardi di dollari di patrimonio personale — 202 per l’esattezza — , seguito ovviamente da Bill Gates (124 miliardi) e Zuckerberg (114 miliardi). In coda tutti gli altri.

Perché queste accuse? Me lo sono chiesta anche io all’inizio. Del resto, se ragioniamo in termini macchiavellici (come un pò ci ha insegnato a fare la società contemporanea, anche se non sempre fa piacere ammetterlo) per cui il fine giustifica i mezzi, è difficile capire perché questi colossi sono stati messi sotto la lente di ingrandimento della giustizia. Il loro caso è un vero e proprio dilemma filosofico che potrebbe aggiungersi al dilemma del prigioniero, a quello di Achille e la tartaruga, a quello di Russell, di Zenone.

La situazione è questa: Google, i Social Network, Amazon, e simili hanno rivoluzionato così tanto la nostra vita, che anche se sotto c’è qualcosa che non va, metterli alla gogna è un gioco che potrebbe non valere la candela. In sostanza ci hanno permesso di connetterci — potenzialmente — con chiunque, trasformare molte operazioni in semplici “click”, comodi, facili, veloci. Ci hanno aperto alla possibilità di ricercare, studiare, lavorare ovunque. Hanno ampliato l’intrattenimento e tutto, quasi tutto, “for free”. E’ il piacere di queste due ultime paroline, “for-free”, che ci attrae così tanto a fare un’ulteriore differenza.

Ma siamo sicuri che sia “for free”? Andrew Lewis ci dice che: se non stai pagando per il prodotto allora il prodotto sei tu. Ma tu ti sei mai sentito un prodotto? Siamo totalmente inconsapevoli pur sapendo. E se fosse vero? Se il prodotto fossimo noi? Saremmo ancora disposti a credere che il fine possa giustificare i mezzi? Cosa significherebbe trasformare un essere umano in carne ed ossa in un prodotto? Potremmo desiderare lo strumento così tanto da consentire tacitamente la nostra denaturalizzazione: meno libertà, poca capacità di autodeterminazione, una buona dose di manipolazione e tanta dipendenza. Con la scrittura, la stampa, la radio, la televisione non si poneva la questione, perché ora si? Perché la vita di un nativo digitale è un’esperienza così intrinsecamente diversa da quella di chi non è nato con lo Smartphone in mano?

Andrew mi ha fatto riflettere. Mi sono posta tutte queste domande. Voglio provare ad approfondire.

Una china scivolosa

Da studentessa mi sono innamorata delle scienze comportamentali. Le ricerche in quest’ambito ci insegnano come guidare le decisioni umane a partire da come funziona la nostra mente, il nostro cervello, il contesto in cui agiamo.

Così, nella mia tesi di laurea decisi di parlare di scienze comportamentali e neuroscienze applicate alla sfera pubblica. In sostanza, volevo dimostrare che, se usate a fin di bene, certe conoscenze, possono guidare comportamenti pubblici e collettivi virtuosi. Tuttavia, come ci insegna Hegel, ogni buona argomentazione deve essere sempre fatta da tesi, antitesi e sintesi; perciò, al punto dell’antitesi, ho dovuto fare anche io i conti con un’obiezione, forse la più consistente: l’obiezione della china scivolosa, cioè con il pericolo di scadere nella manipolazione, nella persuasione a supporto di obiettivi poco trasparenti ed eticamente “unfair”.

Quando mi trovai a ragionarci per la prima volta, pensavo al problema guardando perlopiù gli “usi impropri” di questi esiti sperimentali fatti da banche, governi, organizzazioni for profit, aziende… tra queste ultime pensavo anche ai grandi colossi dell’I-Tech ma, in tutta sincerità, immaginavo strategie di persuasione commerciali pressoché simili. Del resto, come tutti sanno che una banca può spingere i propri utenti a sottoscrivere un piano di accumolo pieno di costi e povero di benefici appellandosi a questa o quella emozione, a questa o quella situazione; analogamente, Amazon ti spinge a comprare un prodotto piuttosto che un altro; Facebook a mettere un like a una foto piuttosto che a un video, e così via. Sembrava, più o meno, la stessa storia.

Ora mi trovo a ragionare su una differenza che forse fa tutta la differenza. Nella sua non trasparenza — prendiamo il caso della banca — un potenziale investitore viene manipolato affinché aderisca ad un piano di investimento che genera più profitti per la banca stessa. L’istituto di credito, sfrutta i bias cognitivi dell’investitore per guidarlo nella scelta. La stessa cosa fa un ristorante quando ti propone tre menù in un fremowork tale da indurti a mangiare il piatto che è già pronto in cucina. La stessa cosa fa anche un’industria farmaceutica quando ti convince che senza prendere le vitamine tutti i giorni avrai dei problemi di concentrazione. Diverso è, invece, quando decidi di non votare o di credere che la terra è piatta, semplicemente perché qualcuno sceglie di farti vedere, ogni volta che sblocchi il telefono, un mondo in cui tutti i tuoi contatti non credono nel diritto di voto o pensano che le fotografie satellitari siano un complotto. Nel primo caso si tratta di una manipolazione superficiale volta a persuadere un comportamento specifico. Nel secondo caso si tratta di una manipolazione, lenta, costante, capillare, iterata nel tempo, così raffinata da essere profonda e indirizzata a modificare una serie di comportamenti, modelli di pensiero, convinzioni, credenze, addirittura valori. In entrambi i casi siamo di fronte ad un trucco di magia.

E’ il gioco di un’illusionista esperto che sa molto bene che il trucco funzionerà, ma, se nel primo caso puoi smascherarlo, nel secondo è quasi impossibile. Verrà il giorno in cui deciderai che le vitamine tutte le mattine non sono essenziali, che oggi il menù suggerito non ti va e preferisci chiedere un altro piatto, che quel piano di investimento non fa per te ed è meglio tenere i soldi sotto il materasso. In un certo senso, c’è lo spazio per disinnescare questa tipologia di trappole mentali/commerciali.

Quando si parla di Internet — nel senso ampio del termine — si entra in una competizione in cui, l’illusionista non è un mago che sfida un’altra persona, un cervello contro un cervello, ma è come se ci fossero 1000 illusionisti di alto calibro contro di te. Concorderai che accorgersi del trucco diventa davvero complicato. Siamo di fronte a modelli così elaborati, costruiti su un repertorio di dati così vasto, che anche se vedi il trucco, 1, 10, 100, 1000 volte non ti accorgi. Per dirla diversamente, la differenza è la tua consapevolezza, o meglio, inconsapevolezza. Shoshana Zuboff, docente emerita presso l’Harvard Business School, nel suo testo intitolato “The Age of Surveillance Capitalism”, ci dice proprio che la consapevolezza non ha partita, che la loro forza è essere il business della certezza. Per questo sono così ricchi, potenti. Per questo non hanno concorrenti. Il loro modello di business è diverso perché ogni imprenditore che si butta sul mercato sa perfettamente che dovrà convivere con l’incertezza, è la prima cosa che impara. Eppure, se psicologia, neuroscienze, tecnologia e networking si alleano ciò che è incerto può diventare prevedibile al 99,99%.

Tecnologie persuasive

Tristan Harris, è il Presidente e Co-fondatore del Center For Human Technology, in passato lavorò come designer etico per Google, dove si occupava di etica della persuasione umana. Come Tristan ci sono molti ex Manager di aziende I-Tech che ci invitano a ragionare sul lato oscuro dell’era digitale, con un’aria quasi pentita per le conseguenze che ciò che essi stessi hanno contribuito a creare stanno avendo nella società contemporanea.

“Tecnologie persuasive” , le chiama Tristan.

Non sono altro che l’applicazione delle scienze comportamentali, delle neuroscienze, degli studi sulla psicologia umana a strumenti tecnologici con lo scopo di costruire algoritmi sempre più complessi, dunque, vere e proprie intelligenze artificiali capaci di persuadere, manipolare, dirigere il comportamento umano per fini commerciali. Che tradotto significa: monetizzare.

L’imperativo di questo modello di business sono i dati: tanti, tantissimi. Quante volte sblocchi il telefono, quante volte fai scrolling di una pagina Instagram, quanti secondi ti fermi a guardare una foto su Facebook, su quali inserzioni pubblicitarie fai click, a che ora dormi, a che ora mangi, dove incontri i tuoi amici, il tuo fidanzato. Non gli sfugge niente. Ogni informazione viene processata e salvata in memoria, per alimentare algoritmi al punto che, tra qualche anno, è probabile che i sistemi che girano sul tuo telefono ti conoscano meglio di quanto tu possa conoscere te stesso.

Esseri Umani vs Esseri De-Umanizzati

Jaron Lanier, scrittore, filosofo americano, informatico esperto di Virtual Reality, ha scritto un libro intitolato: “Un argomento sul perché dovresti cancellare i Social ora!”. Esagerato! Diremmo noi. Sarebbe esagerato se Jaron non fosse uno dei 100 personaggi più influenti, secondo il New York Times, nell’ambito dell’informazione e della ricerca sull’impatto della rivoluzione tecnologica sull’umanesimo.

Ricordate Macchiavelli? Il fine giustifica i mezzi, ma dipende quale è il fine, dipende quale è il mezzo. Se il fine sono più soldi per alcuni e il mezzo sei tu. Non so quanto si possa continuare ad essere d’accordo.

Parlare di de-umanizzazione potrebbe sembrare esagerato ma non lo è se si analizza attentamente il rapporto tra: la definizione di persona e le attività “segrete” dei colossi tecnologici. Aristotele parlava dell’essere umano come di un essere che per natura, dalla nascita, è un animale razionale e politico, libero, sociale, capace di autodeterminarsi, titolare di diritti civili, di valori propri, di una psicologia propria. Le due parole chiave di questa definizione sono l’autodeterminazione e la libertà. A questa considerazione si aggiunge la recente scoperta fatta per cui non è vero che siamo razionali, ma il nostro cervello è una macchina con capacità limitate. A fronte di questi elementi, capiamo bene che giocare contro tante macchine iper-potenti è come scommettere 100€ sulla capacità di un elefante di spiccare il volo. Può darsi, ma la vedo dura! Per cui se c’è una manipolazione, una persuasione che ci batte sempre 100:0 possiamo salutare “libertà” e “autodeterminazione”. E’ questo il problema. E’ questa la differenza rispetto al passato.

Ricordi

Quando ero alle superiori, la mia classe, ha partecipato ad una delle prime sperimentazioni tecnologiche applicate alla didattica. Era il 2009 quando iniziammo il progetto “Sperimentazione iPad” che mirava a trasformare la didattica tradizionale in un modello di apprendimento sostanzialmente più all’avanguardia.

Ricordo molto bene i discorsi che si facevano: l’Ipad è uno strumento, dipende dall’uso che ne fai. Puoi giocare tutta la lezione. Puoi usarlo per approfondire tematiche utili a scrivere temi stratosferici. Così il dibattito tra i professori si giocava tra chi vedeva lo strumento come un problema e chi come un’opportunità. Nonostante le critiche dei primi, nel loro immaginario era salda l’idea che l’iPad fosse uno strumento, il cui valore sarebbe stato determinato dal grado di maturità dello studente che lo aveva in mano.

Come strumento, riponevano il loro essere positivi o negativi nei confronti dell’intera sperimentazione nelle nostre mani, di persone in carne ed ossa. Ero io persona pensante, libera, autodeterminata a decidere che uso farne. Il problema che si pone oggi con le applicazioni che girano sul nostro smartphone è che non sono strumenti perché uno strumento non ti chiede niente in cambio: se lo tieni in cartella non ti chiama, se lo lasci sul tavolo non sollecita la tua attenzione. L’elemento proattivo, quando si parla di strumenti, è sempre stata prerogativa dell’essere umano non dello strumento.

Oggi semplicemente le cose sono cambiate. Oggi ci chiedono di cedere un pò di libertà, un pò di autodeterminazione, un pò di pensiero critico per una bella dose di elettrizzante dopamina.

Così, è significativo sentire che, la stra grande maggioranza di noi, se dovesse scegliere tra “cellulare” e “portafogli” darebbe ad un ladro il secondo e non il primo, anche se con i soldi puoi ricomprarti il cellulare. A ragionarci bene, quando andavo a scuola, forse avevano più valore ed erano più preziosi gli appunti sudati che prendevo sul quaderno dell’iPad. Insomma, questo è per dire che funziona come con le droghe: in gioco c’è una dipendenza che ti intossica. Giocano su quello che, in psicologia, viene chiamato “rinforzo positivo” e come una slot machine, non sai mai che sorpresa di aspetta e quindi scrolli il feed e sblocchi il telefono continuamente. Non è un caso che nelle notifiche di Instagram o Facebook esca la scritta “Pierino ti ha taggato in una foto” senza che la foto sia visibile, non la vedi, così sei costretto ad aprire il feed. E’ irresistibile. E poi…? Poi trovi altre cose interessanti e trascorri altro tempo sulla piattaforma. Altro che slot machine! Qui giochi, provi piacere, ed è pure gratis!!!

L’obiettivo commerciale di questi sistemi è “vendere la tua attenzione” a chi ha pagato perché finisse lì al 100%. Al 100% perché i Social Network hanno trovato una combo perfetta tra psicologia, biologia e tecnologia, capace di farci provare una sensazione di piacere, approvazione sociale e appagamento relazionale ogni volta che li apriamo e questi sono, praticamente, i bisogni biologico-psicologici primari dell’essere umano.

Pericolo per uno. Pericolo per tutti.

Al di là di come funzionano, al di là della strategia di business di questi colossi c’è un’altra domanda che mi solletica: ma le conseguenze socio-politiche? Perché ci sembrano sempre così disconnesse?

Facebook è stata accusata più volte di aver preso parte alle vicende politiche di molti paesi. Le due situazioni che hanno fatto sicuramente più scalpore sono state il referendum per la Brexit e le presidenziali americane. Ma sono molto conosciuti anche i trial fatti in Sud America e le proteste aizzate nel Sud Est Asiatico. Quando era uscito lo scandalo si parlava di “scandalo” proprio perché non si sospettava una compartecipazione illegittima di un’azienda I-Tech con la volontà politica degli elettori. Eppure, pare proprio che questi colossi abbiano perfino il potere di manipolare le libertà politiche e mettere in discussione gli equilibri della società civile e gli esiti della politica.

Vi starete chiedendo come sia possibile che qualcuno creda a fake news come quella dei “terrapiattisti”. Vi starete chiedendo come sia possibile, dopo secoli di battaglie fatte per acquisire il diritto di voto, a pensare che sia meglio non votare. Beh, se il mondo che vedi è quello che vedi sui social e se sui social vedi solo persone che postano contenuti il cui messaggio è “votare è sbagliato e non serve a nulla”, finirai anche tu per credere che sia così. Nessun essere umano — ci insegnano le neuroscienze — vuole essere l’elemento fuori dal gregge. Le scienze comportamentali ci dicono che: chi si somiglia si piglia e non è affatto vero che gli opposti si attraggono, per cui niente oppositori nel tuo feed. Altrimenti c’è il rischio di una dissidenza indesiderata che potrebbe sviare i comportamenti dagli obiettivi commerciali concordati con i committenti. Gli algoritmi guidano il nostro comportamento sulla base di dove tira il mercato in termini economici. Gli algoritmi non sono mica oggettivi. Sono opinioni scritte in codice. Per cui, dietro a ciò che vedi sul feed di Instagram o Facebook o Twitter, alle informazioni che ci sono in primo piano quando cerchi qualcosa su Google, c’è la richiesta di un presidente che vuole essere votato, quella di un produttore che vuole vendere il suo prodotto e così via. E tutto ciò che la “tua maggioranza” ti mostra è che ha senso votare quel presidente, comprare quel prodotto.

Viviamo in un mondo in cui l’informazione è messa in discussione. Siamo partiti da Gutenberg che ha segnato l’inizio del percorso che ha condotto all’informazione di massa e arriviamo a Zuckerberg che (non so se più o meno volontariamente e coscienziosamente) per certi versi, ci sta guidando verso la disinformazione di massa. Più volte gli esperti hanno denunciato, nell’era digitale, una perdita dello statuto dell’informazione al punto che l’opinione di un medico pluri-titolato, di uno scienziato riconosciuto possono avere un’eco minore e valere meno dell’opinione postata da un influencer. Bizzarro.

Il punto è che: dove tutti possono dire tutto su tutto, nessuno crede più a niente e non c’è più nemmeno l’interesse a confrontarsi offline, a venirsi incontro, perché ognuno ha diritto alla propria versione dei fatti. Si sconfina in un relativismo assoluto e profondo che disconnette gli esseri umani, al posto che connetterli, che distrugge comunità al posto che crearle, che arriva a mettere in seria discussione i nostri valori e la democrazia. La democrazia è unità nel segno del pluralismo. Questo vuol dire che va bene avere posizioni, ragioni diverse ma dev’esserci un terreno comune di rispetto, reciprocità, cultura, valori condivisi e condivisibili. Se manca questo c’è il caos.

Illusioni e illusionisti

Credi di poter scegliere chi aggiungere tra gli amici, quale fotografia postare, quando fare scrolling sul feed, quale prodotto acquistare.

Gli uomini credono di essere liberi, ma sono solo liberi di crederlo.

Funziona così. Ricorderete tutti The Truman Show: Welcome!

Il vero punto su cui riflettere è che non è casuale. C’è una strategia di business dietro. Un’idea commerciale ragionatissima. Non è così per qualche strana legge fisica immutabile, è così perché vogliono che sia così. Per questo l’Antitrust obietta, per questo ex collaboratori risvegliati dal senso etico e di responsabilità sociale ne parlano, perché potrebbe essere diverso.

Quello sui Social Network, sul mondo di Internet, è un discorso assurdo perché è, contemporaneamente, utopia e distopia. E’ un dilemma gigantesco perché anche se prendessi una bilancia per giudicare il bene e il male, il giusto e l’ingiusto, probabilmente i piatti peserebbero uguale. Il discorso resterebbe aperto.

Viviamo in un mondo in cui un albero vale più da morto che da vivo, una balena vale più da morta che da viva…

… forse allora anche un essere umano vale più in coma sul divano a guardare il telefono. Appartenere a una generazione che ha vissuto a metà tra l’era del parco giochi e l’era dei social, secondo me, ci dà una responsabilità in più. Dobbiamo essere forse noi, i nativi-quasi-digitali, ad avere uno spirito più critico per ristabilire un rapporto equo tra colossi I-Tech ed esseri umani?

Insomma, mi piacerebbe continuare ad andare a questo straordinario spettacolo di magia, continuare a cascare al trucco del mago, però quanto meno sapere che sono a vedere uno spettacolo!