Sotto stretta sorveglianza

L’esperienza umana è ormai materia prima gratuita che viene trasformata in dati comportamentali… e poi venduta come ‘prodotti di previsione’ in un nuovo mercato quello dei ‘mercati comportamentali a termine’… dove operano imprese desiderose solo di conoscere il nostro comportamento futuro.
Shoshana Zuboff 

L’era che stiamo vivendo, caratterizzata da uno sviluppo senza precedenti della tecnologia, porta con sé una grave minaccia per la natura umana.

Un’architettura globale di sorveglianza, ubiqua e sempre all’erta, osserva e indirizza il nostro stesso comportamento per fare gli interessi di pochissimi, coloro i quali, dalla compravendita dei nostri dati personali e delle predizioni sui comportamenti futuri, traggono enormi ricchezze e un potere sconfinato.

È il ‘capitalismo della sorveglianza’, come qualcuno lo ha definito, lo scenario alla base del nuovo ordine economico che sfrutta l’esperienza umana sotto forma di dati come materia prima per pratiche commerciali segrete e il movimento di potere che impone il proprio dominio sulla società, sfidando la democrazia e mettendo a rischio la nostra stessa libertà.

In questo strano modello di capitalismo, i lavoratori svaniscono e i consumatori fanno tutto da sé: generano il valore e anche quel surplus che è estratto dalle aziende adattate a questo compito.

Il surplus è generato con la creazione di dati, tanti dati, troppi dati: un surplus appunto. Le aziende accusate di essere capitaliste della sorveglianza non sono mai valutate in relazione al prodotto che offrono – il motore di ricerca per Google, il social network per Facebook – o ai lavoratori che impiegano – programmatori, progettisti, creativi – tutto quello che importa è l’espropriazione dei dati.

Esso si nutre, dunque, dello sfruttamento non del solo lavoro umano, come nella visione di Marx, ma della complessiva esperienza umana. E con esso si impone una nuova forma di potere, sempre allo scopo di rimarcare la novità del presente, che viene chiamato strumentale, instrumentarian.

Questo potere permettere di conoscere il comportamento umano e di influenzarlo a vantaggio di altri. E la sua forza deriva non da armi o eserciti ma da un’architettura computazionale di dispositivi intelligenti, di cose, Internet of Things, e spazi tra loro connessi.

La rete digitale che regola il funzionamento delle nostre società è la formula ultima della tecnica che sorregge il potere oggi. Quando navighiamo, compriamo, guardiamo una serie TV, otteniamo quello che vogliamo, ma regaliamo molto di più: ci mettiamo a nudo, rendiamo i dettagli della nostra vita trasparenti per il Grande Altro digitale.

Ogni nostra e-mail, ogni nostra interazione, ogni nostra emozione è venduta, controllata, manipolata. Mai la società umana ha avuto una così grande concentrazione di ricchezza, conoscenza e potere in così poche mani.

Non ve ne siete accorti?

Pensateci, viviamo nel futuro che un tempo potevamo solo immaginare. Lo straordinario sviluppo tecnologico degli ultimi cinquanta anni ci ha consegnato un mondo sempre più veloce e interconnesso, nel quale i cambiamenti sono continui e dirompenti.

Il digitale ha cambiato per sempre le nostre vite: Internet, intelligenza artificiale e machine learning hanno consegnato al nostro tempo nuovi modi di lavorare, viaggiare, sperimentare e innovare, agire e pensare; l’imminente avvento del 5G offrirà possibilità di sviluppo straordinarie in settori decisivi quali lavoro, scuola e sanità.

Siamo di fronte a un vero e proprio salto evolutivo, una rivoluzione che non conosce confini geografici, politici o ideologici e che, per la prima volta nella storia dell’umanità, coinvolge l’intero pianeta.

Bisogna studiare le modalità con le quali i dati vengono acquisiti, online e offline, e sulle potenzialità, talvolta incredibili, di elaborarli per definire ‘tipi’ e comportamenti.

Naturalmente, l’ottenimento di queste informazioni rozze all’insaputa del consumatore è oggetto di critica e, a mio avviso, giustamente, la possibilità che talvolta ha il consumatore di non consentire l’accesso ai dati non sembra essere considerata una soluzione del problema.

Più in generale, si potrebbe dire, lo scambio tra gratuità dell’accesso alla rete e ‘appropriazione’ dei dati avviene con modalità che, in ogni caso, non garantiscono né una scelta consapevole, né la realizzazione dell’efficienza, visto che questa implica, secondo l’accezione comune, che vengano effettuati tutti e soltanto gli scambi che sono reciprocamente vantaggiosi.

Qui si può dubitare che sia sempre soddisfatta la condizione del reciproco vantaggio. Infatti, non sappiamo se per il consumatore il beneficio che deriva dall’accesso alla rete corrisponda al costo, latu sensu, della ‘cessione’ ad altri dei suoi dati.

In alcuni casi, ad esempio il conditioning, sembra sufficiente accedere a tecnologie in grado di bloccare determinati comportamenti senza necessità di avere un profilo completo dei consumatori.

In altri sembra che il problema sia quello di massimizzare la capacità persuasiva della pubblicità.

In altri ancora quello di manipolare i comportamenti anche modificando le preferenze e non solo le scelte.

Al riguardo sembrerebbe utile riflettere sul significato di termini come ‘persuasione’ e ‘manipolazione’, questo, però, è un altro discorso.

Tornando al nostro tema, possiamo affermare che, in questa economia, il soggetto non è un ‘oggetto’, né tanto meno una ‘foresta vergine’. Ciò che differenzia il nuovo potere da quello precedente è il fardello del soggetto: la volontaria oggettivazione dell’Io finalizzata alla brandizzazione della persona e alla sua messa in produzione.

Una strategia diversa dal desiderio di identificazione e conformità al comando di cui è stato accreditato il soggetto del totalitarismo.

L’esperienza storica del nuovo soggetto è connessa alle macchine digitali che lo sfruttano sul mercato, non solo e non tanto al comando politico dello Stato.

La ragione della crisi risiede nella libertà, non nel bisogno; nella volontà, non nell’obbligo; nella frustrazione, non nella coercizione. Queste osservazioni sono decisive per spiegare il liberalismo oggi.

È all’interno di questa tradizione che si è creata la gigantesca concentrazione di potere e ricchezza.

In quest’ottica entra a far parte del sistema anche Clearview AI: esso è il software che ha reso il riconoscimento facciale di massa non più solo un’ipotesi.

Clearview AI è usato dall’FBI, dall’esercito americano, dal governo ucraino. Ha ricevuto il primo brevetto per metodi di reperimento informazioni basati sul riconoscimento facciale. Infatti, si descrive come ‘la più grande rete facciale del mondo’ perché possiede oltre 20 miliardi di immagini di volti, provenienti da fonti web come social media, media, siti web, acquisite tramite web scraping.

La scomposizione del volto in vettori geometrici rende quindi possibile il clustering, una forma di apprendimento automatico, machine learning, non supervisionato, privo cioè di ‘etichette predefinite’ che necessitano di supervisione da parte degli esseri umani.

È l’algoritmo che ‘impara’ da solo allenandosi con grandi quantità di dati, in questo caso fotografie, a suddividerle in gruppi, cluster, con caratteristiche simili.

Clearview sta affrontando diverse cause legali negli Stati Uniti e il suo uso delle foto delle persone senza il loro consenso è stato dichiarato illegale in Canada, Francia, Australia, Gran Bretagna e Italia.

Facebook, Twitter e YouTube hanno chiesto all’azienda di smettere di prendere foto dai loro siti e di cancellare quelle che erano state precedentemente acquisite. Clearview non lo ha fatto finora.

I reclami presentati nei confronti della società statunitense e, dunque, l’esperibilità di rimedi a garanzia dei cittadini italiani, sono dimostrazione dell’efficienza funzionale di un sistema di tutela dei dati personali, quello presente all’interno dell’Unione europea, che ha l’obiettivo di contrastare la tendenza ad una concezione ‘recessiva’ del diritto alla privacy e a temperare il ‘monopolio epistemico’ e, dunque, l’asimmetria di conoscenza e di potere tra gli attori rilevanti nel processo di datafication.

Quella che è stata definita ‘pesca a strascico’ dei dati, biometrici, di milioni di persone si riconduce certamente al dispiegarsi di un ‘nuovo’ paradigma della ‘sorveglianza totale’ che riguarda anche soggetti minori.

Il diritto, del resto, come dimostra il ruolo dell’Autorità di controllo nella vicenda Clearview AI, offre un territorio nel quale rimane praticabile, se non la giustiziabilità, l’azionabilità di diritti, altrimenti del tutto disciolti nello sconfinato giacimento del ‘capitalismo estrattivo’.

Chiunque controlla i media, controlla le menti.
Jim Morrison