IL REGISTRO EGOISTICO DI GOOGLE È UNA VISIONE INQUIETANTE DELL’INGEGNERIA SOCIALE DI SILICON VALLEY
Questo video interno del 2016 mostra un concetto di Google su come la raccolta totale dei dati potrebbe rimodellare la società
Google ha costruito un’attività multimiliardaria per sapere tutto sui suoi utenti. Ora, un video prodotto su Google e ottenuto da The Verge offre uno sguardo sorprendentemente ambizioso e inquietante su come alcuni della società immaginano di utilizzare tali informazioni in futuro.
Il video è stato realizzato alla fine del 2016 da Nick Foster, capo del design di X ( ex Google X ) e co-fondatore del Near Future Laboratory . Il video, condiviso internamente a Google, immagina un futuro di raccolta totale dei dati, in cui Google aiuta a spingere gli utenti ad allineare i loro obiettivi, stampa personalizzati dispositivi personalizzati per raccogliere più dati e guida persino il comportamento di intere popolazioni per risolvere problemi globali come povertà e malattie.
Una volta raggiunto il commento sul video, un portavoce di X ha fornito la seguente dichiarazione a The Verge :
“Capiamo se questo è inquietante: è progettato per essere. Questo è un esperimento di pensiero del team di progettazione di anni fa che utilizza una tecnica nota come “progettazione speculativa” per esplorare idee e concetti scomodi per provocare discussioni e dibattiti. Non è correlato a prodotti attuali o futuri. ”
Tutti i dati raccolti dai tuoi dispositivi, il cosiddetto libro mastro, sono presentati come un fascio di informazioni che possono essere trasmesse ad altri utenti per il miglioramento della società.
Intitolato The Selfish Ledger , il film di 9 minuti inizia con una storia dell’epigenetica lamarckiana, che si occupa principalmente della trasmissione dei tratti acquisiti durante la vita di un organismo. Narrando il video, Foster riconosce che la teoria potrebbe essere stata screditata quando si parla di genetica, ma afferma che fornisce una metafora utile per i dati degli utenti. (Il titolo è un omaggio al libro di Richard Dawkins, The Selfish Gene.) Il modo in cui usiamo i nostri telefoni crea “una rappresentazione in continua evoluzione di ciò che siamo”, che Foster definisce un “libro mastro”, postulando che questi profili di dati potrebbero essere costruito, utilizzato per modificare i comportamenti e trasferito da un utente a un altro:
“I principi di progettazione centrati sull’utente hanno dominato il mondo dell’informatica per molti decenni, ma cosa accadrebbe se guardassimo le cose in modo leggermente diverso? Cosa accadrebbe se il libro mastro potesse ricevere una volontà o uno scopo piuttosto che agire semplicemente come riferimento storico? E se ci concentrassimo sulla creazione di un libro mastro più ricco introducendo più fonti di informazione? E se pensassimo a noi stessi non come proprietari di queste informazioni, ma come custodi, trasportatori transitori o custodi? ”
Il cosiddetto libro mastro del nostro dispositivo utilizza – i dati sulle nostre “azioni, decisioni, preferenze, movimento e relazioni” – è qualcosa che potrebbe essere trasmesso ad altri utenti così come l’informazione genetica viene trasmessa attraverso le generazioni, Foster dice.
Risoluzioni di Google, il concetto di un’impostazione a livello di sistema che consente agli utenti di scegliere un obiettivo ampio e quindi indirizzare le loro azioni quotidiane verso di esso.
Basandosi sull’idea del libro mastro, la sezione centrale del video presenta un sistema concettuale Risoluzioni di Google, in cui Google invita gli utenti a selezionare un obiettivo di vita e quindi a guidarlo verso di esso in ogni interazione che hanno con il proprio telefono. Gli esempi, che “rispecchiano i valori di Google come un’organizzazione”, includono l’invito a provare un’opzione più rispettosa dell’ambiente quando si tratta di chiamare un Uber o si consiglia di acquistare prodotti coltivati localmente da Safeway.
Un esempio di una risoluzione di Google che si sovrappone in cima all’app dello shopping di un negozio di alimentari, suggerendo una scelta che si allinea con l’obiettivo espresso dell’utente.
Naturalmente, il concetto si basa su Google che ha accesso a una grande quantità di dati e decisioni dell’utente. Le preoccupazioni sulla privacy o le potenziali esternalità negative non sono mai menzionate nel video. La richiesta del mastro per sempre più dati potrebbe essere l’aspetto più snervante della presentazione.
Foster immagina un futuro in cui “la nozione di un libro mastro guidato dall’obiettivo diventa più appetibile” e “i suggerimenti possono essere convertiti non dall’utente ma dal libro mastro stesso”. È qui che i sottotitoli del Black Mirror vengono alla ribalta, con il libro mastro cercare attivamente di colmare le lacune nelle proprie conoscenze e persino di selezionare i prodotti di raccolta dei dati per acquistare quelli che ritiene possano piacere all’utente. L’esempio riportato nel video è una bilancia da bagno perché il libro mastro non sa ancora quanto pesa l’utente. Il video poi prende una ulteriore svolta verso la fantascienza che induce all’ansia, immaginando che il libro mastro possa diventare così astuto da proporre e stampare in 3D i propri progetti. Bentornato a casa, Dave, ti ho costruito una scala .
Un nodo di elaborazione del cloud concettuale che analizza le informazioni dell’utente e determina l’assenza di un punto dati pertinente; in questo caso, il peso dell’utente.
La visione di Foster del libro mastro va oltre uno strumento per l’auto-miglioramento. Il sistema sarebbe in grado di “colmare le lacune nelle sue conoscenze e perfezionare il suo modello di comportamento umano” – non solo il tuo particolare comportamento o il mio, ma quello dell’intera specie umana. “Pensando ai dati degli utenti come multigenerazionali”, spiega Foster, “è possibile per gli utenti emergenti trarre beneficio dai comportamenti e dalle decisioni della precedente generazione.” Foster immagina di estrarre il database del comportamento umano per i pattern, “sequenziarlo” come il genoma umano e facendo “previsioni sempre più accurate su decisioni e comportamenti futuri”.
“Mentre i cicli di raccolta e confronto si estendono”, conclude Foster, “potrebbe essere possibile sviluppare una comprensione a livello di specie di problemi complessi come la depressione, la salute e la povertà”.
Un principio centrale del libro mastro è l’accumulo di quanti più dati possibili, con la speranza che a un certo punto produrrà approfondimenti sui principali problemi globali.
Certo, il lavoro di Foster è quello di dirigere il design a X, la “fabbrica del vetro” di Google con obiettivi intrinsecamente futuristici, e il concetto di libro mastro confina con la fantascienza – ma si allinea quasi perfettamente con gli atteggiamenti espressi nei prodotti esistenti di Google. Google Photos presume già di sapere cosa considererai i momenti salienti della vita, proponendo interi album sulla base delle sue interpretazioni AI. Google Maps e l’Assistente Google creano suggerimenti in base alle informazioni che hanno sulla tua abituale posizione e abitudini. La tendenza con tutti questi servizi è stata verso una maggiore curiosità e assertività da parte di Google. Anche le composizioni e-mail vengono automatizzate in Gmail .
In un momento in cui l’etica della nuova tecnologia e dell’intelligenza artificiale stanno entrando nel discorso pubblico più ampio, Google continua ad essere colto di sorpresa dalle potenziali implicazioni etiche e dai lati negativi dei suoi prodotti, come si è visto ultimamente con la dimostrazione dell’IA su chiamata vocale Duplex al I / O . La protesta sul potenziale di Duplex di ingannare ha spinto Google ad aggiungere la promessa che la sua intelligenza artificiale si autoidentificherà sempre come tale quando chiamerà ignari lavoratori del servizio .
The Selfish Ledger posiziona Google come il solutore dei problemi più intrattabili del mondo, alimentato da un livello angosciosamente intimo di informazioni personali da parte di ogni utente e una facilità nel guidare il comportamento di intere popolazioni. Non c’è nulla che possa suggerire che si tratti di qualcosa di più di un esercizio mentale all’interno di Google, avviato da un influente dirigente. Ma fornisce una visione illuminante dei tipi di conversazioni in corso all’interno dell’azienda che è già il collezionista di dati personali più prolifico al mondo.
Da The Verge