Scarica Riassunto NUOVA ERA OSCURA- James Bridle e più Sintesi del corso in PDF di Sistemi Digitali solo su Docsity! Capitolo 1 : Crepa la comprensione delle nuove tecnologie non si può limitare a come funzionano, da un punto di vista meramente pra6co: dobbiamo capire COME sono venute al mondo e in che MODO con6nuano a funzionare , abbiamo bisogno di un'alfabe6zzazione della tecnologia, che implica una conoscenza profonda non solo del linguaggio ma anche del metalinguaggio (ovvero il linguaggio che il sistema usa per parlare con se stesso). Un pericolo di una conoscenza puramente pra6ca è cadere nel PENSIERO COMPUTAZIONALE nonché l'estensione del soluzionismo: credere che qualunque problema possa essere risolto grazie al mero calcolo. Nel mondo di oggi questo pensiero è alla base delle nostre interazioni, è per questo che bisogna opporgli un'auten6ca alfabe6zzazione sistemica che renderà aQva la cri6ca, renderà ques6 sistemi comprensibili non solo ai pochi. Ma in questa nuova era oscura è fondamentale la capacità di pensare senza pretendere di comprendere tuRo perchè è impossibile. Negli anni 50 fece la sua comparsa un nuovo simbolo che descriveva i sistemi crea6 dagli ingegneri: UNA NUVOLA (Il cloud). A qualunque cosa stesse lavorando l'ingegnere poteva collegarsi a quella nuvola. Col tempo mentre le re6 crescevano sempre più, il cloud divenne sempre più importante , oggi è qualcosa di cui ci serviamo in con6nuazione senza MAI capire però di cosa si traQ realmente. La definizione cloud non è esaRa perche si traRa di un'infrastruRura fisica composta di linee telefoniche , fibre oQche , satelli6, cavi sul fondo dell'oceano e giganteschi magazzini che consumano quan6tà enormi di energia. La qualità dis6n6va della rete è la sua mancanza di uno scopo chiaro e univoco, unisce sistemi con altri sistemi, culture con altre culture e si è trasformata in qualcosa che nessuno aveva previsto ma il nostro errore sta nel faRo di credere che le azioni della rete siano innate e inevitabili, ma in realtà noi i creatori di queste azioni. Si è sempre pensato sin dall'an6chità che maggiore conoscenza, maggiori informazioni inducano a scelte migliori e correRe , adesso abbiamo a disposizione miliardi di informazioni ma ma ancora dobbiamo imparare a “pensare” → nasce l'idea di una NUOVA ERA OSCURA per descrivere la realtà di oggi ( incapacità di vedere con chiarezza ciò che disponiamo) ma offre anche l’opportunità prendere coscienza dell'oscurità vedere le cose soRo un'altra luce. Il libro vuole far luce su come gli effeQ della tecnologia siano diffusi nel globo e come ques6 elemen6 abbiano un effeRo catastrofico, e sono il risultato della nostra incapacità di comprendere gli esi6 delle nostre stesse invenzioni, ma non è tuRo perduto , basta riconoscere la condizione aRuale in cui ci troviamo, non fare finta di nulla. Capitolo 2 : Computazione Nel 1884 il cri6co d'arte e commentatore sociale John Ruskin avanzò una sua teoria secondo il quale il cielo conteneva un nuovo 6po di nuvola da lui baRezzata “La nube tempestosa” e la qualità della luce quando entrava in contaRo con la nube : la luce crea ciò che vediamo , e ciò che vediamo plasma ciò che pensiamo e come lo pensiamo. Nel 1880 Alexander Graham Bell creò il fotofono , che rese possibile la prima trasmissione “wireless” della voce umana grazie alla sola luce. Nel 1916 Il matema6co Lewis Fry Richardson eseguì il primo calcolo delle condizioni atmosferiche, ciò che mancava era la tecnologia capace di essere abbastanza veloce nel calcolo. Dopo la guerra iniziò a lavorare per il Metereological Office con l'intenzione di proseguire le sue ricerche ma nel 1920 finì soRo il controllo del ministero dell'aeronau6ca. La seconda guerra mondiale determinò un potente flusso di fondi nella ricerca. MEMEX è un apparecchio in cui si può archiviare da6 ed essere consultato con velocità: è una scrivania con vari schermi, poi una tas6era, boRoni e leve. È come se fosse il più vecchio antenato del computer. L'ENIAC inizialmente aveva scopi militari, Neumann era profondamente turbato dalle possibilità eleRroniche e nucleari, e spingeva per l'u6lizzo delle risorse a scopo meteorologico successivamente fu nreseRato e nel 50 fu possibile creare la prima previsione meteo automa6zzata su 24 H che riguardavano solo gli USA. Non è ben chiaro però il momento in cui la computazione e la fiducia in essa, siano riuscite a negarsi al nostro sguardo, infaQ l'ENIAC restava una macchina leggibile e decifrabile perche all’epoca le persone erano loro il motore del tuRo. Nel 48 la IMB costruì il SSEC (selec6ve sequence eletronic calculator) come rivale dell'ENIAC , ma in realtà erano entrambi eredi del “Marck I” usato anch'esso per il progeRo manhaRan. La prima impresa del Ssec fu quella di calcolare la posizione di luna stelle e piane6 per le spedizioni della Nasa , ma dopo poco venne usata per un progeRo segreto chiamato HIPPO (bomba idrogeno) . Ma il vero sogno di Richardson di portare la computazione a velocità superiore a quella del tempo si realizzò nel 51 con il primo computer capace di farlo : il Whirlwind I → era nato come simulatore di volo, ma sostanzialmente era un sistema di previsioni meteo. Questo calcolatore a sua volta geRò le basi per il SAGE, che forse era conosciuto però più per i suoi fallimen6, e gli errori che commeReva. (Il SAGE si trasformò in SABRE ovvero una corporazione per le prenotazioni aeree favorendo il turismo e consumi di massa). Noi infaQ siamo cresciu6 credendo che i computer rendano il mondo più ed efficiente, ma se fosse tuRo falso → in realtà ci hanno portato una crescente opacità e una spiccata concentrazione di potere. Comunque non è tuRo nero, un'offerta u6le di internet può essere quella dei si6 aper6 a chiunque per visualizzare le roRe aeree in tempo reale ; ma anche questa visione di “occhi di Dio” è illusoria visto che le aQvità private e segrete non sono visibili. Ma nel 83 in seguito all'abbaQmento di un aereo di linea coreano finito nello spazio russo, Ronald Reagan ordinò che il GPS (Global Posi6oning System) fosse reso disponibile a tuQ i civili. Con il tempo il GPS riuscito a interceRare molte applicazioni contemporanee diventando uno dei tan6 elemen6 invisibili che modulano la nostra vita. CODICE/SPAZIO: I rappor6 codice/spazio descrivono l'intreccio fra computazione+spazio fisico+esperienza quo6diana. Es l’aeroporto, sempre più aQvità quo6diane dipendono dal loro sowware, il lavoro è sempre più dipendente dai codici informa6ci, e i nostri rappor6 sociali vengono media6 dalla conneQvità e dagli aggiornamen6 algoritmici: Il mondo intero e la cultura si stanno trasformando in un codice/spazio e ciò ci mostra il nostro fallimento nel comprendere l'impaRo della computazione. Il problema di questa binomio fra uomo e computazione è che può creare enormi disuguaglianze nella distribuzione del potere → il sowware è incapace di dis6nguere il proprio modello del mondo da quello reale, ma una volta condiziona6, lo stesso vale per noi. Fenomeno noto come “Bias di automazione”: pregiudizio che ci spinge a considerare le informazioni automa6zzate come più affidabili delle nostre esperienze, le persone soRo pressione tendono ad abbassare la loro energia cogni6va invece che aumentarla, e cercano di schivare la decisione affidandosi alla macchina scaricando sulla macchina sia la decisione che la responsabilità. Invece il “Bias di conferma” addiriRura riplasma la nostra idea del mondo per allinearla all'informazione automa6zzata fino a farci scartare del tuRo il resto delle considerazioni. Ciò può rappresentare una minaccia per le nostre vite : es morte da GPS Capitolo 3 : Clima I pingo siberiani come il permafrost, si stanno sciogliendo. I pingo esplosivi sono sta6 causa6 dall'innalzamento delle temperature globali, sempre per questo mo6vo però lo scioglimento dei ghiacci ha reso più facilmente disponibili le risorse di petrolio e gas che da sempre erano inaccessibili. abbiamo creato strumen6 sempre più complessi in grado di fare sempre più cose ma non abbiamo ancora capito come ci riescono. CONNESSIONISMO: convinzione che imitando i percorsi del cervello si potesse indurre le macchine a pensare ma in realtà per operare ragionamen6 sensa6 è necessaria una conoscenza del mondo. Il compito della scienza è creare una rete neurale che non abbia le debolezze degli individui. Nel 2011 è stato svelato il progeRo interno Google Brain, una rete neurale in grado di riconoscere i vol6 senza conoscenza pregressa. Nel 2016 a Shanghai venne creato un sistema automa6zzato per dedurre la criminosità di un individuo basandosi sui vol6. In seguito alla pubblicazione dell'ar6colo si scatenò un pu6ferio di cri6che gli ideatori però Wu e Zhang risposero che il loro lavoro era pura discussione accademica. L'apprendimento automa6co si può u6lizzare per rinforzare i bias umani nei problemi di computazione sociale, ma non sempre la tecnologia riesce a ricoprire tuQ i ruoli che gli vengono da6 e funzioni che dovrebbe essere un aiuto, diventano un ostacolo , perche la macchina non ha la conoscenza e rivelano disuguaglianze sistemiche. Il problema è che non si possono risolvere i problemi del futuro usando il passato, ma noi disponiamo solo di quei da6, dunque non ci resta che istruire le nostre IA con la conoscenza passata, purtroppo ricca di razzismi e pregiudizi. Google nel 2016 modernizza il suo sistema di traduzione , inizialmente questo sistema anzi che tentare di capire il funzionamento reale di una lingua, assorbe dei corpi testuali di traduzioni già esisten6, tes6 uguali ma in lingue diverse, dal quale copia le informazioni per la traduzione. Ma nel 2016 il sistema translate cominciò a usare una rete neurale sviluppata da Google Brain : in questa nuova architeRura le parole vengono codificate, la rete costruisce un proprio modello del mondo. Gli ingegneri hanno creato il sowware unendo milioni di mosse dei giocatori in modo tale da creare nuove strategie. Anche se è l'uomo che l ha creato, per noi rimane comunque illeggibile il modo in cui meRe scopre e crea le mosse, un intelligenza ar6ficiale può fare cose che l'uomo non potrà mai fare in un modo incomprensibile. “ Scacchi avanza6” → un giocatore umano e un computer giocano insieme contro un'altra coppia di umano e computer. Questa combinazione si è rivelata la più efficiente , perche con il gioco di squadra possiamo comprendere a livello più profondo il modo in cui le macchine prendono le loro decisioni. DeepDream è stato un progeRo ideato da Alexander Moridvintsev per illuminare il funzionamento interno delle re6 neurali → per riconoscere un oggeRo la rete veniva nutrita con milioni di immagini e6cheRate, ma con DeepDream il progeRo è inverso : inviando un'immagine e aQvando i neuroni istrui6 , il programma chiedeva loro non cosa fosse l'immagine, ma cosa la rete volesse vederci Nel 2016 una coppia di ricercatori di Google Brain decise di scoprire se le re6 neurali fossero in grado di mantenere un segreto → alles6rono 3 re6 chiamate Alice-Bob-Eve. Alice e Bob conoscevano un numero ignoto ad Eve; Alice svolgeva una serie di operazioni che Eve e Bob dovevano decodificare, con vari cicli di prova, alice e bob riuscirono a creare una forma nuova di comunicazione, in modo tale che Eve non riuscisse a decifrare i messaggi. Creano un nuovo modello di criRaggio, ma non sappiamo come. Capitolo 7 : Complicità Nel Marzo del 1968 , il soRomarino sovie6co K-129 scomparve nel Pacifico, la rete di stazioni di ascolto soRomarine registrò di un evento implosivo fu così inviato sul luogo un soRomarino americano che si imbaRé nel reliRo del K-129. La CIA costruì una nave per per recuperare segretamente il reliRo il quale si spezzò nel mezzo dell’operazione. In seguito alla diffusione di no6zie iniziarono a rispondere ai quesi6 con “non possiamo né confermare né negare le informazioni richieste” che diventò una risposta automa6ca e simbolo della nebulosità della rete. Non ci è più possibile conoscere la storia e il mondo in cui viviamo. I droni crea6 dalla CIA hanno rivoluzionato le guerre contemporanee diffondendo la paranoia e la segretezza dei servizi di intelligence L’ARCHIVIO MIGRATO è un archivio segreto di documen6 dell'era coloniale sulle terribili azioni da parte degli inglesi. Le re6 contemporanee rendono più difficile nascondere i pecca6 sia del passato che del presente, ma rendono anche più facile il controllo. Nel 2013, in seguito alle rivelazioni di Edward Snowden i giornali iniziarono a pubblicare le aQvità di spionaggio della NSA e del GCHQ , non molto tempo fa si scoprì che le agenzie di intelligence si spinsero ancora più in profondità nel sistema raccogliendo i da6 grezzi direRamente dai cavi che trasportano informazioni in giro per il mondo. La sorveglianza di massa globale si fonda sulla segretezza poli6ca e sull'opacità tecnologica, grazie cioè alla diffusione della computazione fra le pare6 di ogni casa. Ma la realtà era che un numero così grande di da6 andava a sommergere gli analis6 rendendo impossibile risalire a da6 rilevan6 per affrontare minacce specifiche → troppe informazioni confondono e occultano. La sorveglianza di massa non è u6le alla prevenzione di aRacchi probabilmente elemen6 come le telecamere di sorveglianza possono rendersi u6le solo quando il crimine è già stato commesso. Le aQvità dei servizi di intelligence potevano essere desunte gia tempo fa grazie ai vari resocon6 pubblica6 nel corso dei decenni , ma come tante altre atrocità , esse vengono ignorate finchè non si conquista un certo 6po di veridicità documentaria. Il consenso generale viene ignorato anche di fronte al più infinitesimale briciola di incertezza ma affidarci alle logiche computazionali della sorveglianza per trarne delle verità sul mondo ci lascia in una posizione essenzialmente precaria e paradossale. La logica computazionale ci depriva della capacità di pensare il problema e quindi di agire subito in modo razionale , consente di agire solo quando si sono raccolte prove a sufficienza. Un esempio di ciò è l'episodio di James O'Reilly in Canada → installa un sistema di sicurezza Canary in casa sua , quando nel 2016 scoppiò un incendio boschivo e fu ordinato a tuQ di lasciare le abitazioni, il sistema di sicurezza durante l'incendio avver6va con delle no6fiche qualcosa di errato e invio al cell di James lo streaming video che poi si spegne fra le fiamme. Questo fa comprendere che anche la grandezza della computazione non può fare nulla di fronte a certe cose, ma questo senso di impotenza che ne deriva anzi che imporci una pausa per riconsiderare e rimodellare il mondo come lo conosciamo, sembra condurci ad aumentare la paranoia e aumentare la sorveglianza , anche se abbiamo la prova che essa è impotente. Capitolo 8: ComploRo La mancata comprensione di un mondo tanto complesso porta al bisogno di quan6tà sempre maggiori di informazioni che a loro volta non fanno che annebbiare la nostra comprensione rilevando ulteriori complessità Molte ricerche web sugli aerei che interceRano le chiamate sui cellulari parlano dell'impiego di aeroplani per controllare l'atmosfera aRraverso degli spray. Guardiamo tuQ allo stesso modo il cielo eppure vediamo cose diverse; dove alcuni vedono operazioni occulte di deportazione e aerei per la sorveglianza segreta , altri vedono un comploRo globale per controllare l’atmosfera. È da quando l’aeronau6ca americane disse di voler riuscire a modificare il clima per vantaggi dell’esercito che si parla di scie chimiche. Nel corso degli anni si è diffusa la convinzione che i veicoli stessero spruzzando sostanze chimiche nell’atmosfera, per alcuni è un modo per allentare o accelerare il riscaldamento globale, per altri servano a far ammalare le persone in modo che le industrie farmaceu6che possano trarne profiRo. Da mol6 pun6 di vista però le teorie del comploRo svolgono una funzione vitale e necessaria in quanto portano alla luce argomen6 che altrimen6 sarebbero ignora6. Gli scienzia6 cercano a tuQ i cos6 di scindere le normali scie di condensazione dalle scie chimiche dei comploQs6. Da molto tempo gli sceQci del clima sostengono che i vulcani producano più anidride carbonica di quanta ne derivi dalle aQvità umane ma non è così. Gli aQ di violenza umana hanno lasciato molte più tracce sul clima → la “Piccola era glaciale” che giunse al picco nell'anno senza estate del 1816 →La riduzione degli africani in schiavi fece si che milioni di eRari di terra rimasero incol6 quando furono trasferi6 nelle americhe. La ricrescita delle foreste sommata alla riduzione della combus6one del legname determinò una riduzione della concentrazione di anidride carbonica. È questo che dovrebbe probabilmente segnare l'inizio dell'Antropocene (L'epoca geologica aRuale, in cui l’ambiente terrestre viene fortemente condizionato su scala sia locale sia globale dagli effeQ dell’azione umana). L'11 seRembre non l'evento in sé , quanto ha annunciato l'arrivo di una nuova era della paranoia, ben esemplificata dalle teorie del comploRo, l’ALTRISMO: individuazione di un nemico invisibile con un enorme potere che per mol6 aspeQ è una proiezione del sé. Secondo Fredric Jameson invece l'individuo ricorre a narrazioni sempre più semplicis6che per recuperare il controllo della situazione. Man mano che il mondo accelerato della tecnologia diventa sempre più complesso, il comploRo diventa sempre più bizzarro, contorto e violento così da riuscire a contenerlo; la stessa rete ci da accesso alla conoscenza, ci avvolge e divide la nostra prospeQva in un milione di pun6 che ci disorientano. La rete ha modificato il modo in cui definiamo e plasmiamo le culture: persone in ambien6 lontani fra loro ora possono riunirsi online in si6 dove trovano una comunità che gli da manforte e li 6ene nelle loro convinzioni. Ques6 gruppi sembrano essere un traRo caraReris6co della nuova era oscura , perche meRono in luce il faRo che la nostra capacità di descrivere il mondo è il fruRo degli strumen6 che abbiamo a disposizione. Osserviamo tuQ il solito mondo ma vediamo cose diverse ma chiunque cerchi online un sostegno sulle sue idee, lo troverà sicuramente meglio ancora, si troverà inondato da un flusso di conferme. Capitolo 9 : Concorrenza I contenu6 des6na6 ai più piccoli agli adul6 risultano bizzarri e insensa6 per i bambini piccoli creavano invece un mondo sereno e rassicurante Ques6 contenu6 sono diventa6 una costante di internet perché più piccoli sono i bambini, meno importa del contenuto del video, la ripe6zione di tuRo unita ai colori sgargian6 sembra ipno6zzarli e con semplici video è possibile oRenere maggiori visualizzazioni e quindi un maggiore guadagno. Gli algoritmi per i video correla6 e consiglia6 di youtube funzionano interceRando ciò che piace agli uten6 e i bambini generano profili di consigli molto rapidamente. I produRori hanno inventato infinite di taQche per aQrare l'aRenzione sui proprio video. Una di queste è “l'insalata di parole”. È un'accozzaglia di parole chiave che indica il vero pubblico di queste descrizioni: gli algoritmi che decidono chi guarderà quali video e quali finirannò tra i consiglia6. Poi esiste anche il metodo di copiare e piratare il contenuto altrui infaRu su youtube è semplice riuscire ad associare contenu6 strani e inappropria6 ad altre fon6, più conosciute. Un gruppo australiano dedito all'intraRenimento per bambini che pubblica video professionali con aRori in carne ed ossa; ciononostante per creare ques6 video seguono le stesse disumane logiche degli algoritmi per i video consiglia6: anche se sei un essere umano finisci per interpretare una macchina. Negli ul6mi anni si è creato anche il mondo di Youtube poop : remix innocui di video per bambini ma volutamente offensivi che talvolta però si trasformano in video terrifican6