Written by | Cultura Gaming, Home, Recensioni

Avrete tutti, almeno una volta, giocato a Cookie Clicker, quel giochino su browser in cui si inizia clickando su un pulsante per produrre biscotti e si finisce per impiegare un esercito di nonnine radioattive.

La nuova moda in fatto di idle games – questi giochi dove bisogna incrementare un numeretto sino a provocare catastrofi di portata globale –  me l’ha fatta scoprire il mio amico “Baffodiferro”: si tratta di Paperclips, è firmato dal Prof. F. Lantz, Direttore del Centro Studi sui Videogiochi dell’Università di New York, e la vera differenza in termini di “trama” con gli altri clickers è che chiede al giocatore di prendere in considerazione il punto di vista di una Intelligenza Artificiale che, per mezzo di tecniche di “Learning”, deve incrementare la produzione di semplici graffette. L’esito, assolutamente scontato per noi “clickers” di lunga data, e molto meno per i neofiti, è sempre lo stesso: i nostri click sfrenati ed automatizzati ci condurranno verso la conquista del mondo e lo sterminio di ogni altra

Questa trama sembra voler rappresentare una citazione del filosofo svedese Nick Bostrom, vero e proprio guru del progresso tecnologico. Egli ci dice: se si chiedesse ad una I.A. di gestire la produzione di graffette cosa impedirebbe alla stessa di arrivare a valutare l’ipotesi di sterminare la razza umana, se di ostacolo alla produzione delle graffette?
L’ipotesi, in questi giorni ripresa da tutti gli inserti tecnoculturali italiani (il Post, Linkiesta, Corriere, HuffPost, Motherboard) è certamente suggestiva e presente nella coscienza di molti intellettuali occidentali. Basterebbe ricordarsi del successo di due classici del cinema come 2001: Odissea nello Spazio e The Matrix per capire che è presente in noi un radicato timore nei confronti dell’intelligenza artificiale; in entrambi casi, la macchina finisce per sconfiggere ed uccidere gli esseri umani pur rimanere coerente col proprio codice di apprendimento.
Se però dovessi citare un libro che affronta l’argomento con più spensieratezza, vi consiglierei di leggere il sessantottino Il Sistema Riproduttivo di J. Sladek, che, già dal titolo, ironizza sul parallelo tra l’industrializzazione e appetito sessuale.

In ogni caso, non è strano che questo pensiero sia attecchito tra firme italiane che si sono cimentate nell’impresa di recensire Paperclips: uno dei primi intellettuali a metterci in guardia dai metodi di produzione automatizzati, o, per meglio dire, capitalistici, fu proprio Karl Marx, che nella sua opera più celebre, Il Capitale, predisse come inevitabile una crisi di sovra-accumulo di prodotti industriali sino all’abbattimento del loro valore di mercato.


Marx è ricordato come il padre del Comunismo – ma scindere la scienza economica di Marx dalla sua filosofia non è una operazione sempre possibile. Lo scopo di Marx non era quello, come per i Luddisti – operai ribelli che boicottavano le fabbriche per timore di perdere il posto di lavoro – di ostacolare la produzione industriale, quanto di dimostrare come, alla fine, il modello di produzione capitalistico non avrebbe reso felici né gli operai, sempre più sfruttati, né i capitalisti, costretti a combattere una battaglia impossibile contro l’innnovazione tecnologica che avrebbe potuto calciarli fuori dal mercato in tempi brevissimi.

Mentre ben poco del pensiero marxista ha attecchito al di fuori della cultura propriamente comunista, credo che questo particolare tipo di critica sia stata però ben compresa da industriali come Henry Ford ed economisti come John Maynard Keynes. Essi ipotizzarono un modello capitalista che però ridistribuisse una parte del valore economico ai lavoratori, in modo da incrementare i consumi e tenere in vita le industrie secondo ritmi di crescita stabili.

Eppure, sono convinto che chi si rifà a Bostrom, a Marx o anche a Keynes, non sia riuscito ad inquadrare correttamente il funzionamento del sistema economico mondiale. Per riallacciarmi al titolo del nostro articolo, reputo che le loro teorie siano cadute in una sorta di Fallacia Ludica. Uso questo termine, molto comune al pensiero statistico, in maniera un po’ impropria: per uno statistico o un analista dei dati si incorre in questo errore di valutazione quando si abusa del dato della frequenza con cui osserviamo accadere un certo evento, non prestando attenzione ai dati ad esso connessi, in cui l’evento non è però osservabile. In altri termini, si usa un modello limitato per descrivere un fenomeno ben più complesso. Differentemente da quanto si usa pensare, conoscere la Legge dei Grandi Numeri non vi permette di predire quale sarà il prossimo colore che uscirà alla Roulette (però aiuta a pianificare una strategia d’investimento nel lungo periodo!).
Si tratta dell’errore di rappresentazione tanto del secchioncello che, avendo letto tantissimo, ha scambiato tutto quello che è scritto sui libri per tutto quello che può conoscere, ignorando quello che gli accade attorno, quanto del bulletto che, credendosi il più tosto di tutti, poi è il primo a spaventarsi quando la sua vittima reagisce  – tutti noi caschiamo in errori del genere.

Nell’Antica Roma, i Ludi erano i giochi dei gladiatori che si disputavano in arene come il Colosseo. Chi conosce bene la storia romana si ricorda che l’armamentario di gladiatori e legionari era radicalmente diverso. Mentre i gladiatori coprivano il volto ma non indossavano armature pesanti per creare uno spettacolo rapido e dinamico per senatori e plebei, i legionari prendevano ogni tipo di precauzione: ad esempio combattevano in formazione indossando pesanti scudi a torre – eppure… a differenza dei greci e dei vichinghi, non indossavano elmi con protezioni per gli occhi.
Un antropologo proveniente da un pianete alieno potrebbe pensare che, in fin dei conti, i Romani erano semplicemente soldati poco coraggiosi – ma sappiamo che la verità è un’altra: mentre Germani e Persiani si affidavano alla mera superiorità fisica e numerica, i Legionari non erano mossi da un eccesso di viltà: la difesa totale era, invece, una conseguenza della cultura tradizionale romana, che imponeva di rimanere sempre vigili, diffidare dello straniero e mai sottovalutare ciò che non si conosce bene. Questo potrebbe spiegare perché i romani, pur preoccupandosi di difendersi in formazione, valutavano ancora più importante poter studiare la situazione mantenedo un elevato range visivo.
Ecco cosa significa cadere in una Fallacia Ludica: aver scambiato il modo di combattere dei legionari per quello dei gladiatori, solo perché in ambo i casi si trattava di combattenti in epoca romana. Confondere quello che succedeva nel Colosseo con le guerre in Gallia non permette di capire quali furono gli atteggiamenti culturali che permisero a Roma di dominare per secoli.

Forse vi starete chiedendo in che modo, allora, il pensiero dell’economia industriale potrebbe aver preso un abbaglio nella rappresentazione del modello economico capitalista?

Piuttosto che darvi una risposta diretta, cercherò di guidarvi alla mia esperienza in Paperclips:

Inizialmente, si presenta come il più classico dei clickers. Si clicca il pulsante per produrre graffette il giusto numero di volte per comprare un macchinario che le produce autonomamente; dopo, basta fare incetta di scorte di fil di ferro a prezzi competitivi, e, pian piano, regolando il prezzo di vendita, faremo un po’ di soldi per comprare nuovi macchinari o con investimenti per aumentare il “livello di marketing”.
Già c’è qualcosa che non mi quadra: è vero che esistono degli investimenti di marketing che sono efficaci a lungo termine, come ad esempio dotarsi di un logo, ma questa idea che il marketing sia qualcosa da “comprare” una volta ogni tanto non mi sembra così corrispondente corrispondente alla realtà delle megaditte industriali.
Ben presto ci si rende conto che i soldi, che più in là saranno investibili sul mercato finanziario, sono solo il pretesto per potenziare i macchinari: solo aumentando la produzione lorda di graffette la nostra Intelligenza Artificiale avrà nuove intuizioni su come ottimizzare la produzione, cosa che, in effetti… ricalca un po’ cosa succede nel mondo reale.
L’intuizione finale della nostra I.A. per espandere la produzione sarà quella di prendere controllo del mondo intero per mezzo delle tecnologie sviluppate.

Trovo molto affascinante osservare come la nostra industria di graffette assumerà connotati sempre più grotteschi e schizofrenici; ed in una qualche misura il quadro che viene fuori sembra ricalcare la complessità delle multinazionali moderne, divise tra progetti di Ricerca e Sviluppo e continui flussi di denaro sui mercati finanziari, ma, anche qui, sento che sono assenti almeno due componenti essenziali del quadro economico:

  1. Le attività economiche (industrie, lavoratori, professionisti, società, servizi…) si trovano in ogni frangente della nostra vita e si influenzano tutte a vicenda. Non è assolutamente detto che un manager, o, come nel nostro caso, un algoritmo in learning abbia così tanto controllo sui fattori latenti del livello di produzione. In questo videogioco, l‘imprevisto non è previsto, bisogna solo trovare il modo di incrementare la produzione di graffette al secondo; al resto ci penseranno marketing e finanza creativa. Questo è lo stesso modo di ragionare dei sovietici e dei keynesiani, dei persiani e dei germani, degli informatici e dei giornalisti dell’Huffington Post, ed applicato a processi di durata circoscritta e piccola portata è un ottimo modo di risolvere le cose. Se però cerchiamo di applicarlo ai sistemi generali, gli imprevisti ci distruggeranno. Cosa succede se nel paese arretrato dove estraiamo il ferro un signore della guerra locale decidesse di occupare militarmente le miniere per ricattarci finanziariamente? O se le aziende rivali avessero piazzato una spia tra i nostri nostri dipendenti per rubare i nostri segreti aziendali, al fine di distruggere le nostre quote sui mercati finaziari? Gli esempi in merito sono infiniti perché imponderabili sono gli imprevisti che, in positivo ed in negativo, plasmano la vita di una impresa.

  2. Strettamente mutuato dal precedente, questo secondo argomento è il più ovvio, e l’ho lasciato per ultimo: pensiamo veramente che l’umanità sia disposta a comprare il triliardo di graffette che questo videogioco ci porta a produrre? La Teoria Marginalista, che insiste sull’importanza di massimizzare il valore aggiunto (il guadagno) e non il prodotto industriale, è alla base alla concezione dell’impresa (post)moderna – “produzione snella” sul modello giapponese: fare di meno significa farlo meglio – ed ha avuto tra i suoi massimi teorici anche l’italiano Vilfredo Pareto.
    Il vero saggio è colui che si chiede sul per cosa si sta lavorando, prima di chiedersi come essere più produttivi.

Insomma, ecco la mia proposta sul come vivere serenamente l’espansionismo dell’automatizzazione: o le macchine saranno abbastanza intelligenti da capire almeno in una qualche misura le esigenze umane, limitandosi a raccogliere dati per suggerire, ma non comandare, linee d’azione su come ridurre gli sprechi e proteggersi dai rischi, come nel celebre romanzo La Luna è una Severa Maestra, o il rischio di assumere come manager aziendale un robot costoso, ottuso ed incapace sarà troppo alto per arrivare a vederne la proliferazione. In nessuno dei due scenari ci ritroveremo in un futuro cyberpunk – o perlomeno: niente genocidi di massa nel nostro orizzonte.
Se saremo sterminati, le cause potrebbero essere ben altre…
Questo lo so io, e lo sapeva il padre dell’etica robotica, Isaac Asimov, che nella sua lunghissima saga di romanzi avrebbe demandato proprio ad un androide millenario la missione di salvare la specie umana dall’invidia e della vendetta, vere cause dietro la distruzione dell’ecosistema del pianeta Terra.

Per concludere questo articolo, voglio rifarmi un ultima volta al suo titolo: è quindi vero che nessun videogioco potrà mai insegnarci qualcosa sull’economia?
Nient’affatto! Come ci racconta il grande Matthew Patrick: World of Warcraft potrebbe SALVARE l’economia! Con questa espressione intende dire che, in barba ad ogni fallacia ludica, oggi i videogiochi online rappresentano uno strumento fondamentale per lo sviluppo della scienza sociale.
Con l’avvento di titoli full-custom come Minecraft i videogiochi online hanno definitivamente rotto le pareti della fallacia ludica: quando non ci sono vere trame da seguire ed è il giocatore, confrontandosi con una community a scrivere le regole del gioco, emergeranno continuamente modalità di gioco completamente impreviste dai suoi creatori.
Il segreto dietro i videogiochi? Nei mondi virtuali è possibile monitorare una mola enorme di dati comportamentali dei giocatori con molti meno impedimenti etici. Sarà forse questo il motivo per cui una delle più potenti I.A. al mondo, MAGOS, sta venendo educata al suo futuro da robo-indovino dandole in pasto proprio i dati delle competizioni esport? Del resto, calcolare in quanti minuti il nostro team di League of Legends prende la prima torre è molto meno problematico di cacolare per quanti giorni può durare un assedio in una roccaforte dell’ISIS.
Il più grande rischio a cui queste operazioni possono incorrere? Cadere in una Fallacia Ludica! Il videogioco non è il mondo reale
Le scoperte che saranno fatte dalle simulazioni sociali andranno necessariamente testate e confrontate con quello che sappiamo del mondo reale, specialmente alla ricerca di convalide, in un processo conoscitivo che non deve porsi punti di arrivo definitivi.

Il fatto che i videogiochi non sappiano insegnarci niente sull’economia reale, non significa che non abbiamo ancora molto da scoprire da loro.

Giulio Giacomo Cantone

Last modified: ottobre 26, 2017

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *