Armi di distruzione matematica

Weapons of Math Destruction” o nell’edizione italiana “Armi di distruzione matematica” é sul libro di Cathy O’Neil su gli effetti negative che i big-data e gli algoritmi di intelligenza artificiale possono avere effetti nefasti sulla vita di tutti i giorni. Cathy ci presenta differenti usi di big-data che hanno portato a risultati molto negativi. Per esempio ottimi insegnanti che sono stati licenziati a causa di un algoritmo che doveva valutare i risultati degli alunni, e che facilmente é stato raggirato. O ancora software per prevedere il crimine o la probabilitá di recidivitá di un carcerato mostrano notevoli disparità nel modo in cui vengono giudicati gli imputati per esempio in base al colore della pelle o del quartiere di provenienza. Programmi utilizzati da banche ed assicuratori per concedere mutui, prestiti, coperture sanitarie che alla fine mostrano pregiudizi (bias) comparabili a quelli degli umani, da cui hanno appreso. Il libro di Cathy é una raccolta di casi come questi che mette in guardia sull’uso incontrollato dei big-data nel prossimo futuro.