Potere agli algoritmi

The Guardian ha pubblicato un estratto di Weapons of Math Destruction, libro della data scientist – o analista di dati – Cathy O’Neil.

Dai risultati che ci mostrano i motori di ricerca e i social network alla determinazione del costo dell’assicurazione, dal primo controllo dei curriculum inviati in risposta ad un’offerta di lavoro alla valutazione della professionalità degli insegnanti, gli algoritmi governano sempre di più la nostra vita.

L’autrice li paragona agli dei, il cui lavoro è imperscrutabile ed invisibile a tutti tranne che ai vescovi-scienziati che li dominano, e ne individua il punto critico:

La loro popolarità si fonda sull’idea che essi sono oggettivi, ma gli algoritmi che muovono la data economy sono basati su scelte fatte da esseri umani fallibili. E, anche se sono mossi da buone intenzioni, gli algoritmi codificano i pregiudizi umani, i fraintendimenti e i preconcetti in sistemi automatici che gestiscono sempre più le nostre vite. […] I loro verdetti, anche quando sono sbagliati o lesivi, sono al di là di ogni giudizio o appello. E tendono a punire il povero e l’oppresso, mentre fanno più ricco il ricco.

Annunci

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione / Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione / Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione / Modifica )

Google+ photo

Stai commentando usando il tuo account Google+. Chiudi sessione / Modifica )

Connessione a %s...