L’autoritat de l’inescrutable: entrevista amb Cathy O’Neil

Ex-analista en el sector financer i autora del llibre Armas de destrucción matemática. Els algoritmes es dissenyen “a mida, en funció dels motius, valors i ideologies dels seus creadors” (o més aviat dels qui paguen als creadors). Per exemple:

La idea de fer servir algoritmes per classificar la gent com a “no assegurable” és més aviat digna d’una distopia de ciència-ficció barroera, però és el mecanisme bàsic que fa servir la indústria de les assegurances avui en dia.

Però la indústria de les assegurances ja procurava triar bé els clients abans que s’inventaren els ordinadors. Com qualsevol altra indústria en un sistema capitalista, busca augmentar els beneficis, no ajudar la gent. Els ordinadors, la capacitat de processar grans quantitats de dades, fan més eficient la tria. L’arrel de la distopia, per tant, rau en el sistema, no en el fet d’utilitzar algoritmes. La utopia també necessitarà algoritmes.