Destacat »

31 octubre 2018 – 20:00

Inscriu-te i vine a la Lul·liana 2018!
Com cada any, el Col·legi Oficial d’Enginyeria en Informàtica de Catalunya (COEINF) celebra la Lul·liana en un acte commemoratiu del seu patró, Ramon Llull. Enguany, tindrà lloc el dia …

Read the full story »
Col·legi

el Col·legi, informació rellevant sobre el COEINF, activitats, relacions i varis

Formació

formació continuada i orientació professional, convenis de formació amb altres entitats

Esdeveniments

tots els esdeveniments rellevants del sector TIC

Informes

informes, estudis, enquestes, … relacionats amb les tecnologies de la informació

Professió

món laboral, emprenedors, enginyers en informàtica, entrevistes, certificacions, deontologia, carreres professionals, …

Home » Opinió

Cathy O’Neil: “Els algoritmes augmenten les desigualtats socials”

Submitted by on 8 novembre 2018 – 9:00No Comment
Share Button

Cathy O’Neil, doctora en Matemàtiques per la Universitat de Harvard, alerta que els sistemes de big data, basats en models matemàtics, es construeixen des dels prejudicis humans.

La matemàtica Cathy O’Neil ha donat la veu d’alarma sobre com els algoritmes poden empitjorar la vida de les persones. O’Neil, doctora en Matemàtiques per la Universitat de Harvard i postdoctorada en el departament de Matemàtiques del MIT, va treballar com a analista quantitativa per a un destacat fons de cobertura enmig de la crisi creditícia.

“La crisi financera va deixar ben clar que les matemàtiques no només estaven profundament involucrades en els problemes del món, sinó que a més agreujaven molts d’ells. La crisi immobiliària, la ruïna de grans entitats financeres, l’augment de la desocupació: tot això havia estat impulsat i induït per matemàtiques que brandaven fórmules màgiques”, explica.

Lluny del solucionisme tecnològic, que pregona que els models matemàtics condueixen a societats més igualitàries perquè jutgen amb les mateixes regles qualsevol assumpte, O’Neil alerta que, en realitat, passa tot el contrari.

En el llibre Armes de destrucció matemàtica. Com el big data augmenta la desigualtat i amenaça la democràcia (Capità Swing, 2016), O’Neil assenyala que els algoritmes, incontestables, secrets i discriminatoris, donen forma al nostre futur com a individus i com a societat. Serveixen per qualificar a professors i estudiants, concedir (o negar) préstecs, ordenar currículums, avaluar als treballadors, dirigir als votants, determinar horaris comercials i fins i tot fixar condemnes judicials.

O’Neil visita per primera vegada Barcelona per participar com a conferenciant principal del festival The influencers, celebrat al CCCB el passat cap de setmana. Parlem amb ella per reflexionar sobre els perills del big data, els biaixos dels algoritmes i l’impacte dels models predictius.

Per què afirma que els algoritmes són armes de destrucció matemàtica?

Els algoritmes sobre els quals va alertar són models matemàtics que compleixen tres requisits. En primer lloc, són models incontestables. Els atorguem el poder màgic de solucionar de manera justa qualsevol problema que tenim, des de trobar la persona adequada per a un lloc de treball fins a ordenar la informació que rebem a través de les xarxes socials. Segon, són secrets. Desconeixem sobre quines regles han estat construïts i sovint no som conscients que ens estem sotmetent al seu judici. La transparència importa, però en aquests casos sempre hi ha un “secret industrial” que impedeix conèixer l’origen i l’existència d’aquests algoritmes. Tercer, són models injustos. Sota aquest secretisme dels algoritmes solen operar contra els interessos de les persones.

Llegiu la entrevista a LA VANGUARDIA (clica aquí)

Etiquetes:

Aquesta web utilitza 'cookies' pròpies i de tercers per oferir-te una millor experiència i servei. Al navegar o utilitzar els nostres serveis, acceptes l'ús que fem de les 'cookies'. De tota manera, pots canviar la configuració de 'cookies' en qualsevol moment ACEPTAR
Aviso de cookies
Check Our FeedVisit Us On LinkedinVisit Us On TwitterVisit Us On Facebook