VeriPol, el polígraf ‘intel·ligent’ de la policia, posat en qüestió per experts en ètica dels algoritmes
El sistema d’intel·ligència artificial amb el qual detectar denúncies falses, està desplegat en totes les comissaries espanyoles des 2018.
L’ètica s’obre a poc a poc espai entre la tecnologia. Un vent nou que qüestiona el mantra que la tècnica no té errors, que és gairebé incontrovertible. Per si mateixa no disposa de bondat o maldat. Però el seu ús, confecció i aprenentatge, sempre dependents de l’ésser humà, guarden estreta relació amb aquests atributs morals. I a aquesta revisió s’ha sotmès un sistema d’intel·ligència artificial com VeriPol, un algoritme dissenyat per detectar denúncies falses i desplegat en totes les comissaries espanyoles des de fa poc més de dos anys.
Presentat com únic al món, analitza i detecta les combinacions de paraules més comuns quan es menteix a un policia. Entre les paraules que predominen en les denúncies falses estan els “estirades” des de “darrere” o per la “esquena”, de la “motxilla” o “bossa”, efectuats per un agressor amb “casc” o vestit de “negre”. Les descripcions no se centren normalment en els fets, sinó en els objectes sostrets i el seu valor. D’acord amb les dades recollides per la seva impulsor, l’inspector Miguel Camacho, el sistema compta amb un 91% d’encert. Com tota intel·ligència artificial, el seu entrenament requereix dades. En aquest cas, provenen de l’anàlisi de 1.122 denúncies de 2015 -534 veritables i 588 falses-.
Aquí comencen els dubtes ètics. Tot i que la policia no ha volgut contestar a cap pregunta, la informació recollida per posar en marxa VeriPol desatén la diversitat social d’Espanya, segons alguns experts en privacitat. La majoria de dades procedeixen d’Andalusia, segons els experts consultats, i per això, com argumenta Ricardo Baeza-Yates, director de Ciència de Dades a la Northeastern University i catedràtic d’Informàtica de la Universitat Pompeu Fabra, la cobertura de tot l’espai mostral de el llenguatge no està reflectida en el sistema. “El problema no és ja la quantitat, que un miler no és molt, sinó la varietat de vocables empleats a Espanya. Per a mi és un error extrapolar l’ús de l’llenguatge a Andalusia a altres autonomies com Galícia i País Basc. Per no esmentar els immigrants, que ni estan inclosos “.
Notícia original completa a El País
