Un equip d’investigadors ha creat una eina que modifica les fotografies per evitar que siguin processades per sistemes d’aprenentatge automàtic.
l segle XXI, l’anonimat no és cosa fàcil. No amb les nostres vides retratades en les nostres xarxes socials, i no amb empreses com la nord-americana Clearview recopilant milers de milions de fotos de ciutadans de tot el món per desenvolupar i oferir serveis de reconeixement facial. “El que fan empreses com aquesta és garbellar tones d’imatges de les xarxes socials i crear una enorme base de dades amb moltes fotos per a cada persona. La del teu perfil de LinkedIn, la de Facebook … “, explica Micah Goldblum, investigador especialitzat en aprenentatge automàtic de la Universitat de Maryland. Per evitar que les nostres fotos acabin en aquestes populoses galeries, tenim dues opcions: no pujar-les a internet o deixar-les irreconeixibles.
LowKey aposta per la segona opció. Aquesta eina modifica les imatges amb el doble objectiu que les persones retratades en elles segueixin sent identificables per a l’ull humà, però resultin indesxifrables per als sistemes de reconeixement facial. Un cop processades en aquesta plataforma, la precisió amb què s’identifiquen aquestes imatges cau per sota de l’1%. L’aplicació és el resultat un equip d’investigadors de què formen part Golblum juntament amb Valeria Cherepanova, Tom Goldstein, Shiyuan Duan, John Dickerson, Gavin Taylor i Harrison Foley.
La tecnologia de LowKey empra els atacs anomenats adversarials, que es caracteritzen per buscar la manera d’enganyar els sistemes d’aprenentatge automàtic. En recerca, aquests sistemes se solen emprar per establir una mena de joc de l’gat i el ratolí en el qual els avenços d’un model impulsen les millores de l’altre, però resulten d’escassa utilitat pràctica per a un ciutadà qualsevol. “Molt del que s’ha fet en aquest camp se centra en problemes que només són interessants per als investigadors”, assenyala Goldblum. En contrast, LowKey ja està a l’abast de qualsevol en un web que permet pujar les imatges originals, ajustar la intensitat de l’atac i descarregar la seva versió enverinada.
Notícia original completa a Retina – El País