Destacat »

25 octubre 2017 – 12:00

Certifica’t amb l’AQPE amb un 20% de descompte + un 10% si ets member abans del 31 de desembre!

Read the full story »
Col·legi

el Col·legi, informació rellevant sobre el COEINF, activitats, relacions i varis

Formació

formació continuada i orientació professional, convenis de formació amb altres entitats

Esdeveniments

tots els esdeveniments rellevants del sector TIC

Informes

informes, estudis, enquestes, … relacionats amb les tecnologies de la informació

Professió

món laboral, emprenedors, enginyers en informàtica, entrevistes, certificacions, deontologia, carreres professionals, …

Home » Notícies

Experts en IA de tot el món insten a prohibir els robots assassins

Submitted by on 23 novembre 2017 – 9:00No Comment
Share Button

L’ONU celebra les seves primeres converses oficials sobre les armes autònomes.

Les campanyes impulsades per investigadors en intel·ligència artificial (IA) de tot el món per promoure la prohibició -o almenys la regulació- de les armes autònomes o robots assassins han collit el seu primer èxit.

Dilluns passat les Nacions Unides va obrir a Ginebra les seves primeres converses oficials per a un tractat sobre l’ús d’armes autònomes i durant tota la setmana passada experts dels països membres i representants d’organitzacions internacionals, del món acadèmic, la indústria i la societat civil van debatre sobre les dimensions tecnològiques, militars, ètiques i legals d’aquestes màquines letals.

En paral·lel, l’investigador en IA Stuart Rusell, afavorit per l’organització que promou la campanya Stop Killer Robots (parar els robots assassins), va presentar un curtmetratge – Slaughterbots- que descriu un futur inquietant en què les armes autònomes letals s’han tornat barates i omnipresents i seleccionen i disparen contra objectius humans sense la intervenció de cap persona. Els seus autors expliquen que el vídeo és ficció “però representa un escenari que podria tornar-se massa real si no actuem aviat”.

És un avís reiterada per científics i líders empresarials que treballen amb IA

És un avís reiterada per científics i líders empresarials que treballen amb IA. La setmana passada 122 dels principals investigadors en robòtica i IA d’Austràlia van demanar per carta al primer ministre del país, Malcolm Turnbull, que es pronunciï en contra de les armes autònomes letals i exigeixi la seva prohibició en la cimera anual sobre control de determinat armament que l’ONU celebra aquesta setmana. Simultàniament, un altre centenar d’experts de Canadà feia el mateix amb el primer ministre canadenc, Justin Trudeau.

I totes dues cartes seguien l’estela de la signada el passat mes d’agost per 137 especialistes o fundadors d’empreses d’IA sobre la necessitat de regular des de ja el desenvolupament d’armes capaços de matar sense control humà.

“El tema de les armes autònomes i de la necessitat d’enfocar la IA a aplicacions socialment bones va ser objecte de debat en diversos panells durant la conferència més important del sector, celebrada a Melbourne (Austràlia) aquest estiu, i d’aquí va sorgir la iniciativa de enviar una carta a l’ONU alertant del perill potencial de les armes letals autònomes “, explica el director de l’Institut d’Investigació en Intel·ligència Artificial (IIIA-CSIC), Ramón López de Mántaras, que va rubricar la carta al costat d’empresaris com Elon Musk (Tesla ), Mustafa Suleyman (cofundador de DeepMind, adquirida per Google), Demis Hassabis (directora executiva de Google) o Gary Marcus (Geometric Intelligence), entre d’altres.

López de Mántaras assegura que l’oposició als robots soldat ia les armes autònomes és majoritària entre els científics que treballen amb IA, però no unànime. Experts com Ronald Arkin, de l’Institut de Tecnologia de Geòrgia (Atlanta), defensen que els robots soldat, els tancs no tripulats i els avions autònoms permetran salvar moltes vides, de soldats i també de civils, perquè respondran a les accions del camp de batalla més ràpid i amb més precisió.

López de Mántaras opina el contrari: “Si hi ha alguna cosa que ara frena els conflictes és la pressió dels familiars i de l’opinió pública contra la mort de soldats, així que si no moren soldats no hi haurà aquestes protestes i proliferaran els conflictes; serà més probable que certs països entrin en guerra i els que moriran seran els civils”. Afegeix que també hi ha consideracions morals i ètiques per no automatitzar les guerres: “És indigne delegar en una màquina la capacitat de matar”. I sosté que hi ha raons tècniques per assegurar que els sistemes d’intel·ligència artificial no seran capaços de respectar els principis bàsics de tot conflicte armat: proporcionalitat en l’ús de la força, discriminació entre civils, corda-sants, ferits o rendits, i reducció al màxim dels danys col·laterals.

MAYTE RIUS – LA VANGUARDIA

 

 

Etiquetes: ,

Aquesta web utilitza 'cookies' pròpies i de tercers per oferir-te una millor experiència i servei. Al navegar o utilitzar els nostres serveis, acceptes l'ús que fem de les 'cookies'. De tota manera, pots canviar la configuració de 'cookies' en qualsevol moment ACEPTAR
Aviso de cookies
Check Our FeedVisit Us On LinkedinVisit Us On TwitterVisit Us On Facebook