El món necessita governar la IA

Fa uns 66 anys, 22 prominents científics de deu països, entre els quals els Estats Units i la Unió Soviètica, es van reunir a Pugwash (Nova Escòcia) per identificar els perills que significaven les armes nuclears i idear maneres pacífiques de resoldre els conflictes entre països. Amb això va néixer l'organització internacional coneguda com les Conferències Pugwash sobre Afers Científics i Mundials, o Moviment Pugwash. Si bé avui el planeta està lluny d'haver eliminat les armes nuclears, la influència del Moviment per avançar en el desarmament va ser prou potent per merèixer el premi Nobel de la pau del 1995.

Avui el món necessita un nou Moviment Pugwash, aquest cop centrat en la intel·ligència artificial. A diferència de les armes nuclears, la IA és tant una promesa com una amenaça, i la seva capacitat destructiva encara és més teòrica que real. Tot i així, ambdues tecnologies suposen riscos existencials per a la humanitat. Per tant, els líders científics i tecnològics, els experts en filosofia i ètica i els humanistes i filantrops de cada continent s'haurien de reunir i arribar a un acord ampli sobre les normes per governar la IA que conciti suports en els plans local, nacional i global.

A diferència del Moviment Pugwash original, la versió per a la IA no hauria de concebre un marc des de zero. Ja hi ha moltes iniciatives per orientar i guiar el desenvolupament i les aplicacions d'IA. Alguns exemples són el Projecte de Declaració de Drets sobre Intel·ligència Artificial als Estats Units, les Directrius Ètiques per a una IA fiable a la Unió Europea, els Principis de l'OCDE sobre IA i la Recomanació sobre l'Ètica de la Intel·ligència Artificial de la Unesco. El nou Moviment Pugwash, doncs, s'hauria de centrar en gran part a connectar entre si els actors rellevants, alinear les mesures necessàries i assegurar-se que aquestes es posin en pràctica amb la màxima amplitud possible. Les institucions seran vitals en aquest sentit. Però quin tipus d'institucions es necessiten, i quines es poden crear o empoderar de manera realista per abordar ràpidament el desafiament de la IA?

António Guterres, secretari general de les Nacions Unides, ha cridat a un “multilateralisme interconnectat” en què l'ONU, “les institucions financeres internacionals, les organitzacions regionals, els blocs de comerç i altres actors –incloses diverses organitzacions no governamentals– treballin conjuntament de manera més estreta i eficaç". Però, per ser eficaces, aquestes xarxes haurien d'estar dissenyades per exercir funcions específiques. Un estudi publicat el mes passat per un grup d'acadèmics i experts líders en IA d'universitats i empreses tecnològiques identifica quatre d'aquestes funcions: propagar els beneficis tecnològics, harmonitzar les normes, assegurar-se que el desenvolupament i l'ús siguin segurs i gestionar-ne els riscos geopolítics.

És comprensible que “assegurar-se que el desenvolupament i l'ús de la IA siguin segurs” sigui, per a molts, la primera prioritat. Hi ha en camí iniciatives per desenvolupar una institució que identifiqui i monitoregi els danys actuals i potencials de les aplicacions de la IA, de manera molt semblant a com el Panel Intergovernamental sobre el Canvi Climàtic vigila el risc existencial del canvi climàtic. De fet, l'Observatori Global de la IA, proposat recentment per la Iniciativa d'Intel·ligència Artificial i Igualtat, tindria com a model explícit l'IPCC, és a dir, una xarxa de xarxes que funciona molt bé per acumular coneixements procedents de moltes fonts diferents.

Les xarxes acumulatives –com la Viquipèdia– es caracteritzen per tenir un node d'autoritat central que recopila informació i anàlisi de molts tipus diferents d'institucions, algunes de les quals ja estan interconnectades. Però un centre així no pot adoptar mesures ràpides basades en la informació que aplega. Per governar la IA encara cal una institució multilateral jeràrquica que tingui el poder d'adoptar i posar en pràctica les decisions que prengui, com una mena de Consell de Seguretat de l'ONU que funcioni.

Pel que fa a "propagar els beneficis tecnològics" (que la majoria considera que és tan important com prevenir danys), és probable que el millor sigui una xarxa mixta d'innovació-col·laboració. Les xarxes d'innovació solen posseir molts nodes apartats entre si per assegurar-se d'accedir a la quantitat més gran possible de noves idees i pràctiques, i una quantitat limitada de nodes centralitzats que transformin idees en accions, col·laborin al voltant de les millors pràctiques i previnguin l'explotació. Haurien d'estar centrats en regions específiques o potser estar vinculats amb Objectius de Desenvolupament Sostenible de l'ONU específics.

Per "harmonitzar la normativa" –cosa que inclou experimentar amb diferents tipus de regulació– caldrà una estructura més àmplia, més flexible i amb el màxim de capacitat d'inclusió. Les tecnologies de la IA són senzillament massa àmplies i veloces perquè una o diverses autoritats normatives centralitzades tingui cap possibilitat de canalitzar-les i guiar-les per si mateixa. En lloc d'això, proposem una xarxa multimode àmpliament distribuïda que suporti el que anomenem una “cogovernança digital”.

El nostre model es basa en el sistema d'arquitectura distribuïda i cogovernança al qual se li reconeix el mèrit de mantenir l'estabilitat i la resiliència d'internet. Ja fa dècades, investigadors tecnològics, amb el suport del govern nord-americà i empreses d'internet primerenques, van crear diverses institucions en una constel·lació poc estructurada, cadascuna amb responsabilitats funcionals pròpies. La Internet Society promou una internet oberta i globalment connectada. El World Wide Web Consortium desenvolupa normes per a la web. L'Internet Governance Forum aplega les diverses parts interessades per parlar de polítiques rellevants. I l'Internet Corporation for Assigned Names and Numbers (ICANN) coordina i salvaguarda els identificadors únics d'internet.

La clau de l'èxit d'aquestes institucions és que operen a través de xarxes autoregulades peer-to-peer (d'igual a igual) que reuneixen una àmplia gamma d'actors per dissenyar en conjunt normes, regles i pautes d'implementació. Per exemple, l'ICANN compta amb desenes de xarxes autoorganitzades que s'ocupen del Sistema de Noms de Dominis –crucial perquè els usuaris naveguin a internet– i coordina altres xarxes autoregulades, com les cinc institucions regionals que administren l'assignació d'adreces IP al món.

Aquestes institucions poden gestionar un ampli ventall de mesures, de les tècniques a les polítiques. Quan Rússia va envair Ucraïna el 2022, les autoritats ucraïneses van pressionar l'ICANN perquè eliminés .ru del directori del Sistema de Noms de Dominis, conegut com la zona arrel i gestionat per 12 institucions de quatre països, coordinades però no controlades per l'ICANN. Finalment, l'Autoritat d'Assignació de Números d'Internet va declinar la petició.

En una conferència com la de Pugwash sobre la IA no hi faltarien propostes ni participants governamentals, acadèmics, corporatius i cívics. Els participants originals de Pugwash responien a la crida de gegants intel·lectuals com el filòsof Bertrand Russell i el físic Albert Einstein. Qui farà el pas, avui?

És coautor d'aquest article Fadi Chehadé, expresident de l'ICANN (2012-16) i actual membre del Panel d'Alt Nivell del secretari general de l'ONU sobre Cooperació Digital

Copyright Project Syndicate