Vigilància: els somnis distòpics de la xina
A la Xina ja hi ha més de 200 milions de càmeres al carrer i el govern fa propaganda de l’absolut control sobre la població que té gràcies a la intel·ligència artificial
![Vídeo que mostra el programari de reconeixement facial en ús a la seu de l’empresa d’intel·ligència artificial Megvii, a Pequín, ciutat que es gasta milers de milions de dòlars en el reconeixement facial per rastrejar la gent.](https://static1.ara.cat/clip/b2f06607-ae9b-4b57-b27b-207b35f2a48a_16-9-aspect-ratio_default_0.jpg)
A la ciutat xinesa de Zhengzhou, un policia amb ulleres de reconeixement facial va enxampar un contrabandista d’heroïna en una estació ferroviària. A Qingdao, una ciutat cèlebre pel seu patrimoni colonial alemany, unes càmeres que funcionaven amb intel·ligència artificial van ajudar la policia a capturar dues dotzenes de delinqüents sospitosos en un gran festival de la cervesa que s’hi celebra cada any. A Wuhu, un sospitós d’assassinat que s’havia fugat va ser identificat per una càmera quan comprava menjar a un venedor ambulant.
Amb milions de càmeres i milers de milions de línies de codi, la Xina està construint un futur autoritari basat en l’alta tecnologia. Pequín ha adoptat tecnologies com el reconeixement facial i la intel·ligència artificial per identificar i controlar els moviments de 1.400 milions de persones. Vol muntar un immens sistema de vigilància sense precedents, amb la decisiva ajuda de la seva pròspera indústria tecnològica.
“En el passat tot funcionava a partir de l’instint”, diu Shan Jun, subcap de policia a l’estació de Zhengzhou, on van enxampar el contrabandista d’heroïna. “Si et passava per alt alguna cosa, et passava per alt i punt”.
La Xina està desmuntant una opinió molt estesa sobre la tecnologia, segons la qual és la gran democratitzadora que ha donat més llibertat a la gent i l’ha connectat amb el món. A la Xina ha derivat en més control.
A les estacions ferroviàries d’algunes ciutats hi han instal·lat càmeres per trobar els delinqüents més buscats del país. Pantalles de la mida d’una tanca publicitària mostren les cares de vianants imprudents i llistes de gent que no paga els deutes. Els escàners de reconeixement facial vigilen l’entrada als conjunts residencials. Es calcula que a la Xina ja hi ha 200 milions de càmeres de vigilància, quatre vegades més que als Estats Units.
Aquestes iniciatives complementen altres sistemes per controlar l’ús d’internet i les comunicacions, les pernoctacions hoteleres, els viatges amb tren i avió i, fins i tot en alguns llocs, els desplaçaments amb cotxe. Tot i així, les capacitats xineses no estan a l’altura de les seves ambicions. La tecnologia que funciona en una estació de tren potser no s’ha instal·lat en una altra ciutat, ni tan sols al bloc de pisos del costat. La ineficàcia burocràtica impedeix la creació d’una xarxa nacional.
És possible que no representi cap problema per al Partit Comunista. Lluny d’ocultar aquestes iniciatives, les autoritats xineses exageren sovint la seva capacitat. A la Xina, que es noti la vigilància ja pot servir per tenir la població sota control. En alguns llocs s’ha avançat més que en d’altres. A l’oest del país s’ha creat un software de vigilància en massa molt invasiu per controlar els membres de la minoria musulmana uigur i fer mapes de les seves relacions amb amics i familiars, segons una informació a què ha tingut accés The New York Times. “Pot arribar a ser un mitjà del tot nou per gestionar l’economia i la societat”, diu Martin Chorzempa, membre del Peterson Institute for International Economics. “L’objectiu és la governança algorítmica”.
L’estratègia de la vergonya
La cruïlla al sud del pont de Changhong, a la ciutat de Xiangyang, era un malson. Els cotxes corrien massa i els vianants imprudents creuaven corrents el carrer per qualsevol lloc. Però l’estiu passat la policia hi va instal·lar càmeres amb tecnologia de reconeixement facial i una gran pantalla a l’aire lliure. S’hi mostren fotos dels infractors al costat del seu nom i el número de document d’identitat. Al començament a la gent li feia molta gràcia això de veure la seva cara a la pantalla, comenta la portaveu Guan Yue, fins que els mitjans propagandístics els van informar que era un càstig: “Si el sistema et captura, potser tu no te n’adonaràs, però els teus veïns o companys sí que ho veuran i hi faran safareig. A la gent això li fa massa vergonya”.
A la Xina, la nova vigilància es basa en una vella idea: només una autoritat forta pot mantenir l’ordre en un país turbulent. Mao Zedong va portar aquesta filosofia fins a extrems devastadors: el seu règim autoritari va provocar fam i després va instaurar la Revolució Cultural.
Els seus successors també anhelaven l’ordre però temien les conseqüències d’un règim totalitari. Per això van arribar a un nou pacte amb el poble xinès: a canvi de la impotència política, els deixarien en pau i així es podrien fer rics.
I ha funcionat. La censura i el poder policial van mantenir el seu poder, però els xinesos van obtenir més llibertat. Aquesta nova actitud va obrir pas a dècades de vertiginós creixement econòmic.
L’economia xinesa ja no creix al mateix ritme. Hi ha una gran desigualtat. Després de quatre dècades de sous substanciosos i de viure millor, la població té unes expectatives més altes.
Xi Jinping, el màxim dirigent xinès, ha maniobrat per consolidar el seu poder. Gràcies als canvis de les lleis xineses podrà governar més que cap altre líder després de Mao. I ha adoptat severes mesures contra la corrupció que potser li valdran molts enemics. Per aconseguir el que vol, ha recorregut a les idees de l’època de Mao sobre la importància del culte a la personalitat i el paper del Partit Comunista en la vida quotidiana. La tecnologia li dona ara els mitjans per fer-ho possible.
“La reforma i l’obertura ja han fracassat però ningú s’atreveix a dir-ho”, afirma l’historiador xinès Zhang Lifan, referint-se a la política aplicada durant les quatre dècades posteriors a Mao. “El sistema actual ha creat greus fractures socials i econòmiques. I ara els governants fan servir els diners dels mateixos contribuents per controlar-los”.
Xi ha posat en marxa els mecanismes per potenciar al màxim l’estat vigilant. La Xina s’ha convertit en el mercat més gran del món per a la tecnologia destinada a la seguretat i la vigilància: segons diversos analistes, el 2020 al país s’hi hauran instal·lat gairebé 300 milions de càmeres. IHS Markit, una empresa d’estudis de mercat, pronostica que els compradors xinesos es quedaran amb més de tres quartes parts dels servidors dissenyats per escanejar imatges de vídeo a la recerca de cares. La policia xinesa es gastarà els pròxims anys 30.000 milions de dòlars més en tecnologia per espiar, segons un expert esmentat pels mitjans estatals.
Valorar la reacció de la població xinesa pot resultar difícil en un país en què els mitjans de comunicació estan controlats pel govern. De tota manera, ara com ara el ciutadà xinès mitjà no sembla gaire preocupat. L’aplicació erràtica de les lleis contra tot, des de l’excés de velocitat fins a l’assetjament, fa que el llarg braç del govern autoritari xinès es percebi com una cosa allunyada de la vida quotidiana. Consegüentment, molts aplaudeixen els nous intents d’instaurar la llei i l’ordre.
La ‘start-up’ dedicada a la vigilància
Les start-ups solen insistir en el fet que els seus empleats utilitzin la seva tecnologia. A Xangai, una empresa anomenada Yitu ho ha portat a l’extrem. Tots els espais de les seves oficines estan plens de càmeres a la recerca de cares. Des de les taules dels despatxos fins a la sala de descans i la sortida de la feina, una pantalla de televisió segueix el recorregut dels empleats amb línies de punts blaus. El monitor mostra totes les seves anades i vingudes, tot el dia, cada dia.
A la Xina, tafanejar s’ha convertit en un gran negoci. Com que el país gasta elevades quantitats de diners en vigilància, ara ha emergit una nova generació de start-ups disposades a satisfer aquesta demanda.
Les empreses xineses estan creant aplicacions competitives a escala mundial com ara el reconeixement d’imatge i de veu. El 2017 Yitu va quedar en primer lloc en un concurs d’algoritmes de reconeixement facial convocat per l’Oficina del Director d’Intel·ligència Nacional del govern dels EUA. Altres empreses xineses també van quedar situades en bona posició.
El boom tecnològic xinès és molt útil per a les ambicions governamentals en matèria de vigilància. Pel que fa a la magnitud de la indústria i les inversions, la Xina ja rivalitza amb Silicon Valley. Gràcies al govern i a uns inversors àvids, les start-ups dedicades a la vigilància accedeixen a molts diners i altres recursos.
Al maig, l’empresa d’intel·ligència artificial SenseTime va recaptar 620 milions de dòlars i la seva valoració va pujar fins a uns 4.500 milions de dòlars. Yitu va recaptar 200 milions de dòlars el mes passat. Un altre rival, Megvii, va reunir 460 milions de dòlars dels inversors, entre els quals hi havia un fons creat pels màxims dirigents xinesos.
En una conferència celebrada al maig en un luxós hotel de Pequín, la indústria de seguretat i control xinesa va presentar la seva visió del futur. Davant els responsables de governs locals, executius del sector tecnològic i inversors, empreses grans i petites van mostrar uns arcs de seguretat amb reconeixement facial i sistemes que controlen els cotxes que circulen per les ciutats.
Les empreses veuen un gran potencial en aquests sistemes de vigilància. El mercat de la seguretat pública xinès es va valorar l’any passat en més de 80.000 milions de dòlars, però podria valer encara més quan el país hagi desenvolupat tot el seu potencial, segons Shen Xinyang, un científic que abans treballava a Google i que ara és el director tecnològic d’Eyecool, una start-up. “La intel·ligència artificial aplicada a la seguretat pública representa encara una part força insignificant del mercat”, afirma, assenyalant que la majoria d’equipaments que actualment s’utilitzen no són intel·ligents.
Moltes d’aquestes empreses ja subministren dades al govern. Shen afirma que la seva empresa ha instal·lat en més de vint aeroports i estacions ferroviàries uns sistemes de vigilància que han ajudat a capturar mil delinqüents. Segons ell, Eyecool també entrega cada dia dos milions d’imatges facials a Skynet, una base de dades policial en ple creixement que funciona amb big data.
En un complex residencial de Xiangyang s’hi ha instal·lat un sistema de reconeixement facial configurat perquè tots els veïns puguin passar de pressa pels arcs de seguretat. Aquestes imatges s’afegeixen a la col·lecció de fotos que arriben a mans de la policia.
Wen Yangli, un executiu de Number 1 Community, que fabrica aquest producte, explica que l’empresa està preparant altres aplicacions, una de les quals servirà per detectar enfrontaments entre multituds, i una altra oferirà a la policia mapes virtuals dels edificis per esbrinar qui hi viu.
Les empreses de vigilància xineses també volen saber si a l’estranger hi ha demanda d’aquesta mena de tecnologia. Yitu diu que la demanda s’està estenent a altres països i, per això, es fan plans d’expansió en regions com el Sud-est Asiàtic i el Pròxim Orient.
Al país, el govern està preparant la gent per a una tecnologia de vigilància i control d’un nivell superior. En una pel·lícula propagandística estatal titulada La Xina increïble, s’hi presentava un mapa virtual que facilitava a la policia dades sobre el consum de serveis públics, i es deia que es podria aplicar a una actuació policial predictiva.
“Si hi ha anomalies, el sistema envia una alerta”, diu la veu del narrador quan uns policies visiten un apartament en què es fa un consum erràtic dels serveis públics. I es repeteix aleshores la frase d’un dels agents: “Tant se val on t’amaguis, al final et portarem davant la justícia”.
Benvinguts al panòptic
La base de dades dels ciutadans que el govern vol controlar -sospitosos de terrorisme, delinqüents, narcotraficants, activistes polítics i d’altres- comprèn entre vint i trenta milions de persones, segons un executiu de la indústria tecnològica que col·labora amb el govern. L’actual tecnologia de reconeixement facial és incapaç d’analitzar tanta gent, afegeix l’executiu, que demana mantenir-se en l’anonimat perquè la informació no és pública. El sistema sembla un patchwork digital més que no pas una xarxa tecnològica que ho veu tot. Molts arxius encara no estan digitalitzats i d’altres es troben en fulls de càlcul incompatibles que no quadren amb facilitat.
Els sistemes que en el futur han de funcionar amb intel·ligència artificial els gestionen actualment equips de persones que revisen fotos i dades a la manera antiga. N’és un exemple el pas de vianants de Xiangyang. Les imatges no es fan públiques immediatament. La gran pantalla de vegades ensenya vianants de fa setmanes, tot i que últimament les autoritats han reduït aquest decalatge a cinc o sis dies. Els responsables han explicat que encara hi ha humans que garbellen les imatges per fer-les coincidir amb la identitat de la gent. De tota manera, les autoritats xineses, que solen mantenir en secret els temes de seguretat, han posat en marxa una campanya per convèncer els ciutadans que ja està en funcionament una seguretat estatal d’alta tecnologia. Als propagandistes xinesos els agraden les històries en què la policia fa servir el reconeixement facial per identificar delinqüents en actes públics. En molts llocs la cosa funciona. A la cruïlla de Xiangyang ha baixat la imprudència dels vianants. Al complex residencial on s’ha instal·lat el sistema d’arcs de seguretat amb reconeixement facial de Number 1 Community s’han tallat de soca-rel els robatoris de bicicletes, segons els administradors de l’edifici. “L’objectiu final és que la gent no sàpiga que l’estan vigilant, i aquesta incertesa fa que siguin més obedients”, afirma Chorzempa, l’investigador del Peterson Institute. Chorzempa descriu l’estratègia com un panòptic. La idea és que la gent compleix les normes precisament perquè no sap si l’estan observant o no.
A Zhengzhou, la policia ha explicat amb satisfacció que la sola idea de les ulleres de reconeixement facial pot induir els delinqüents a confessar. Shan, el subcap de policia de l’estació ferroviària de Zhengzhou, parla de la vegada que van enxampar el contrabandista d’heroïna. Mentre interrogava el sospitós, el policia es va treure les ulleres i li va dir a l’home que tant era el que digués. Les ulleres els donarien tota la informació que necessitaven. “Abans que el descobrís aquella tecnologia tan avançada, va preferir confessar”, diu Shan, que afegeix que el sospitós s’havia empassat 60 bossetes d’heroïna. “Ni tan sols vam haver de fer servir tècniques d’interrogatori”, diu. “Ho va cantar tot”.