La barrera de l’algoritme

Fa una setmana vaig anar al recinte d’una universitat de Barcelona per una tesi doctoral. Com sempre havia fet altres vegades, vaig aturar el cotxe a la barrera de l’accés, on hi ha el guàrdia de seguretat. Anava bé de temps: mitja hora llarga a l’avançada. Abaixo la finestreta del cotxe i aviso el guàrdia que vaig a un tribunal de tesi a la Facultat d’Educació. Em respon: “Ja veurem si és veritat. Acosti el cotxe a la barrera”. Al darrere hi havia una pantalla amb un sistema electrònic de reconeixement de matrícula. Falla. Surt una mena de semàfor vermell i fa un sorollet estrany. “Em sap greu –diu aquell senyor–, el sistema no reconeix la matrícula. No està autoritzada”. La mala sort d’aquell matí em va fer oblidar el mòbil. No podia telefonar en aquell moment a la directora de la tesi perquè intercedís al meu favor en aquelles circumstàncies adverses. Començava a sentir-me com una impostora, una persona sospitosa mirant de travessar la frontera per salvar la vida, fugint de la persecució. Vaig demanar al guàrdia si podia telefonar a la Facultat d’Educació. No. Si podia, almenys, trucar al seu supervisor. No. Marxi. El sistema no reconeix la matrícula. Em va començar a tremolar la veu, en un intent desesperat per defensar que jo era qui deia que era: “Hi ha el doctorand esperant, no sé on aparcar, arribaré tard, m’hauria de deixar passar”. “A mi em sap més greu que a vostè”, va contestar, impertorbable. Després de múltiples vicissituds absurdes que no venen al cas, i que no van fer precisament que cedís aquella barrera odiosa, vaig arribar trenta minuts tard a la tesi, a peu, pujant les escales fins a l’aula, al tercer pis de la Facultat d’Educació. Hi havia unes trenta persones esperant. Els altres dos membres del tribunal m’expliquen que havien passat pel mateix, però que, en rondinar i protestar, aquell senyor havia decidit, en el seu cas i excepcionalment, aixecar la barrera. Jo no vaig tenir aquesta sort. El guàrdia va pensar que era una mentidera. També va demostrar que la seva petita parcel·la de poder existia: calia acotar el cap. No era ell, era el sistema. Cal obeir el sistema, perquè no s’equivoca mai. Ja podia jurar que anava a una tesi: veurem si és veritat. Vostè potser no sap que la seva veritat queda impugnada per l’algoritme. Una veritat escarransida, de pa sucat amb oli, que fa pena davant la precisió inexpugnable de la maquinària. Com Josef K., el personatge principal del Procés de Kafka, em trobava en una situació d’inaccessibilitat absoluta, per la qual no podia donar cap raó ni tampoc argumentar al meu favor. Vaig a una tesi. Molt bé, demostri-ho. Preguntem-ho al sistema, l’oracle de Delfos de la postpandèmia.

Aquesta anècdota em va fer pensar en altres situacions que he comentat amb amics i parents sobre la multiplicació de les barreres per obra i gràcia dels sistemes informàtics i els protocols, en particular des de la pandèmia. Problemes a la frontera per viatjar perquè el número de passaport no coincideix amb el del document d’identitat associat a la vacuna de CatSalut. Trobar-se presencialment en un lloc on gairebé no hi ha ningú per fer un tràmit i que et diguin que s’ha de demanar hora per internet. Omplir una sol·licitud pel mòbil: si el teu nom s’escriu amb una lletra de més o de menys, el sistema no el reconeix. Espavila’t a deduir-ho. A la universitat, els estudiants han après a utilitzar les bases de dades d'intel·ligència artificial per escriure els treballs. El sistema facilita algunes frases d’introducció, desenvolupament i conclusió, unitats lingüístiques fora del context intencional de qui les aplica. Combina paraules, frases i paràgrafs, per tal de fornir un text. Aquí rau la seva veritat. Llavors, els professors utilitzen altres sistemes informàtics (com Turnitin, per exemple) per identificar el plagi. En un article excel·lent publicat a la London Review of Books, William Davies diu que el plagi no es pot detectar només amb un software: s’ha de parlar amb l’estudiant, per evitar que l’algoritme faci de barrera a la intencionalitat de les persones. Només es pot acusar de plagi si es jutja moralment la intenció. Només es pot aixecar la barrera d’accés al recinte davant del dubte. Aquí ve el problema: les intencions no són segures. Quina veritat diem quan parlem? Sense confiança en les persones, l’algoritme colonitza les relacions humanes. Per combatre aquest fenomen ens cal reclamar el malentès i l’excepció que caracteritza els éssers parlants.