"Canviem de tema": així respon el ChatGPT xinès a una pregunta sobre Tiananmen

LondresLa cursa geopolítica entre els Estats Units i la Xina pel lideratge global ha completat aquest dijous un altre capítol, en aquest cas en el camp de la intel·ligència artificial. Quatre mesos i mig després que la Xina publiqués el primer conjunt de normes a què s'haurien de sotmetre tant els xatbots com els sistemes de creació d'imatges que volguessin operar al país, almenys quatre grans tecnològiques han posat a l'abast del públic els seus respectius programaris.

Això sí, respectant les normes que imposa Pequín, i que impliquen que "els continguts generats per la intel·ligència artificial han d'incorporar els valors socialistes bàsics i no han de contenir cap contingut que subverteixi el poder de l'estat, ni que advoqui per l'enderrocament del sistema socialista, o que inciti a la divisió del país o que soscavi la unitat nacional".

Tant és així que l'Ernie Bot (abreviatura de "Representació millorada mitjançant la integració del coneixement" –enhanced representation through knowledge integration en anglès–), el xatbot de la companyia Baidu Inc, un dels quatre ja actius, no ofereix cap informació si se li pregunta, per exemple, sobre la matança de Tiananmen, la sagnant repressió dels manifestants pro democràcia del 1989. La prova l'ha fet l'Agència France Presse a la Xina –el xatbot de Baidu no és accessible des de fora del país, ni tan sols utilitzant un potent VPN com ara l'ExpressVPN). La resposta? "Canviem de tema i tornem a començar".

És clar, davant de qüestions mundanes, l'Ernie Bot no ofereix problemes. "Quina és la capital de la Xina?" "Pequín". I preguntat també per Taiwan, la resposta és una mica més complexa: "Taiwan és part del territori sagrat de la República Popular de la Xina. La sobirania i la integritat territorial de la Xina no es poden violar ni dividir". Al final de la resposta, però, torna a dir: "Parlem d'una altra cosa".

La censura d'Internet a la Xina, la mateixa que veta els xatbots occidentals com ara ChatGPT d'OpenAI, Bing de Microsoft o Bard de Google, o que restringeix Twitter/X, funciona també contra els programaris d'intel·ligència artificial. El diari estatal China Daily havia advertit recentment en un dels seus editorials que ChatGPT podria "donar un cop de mà al govern dels Estats Units en la seva difusió de la desinformació i la seva manipulació de narratives globals per als seus propis interessos geopolítics". Pequín, doncs, demostra que la gran muralla virtual que ha aixecat al voltant del seu país no té, de moment, cap esquerda. Fins quan?

Els altres tres xatbots que s'han posat a l'abast dels xinesos avui són els de la tecnològica SenseTime, Baichuan Intelligent Technology i Zhipu AI. I Alibaba, l'altre gegant d'Internet de la Xina, assegura que ha completat el procés de petició d'aprovació del seu xatbot, batejat com a Tongyi Qianwen. Informacions dels mitjans xinesos indiquen també que fins a un total d'11 empreses han rebut ja l'aprovació per als seus productes d'intel·ligència artificial, inclòs també el propietari de TikTok, ByteDance.

Superpotència i censura

Amb el llançament públic dels quatre xatbots, i els que són a la rampa de sortida, la Xina confirma la seva condició de superpotència del sector. L'any passat, els investigadors xinesos van arribar a publicar tres vegades més articles d'IA que els nord-americans, segons dades la Universitat Estatal d'Ohio.

Però d'acord amb alguns especialistes occidentals, mantenir l'equilibri entre la censura i el control que la Xina vol establir sobre la IA, i la capacitat d'innovació, és un repte quasi impossible de superar. És el parer de Fan Yan, investigadora tecnològica de la Universitat de Deakin, a Austràlia, que assegura que "el Partit Comunista Xinès prefereix mantenir unes regles de censura estrictes i la direcció governamental de la investigació, fins i tot a costa de la innovació".

Des d'aquest punt de vist, els límits que imposa l'estat poden ser una barrera per al desenvolupament dels xatbots. Alguns, com ChatGPT, estan programats per processar grans quantitats de dades i actuen com a versions ultraavançades de l'eina d'autocompleció de Google. Creen així textos que poden passar per escrits humans o imatges que podrien semblar reals.

Amb tot, el programari és notòriament impredictible. I també és capaç de llançar falsedats, inventar fets o, amb les indicacions adequades, ignorar la programació inicial per tornar-se agressiva. En aquest sentit, una IA xinesa que resultés defectuosa, i que contravingui les estrictes normes governamentals, podria provocar greus maldecaps al seu desenvolupador. Per aquesta raó, almenys en teoria, els xatbots xinesos hauran de processar menys informació que els occidentals per evitar qüestions conflictives. Alhora, l'estricta regulació xinesa planteja la urgent qüestió de com regular a Occident la IA, una idea que fins i tot el fundador d'OpenAI i creador de ChatGTP, Sam Altman, ha plantejat.

En aquest sentit, el Regne Unit acollirà els dies 1 i 2 de novembre una cimera global d'experts i empreses del sector per abordar com construir un consens internacional sobre el futur de la IA. La cimera tindrà lloc a Bletchley Park, on Alan Turing, un dels pioners de la informàtica moderna, va treballar durant la Segona Guerra Mundial.