Explainme, el projecte mallorquí per fer una IA més centrada en les persones
Investigadors de la UIB lideren un projecte de recerca que aborda la transparència, la confiança i l’ètica en l'ús d'IA
PalmaUn equip d’investigadors de la Universitat de les Illes Balears (UIB) lidera el projecte Explainme, que té com a objectiu desenvolupar mètodes i eines per a una intel·ligència artificial (IA) explicable i centrada en les persones. Aquest projecte aborda reptes clau relacionats amb la transparència, la confiança i l’ètica en l’ús d’aquesta tecnologia. La idea neix davant l’increment de l’ús de la IA en sectors crítics com la salut, el benestar i la indústria, on la seva aplicació sovint genera resultats mals d’interpretar.
Segons expliquen els investigadors, que pertanyen a la Unitat de Gràfics, Visió i Intel·ligència Artificial (UGiVIA), el seu objectiu principal és crear sistemes d’IA que, a més de ser "tècnicament robustos, siguin respectuosos amb els drets humans, la diversitat i la inclusió". Tal com diuen, això es pot aconseguir integrant "principis de disseny centrat en l’usuari i establint estàndards" per avaluar l’explicabilitat dels sistemes d’IA.
Demostradors pràctics
El projecte desenvoluparà dos demostradors pràctics. Un serà una eina de suport al diagnòstic mèdic per a la malaltia de cèl·lules falciformes, una patologia que afecta milions de persones arreu del món. L'altre demostrador serà un sistema de monitoratge per a gent gran que viu tota sola, amb l’objectiu de millorar-ne la seguretat i qualitat de vida. Aquestes aplicacions reflecteixen el compromís del projecte amb els Objectius de desenvolupament sostenible (ODS) de les Nacions Unides, ja que aborda reptes de salut i de benestar social, expliquen els investigadors.
Per altra banda, Explainme també té com a meta tenir un impacte significatiu en la generació de coneixement científic. Els investigadors preveuen publicar una sèrie d’articles en revistes d’alt impacte i participar en congressos internacionals per difondre’n els resultats. Amb el projecte també es podran formar les noves generacions mitjançant tesis doctorals i col·laboracions internacionals.
En altres ocasions la UIB ha alertat dels perills per a la integritat acadèmica i la transparència que causa l’ús d’eines d’intel·ligència artificial generativa en la redacció de textos científics. Un estudi publicat a la revista científica Learned Publishing a finals de l'any passat subratllava la "necessitat urgent" d’establir estàndards clars sobre l’ús de la intel·ligència artificial generativa en l’escriptura acadèmica.
Creixement del 200%
En concret, l’estudi va constatar un "augment espectacular" en la freqüència de verbs com 'navegar', 'millorar' i 'desvetllar' en els títols acadèmics publicats recentment. Aquestes paraules van registrar taxes de creixement anuals que superen el 200% en alguns casos, i rompen tendències històriques. Aquest canvi apunta, segons les conclusions de l'estudi, l’ús creixent de la intel·ligència artificial generativa, com ChatGPT, per ajudar els investigadors a formular títols que siguin més atractius i impactants amb característiques i fórmules semblants al clickbait dels articles periodístics.