La recomanació de vídeos d'assassinats obliga Meta a demanar perdó als usuaris de les seves xarxes

BarcelonaMeta, l’empresa de matriu de Facebook, Instagram i WhatsApp, s'ha disculpat després que els usuaris d'Instagram denunciessin que el fil de reels –les recomanacions personalitzades que l'algoritme fa de vídeos curts– s’inundés de vídeos violents. Divendres cibernautes d’arreu del món es van trobar que l'aplicació els recomanava vídeos violents en què, entre altres coses, es veien maltractament animal, assassinats i cadàvers. Algunes d'aquestes publicacions tenien milers de "M'agrada" i comentaris. 

Entre les queixes, hi ha usuaris que han denunciat haver vist escenes impactants, com un home aixafat per un elefant, una persona desmembrada per un helicòpter, tirotejos, una muntanya de cadàvers i un noi que posava la cara en oli roent. També hi ha hagut persones que han omplert els seus perfils amb pantalles censurades i el missatge "contingut sensible", un format dissenyat per amagar el contingut gràfic dels vídeos, de manera que abans de veure la publicació l'usuari ha de clicar un botó d'acceptació.

Aquests errors es van produir després dels canvis recents en l'enfocament de Meta pel que fa a la moderació dels continguts. En aquest sentit, l'empresa ha substituït els verificadors de dades per un sistema de "notes de comunitat", fet pels usuaris, i ha implantat noves polítiques pel que fa a les denúncies de continguts sobre orientació sexual o de gènere, un fet que diverses associacions que defensen els drets en línia han criticat. L’error ha provocat que els sistemes de moderació d’Instagram prioritzin per accident els continguts violents en comptes de filtrar-los tot i que els cibernautes hagin reportat els vídeos o els comptes que els difonien. 

La revista tecnològica 404 Media va publicar el cas d’un home que tenia un compte relacionat amb el ciclisme i a qui, de cop i volta, li van començar a aparèixer vídeos violents i recomanacions de publicacions d’un compte nomenat PeopleDeadDaily (gent morint diàriament). En declaracions al mitjà digital, Meta ha assegurat que l'allau de vídeos no està relacionada amb la revisió de les regles de contingut de la plataforma, que inclou la reducció de censura a les seves plataformes.

"Hem corregit un error que feia que alguns usuaris veiessin al seu fil d'Instagram reels que no haurien d'haver estat recomanats. Demanem disculpes per l'error", diu Meta en un comunicat compartit a la cadena de televisió CNBC. Associacions com la Fundació Molly Rose, que va néixer el 2017 quan l’adolescent Molly Rose es va suïcidar després de veure contingut angoixant a Instagram, han exigit una explicació completa d'aquest error. "És probable que a mesura que Instagram retiri la moderació del contingut això sigui un signe de les coses que vindran", ha remarcat Andy Burrows, director de la fundació.