ChatGPT et dona respostes errònies? Així és com s'ha d'utilitzar

Nova YorkQualsevol que es deixi seduir per xatbots dotats d'intel·ligència artificial com ChatGPT i Bard —ostres, poden escriure assajos i receptes!— topa amb el que es coneix com a al·lucinacions, la tendència de la intel·ligència artificial a fabricar informació. Els xatbots, que endevinen què dir basant-se en informació obtinguda d'internet, no poden evitar equivocar-se. I quan fallen —publicant, per exemple, una recepta d'un pastís amb quantitats de farina inexactes—, pot ser una autèntica decepció. Després de provar desenes de productes d'intel·ligència artificial en els darrers dos mesos, he arribat a la conclusió que la majoria de nosaltres estem utilitzant la tecnologia de manera deficient, en gran part perquè les empreses tecnològiques ens han donat males indicacions.

Els xatbots són menys bons quan els fem preguntes i esperem que les respostes que obtinguin pel seu compte siguin certes, que és com van ser dissenyats. Però quan se'ls indica que utilitzin informació de fonts fiables, com ara llocs web creïbles i treballs de recerca, la IA pot dur a terme tasques útils amb un alt grau de precisió. Dirigir els xatbots a fonts específiques d'alta qualitat també pot ajudar a reduir la producció i difusió d'informació errònia. Permeteu-me compartir alguns dels criteris que vaig utilitzar per obtenir ajuda al voltant de tres temes: la cuina, la investigació i la planificació de viatges.

Cuina

Xatbots com ChatGPT i Bard poden escriure receptes que semblen bones en teoria, però no funcionen a la pràctica. En un experiment realitzat al novembre per la secció de Cuina del New York Times, un dels primers models d'IA va crear receptes per a un menú d'Acció de Gràcies que incloïa un gall dindi extremadament sec i un pastís dens. També vaig obtenir resultats decebedors amb les receptes de marisc generades per IA. Però això va canviar quan vaig experimentar amb extensions de ChatGPT, que són bàsicament aplicacions de tercers que funcionen amb el xatbot. (Només els subscriptors que paguen 20 dòlars al mes per accedir a ChatGPT4, la darrera versió del xatbot, poden utilitzar les extensions, que s'activen en el menú de configuració.)

A la pestanya d'extensions de ChatGPT, vaig seleccionar “receptes saboroses”, que extreu dades del lloc web Tasty, propietat de BuzzFeed. A continuació, vaig demanar al xatbot que dissenyés un menú que inclogués plats de marisc, carn picada de porc i guarnicions de verdures utilitzant les receptes del lloc. El bot va presentar un menú inspirador, que incloïa banh (un sandvitx d'estil vietnamita) amb porc a la llimona, porcions de tofu a la graella i pasta amb tot el que tinguis a la nevera. Per a les receptes d'altres publicacions vaig utilitzar Link Reader, una extensió que em permetia enganxar un enllaç web per generar menús amb receptes d'altres llocs fiables, com ara Serious Eats. El xatbot extreia dades dels llocs web per crear menús i em deia que els visités per llegir les receptes. Em va portar més feina, però va ser millor que un menú creat per la IA.

Investigació

Quan vaig investigar per a un article sobre una popular sèrie de videojocs, vaig recórrer a ChatGPT i Bard per refrescar la meva memòria sobre jocs antics demanant-los que em fessin uns resums de les trames. Es van equivocar en detalls importants sobre les històries i els personatges dels jocs. Després de provar moltes altres eines d'IA, vaig arribar a la conclusió que per investigar era crucial fixar-se en fonts de confiança i comprovar ràpidament l'exactitud de les dades. Al final, vaig trobar una eina que fa justament això: Humata.AI, una aplicació web gratuïta que s'ha fet popular entre investigadors, acadèmics i advocats.

L'aplicació permet pujar-hi un document, per exemple un PDF, i des d'allà un xatbot respon a les preguntes sobre el material al costat d'una còpia del document, ressaltant les parts rellevants. En una de les proves vaig pujar un treball de recerca que vaig trobar a PubMed, un motor de cerca governamental de textos científics. L'eina va produir un resum rellevant de l'extens document en qüestió de minuts, un procés que m'hauria suposat hores, i vaig fer una ullada a les parts destacades per comprovar que els resums eren correctes.

Viatges

Quan una redactora de viatges del Times va demanar fa poc a ChatGPT que li fes un itinerari de viatge per Milà, el bot la va guiar perquè visités una part cèntrica de la ciutat que estava deserta perquè era festiu a Itàlia, entre altres errors. Jo vaig tenir més sort quan vaig sol·licitar un itinerari de vacances per a un viatge amb la meva dona i els nostres gossos al comtat de Mendocino, Califòrnia. Igual que quan vaig planificar un dinar, vaig demanar a ChatGPT que incorporés suggeriments d'alguns dels meus llocs de viatges favorits, com Thrillist i la secció de viatges del Times. En qüestió de minuts, el xatbot va generar un itinerari que incloïa restaurants i activitats aptes per a gossos, com ara una granja amb maridatges de vi i formatge i un tren en una popular ruta de senderisme. Això em va estalviar diverses hores de planificació i, el que és més important, els gossos s'ho van passar de meravella.

Conclusió

Google i OpenAI, que col·laboren estretament amb Microsoft, afirmen estar treballant per reduir les al·lucinacions als seus xatbots, però ja podem recollir els beneficis de la IA prenent el control de les dades en què es basen els bots per donar les seves respostes. Dit d'una altra manera: el principal benefici d'entrenar les màquines amb conjunts de dades enormes és que ara poden utilitzar el llenguatge per simular el raonament humà, tal com va assegurar Nathan Benaich, que inverteix en empreses d'IA. El pas important per a nosaltres, segons Benaich, és combinar aquesta capacitat amb informació d'alta qualitat.

Copyright The New York Times