"Grok, això és cert?" D'on treu Grok les seves respostes sobre actualitat
Poc després que comencés l'ofensiva dels Estats Units i Israel contra l'Iran, molts usuaris d'X van preguntar a Grok, la Intel·ligència Artificial integrada a aquesta xarxa social, què estava passant.
El dissabte dia 28 mateix, el primer dia de l'atac, un míssil va provocar desenes de morts en una escola a Minab.
En les primeres hores no se sabia gairebé res del que havia passat, però la gravetat dels fets --un atac a una escola plena de nenes-- va portar molts usuaris a fer la mateixa pregunta: "Grok, què en saps, d'això?"
La IA no inventa (tant), reprodueix
Tot i que és cert que els models de llenguatge com Grok poden al·lucinar (terme que s'utilitza quan una IA ofereix respostes inventades) i donar-nos respostes incorrectes, el problema en aquest cas no va ser aquest.
En aquesta ocasió, Grok va respondre a molts usuaris que l'atac a l'escola de Minab no existia i que les imatges i el que estava circulant sobre el tema es referien a un atac a una escola de Kabul l'any 2021.
Una informació totalment falsa.
Al·lucinava, Grok? En aquest cas, no.
Per què responia això, doncs?
Doncs perquè molts usuaris verificats (amb el tic blau o gris), amb molts seguidors i un clar caràcter pro israelià estaven impulsant aquesta narrativa: no existeix cap atac a una escola, les imatges que circulen són de Kabul, no us cregueu el que diu el règim iranià.
El cas és que, com ha fet evident a preguntes de molts usuaris, Grok no busca la veritat quan ha de respondre.
Quan li fem una pregunta d'actualitat a Grok, el contingut per elaborar les seves respostes el busca inicialment a la mateixa xarxa X i prioritza el que diuen els usuaris verificats (els que paguen) i els tuits amb més "engagement" (interacció, reaccions, debat).
Els tuits que generen més engagement, per cert, són els que tenen un contingut més polaritzant, radical o que més encén els usuaris.
Aquesta informació es basa en converses reiterades amb Grok basades en els seus documents fundacionals i el seu disseny, no només en aquest tuit.
En segona instància, només en segona instància, Grok afegeix informació de Notes de la Comunitat o webs externes a X.
Per tant, les respostes de Grok es basen més en el contingut provinent d'usuaris de pagament i que generi més conversa, més debat, més visibilitat, que no pas en fonts externes o continguts més elaborats o verificats que puguin afegir context.
Aquests continguts els buscarà en segona instància, només en segona instància.
Això és especialment rellevant quan estem parlant de temes d'última hora, perquè Grok no té informació prèvia sobre el que està passant i la seva informació en els primers 30 minuts és, bàsicament, el que s'escriu a X.
El problema és que la informació en temps real sol ser fragmentada, inexacte o (com és el cas) pot ser fàcilment manipulada de manera voluntària.
Si un grup coordinat aconsegueix llançar des de perfils verificats un mateix missatge sobre un tema calent que interessa molta gent, és fàcil que aconsegueixi instal·lar el seu discurs (convertir-lo en "trend") perquè Grok el detectarà, el considerarà rellevant i, finalment, el reproduirà a tort i a dret.
La IA gamberra
Aquest funcionament de X no és un error ni un accident, és fruit d'una decisió humana. Com passa amb la majoria d'eines tecnològiques.
En aquest sentit, la IA d'X és exactament el que Elon Musk vol que sigui: una IA políticament incorrecta, que contravingui l'anomenada "cultura woke", que no tingui un excés de filtres entre l'usuari i el contingut (fora moderació) i que proveeixi informació "fresca" i immediata, no processada pels mitjans tradicionals ("legacy media").
Grok també es vanta de ser directa quan respon, fent servir sovint llenguatge molt col·loquial o fins i tot groller.
En la seva base de funcionament, segons Elon Musk, X també assegura que la seva IA té com a principi la recerca màxima de la veritat (maximum truth-seeking), però ja hem vist que això, en la realitat, no és així.
Qui primer parla, guanya
Amb aquest funcionament, és evident que qui tingui la capacitat de generar un mateix discurs coordinat des de diferents perfils verificats alhora i més de pressa pot instal·lar ràpidament la seva veritat a X. Com a mínim inicialment.
En el cas de l'escola de l'Iran, va ser molt evident com perfils clarament pro israelians com l'eurodiputat de Vox Hermann Tertsch, Israel Vive o Sr. Liberal van escampar la mateixa narrativa (que l'atac no havia existit i que les imatges que corrien eren de Kabul el 2021) durant la tarda del 28 de febrer.
Poques hores després de l'atac.
Analitzant el timeline d'X fins avui, com a mínim 12 perfils pro israelians verificats (amb tic blau o gris) que acumulen més de 2,6 milions de seguidors van escampar la "narrativa Kabul" amb piulades que van aconseguir més de 1,3 milions de visualitzacions entre les 18.00 i les 00.00 de dissabte dia 28.
Alguns altres perfils, com Lucia Etxeberria (179.000 seguidors més i tic blau), han esborrat els tuits desinformadors.
L'atac es va produir cap al migdia i a mitja tarda la història falsa sobre l'escola de Kabul era per tot X.
La narrativa també es va escampar per llatinoamerica, que a aquella hora es llevava. Tot plegat va amplificar encara més aquest relat.
Finalment, Grok va absorbir aquesta narrativa com a pròpia i la va fer servir per respondre milers d'usuaris que preguntaven sobre el que havia passat a Minab.
Un sol tuit com el de sobre d'aquestes línies va acumular més de 148.000 visualitzacions més, validant la pregunta clarament redactada amb la voluntat de condicionar la resposta.
Fins el diumenge 1 de març Grok no va rectificar i va començar a explicar que l'atac a Minab havia estat verificat per desenes de mitjans convencionals.
Per tot plegat, si li preguntem a Grok per un esdeveniment en temps real cal estar assabentat d'on treu la seva informació inicialment.
Si, malgrat tot, hi ha algun dubte sobre com tria Grok la informació, només cal preguntar-li directament.
