Intel·ligència artificial, la nova arma per combatre els fraus a internet

A Catalunya, les estafes ja són la segona modalitat delictiva en volum de denúncies i el 90% són ciberestafes a través d'internet. Una part de les quals, a més dels consumidors, també perjudiquen empreses que veuen compromesa la seva reputació i, a vegades, fins i tot els seus resultats econòmics.

Les policies han hagut de crear unitats especialitzades per perseguir-ho, però, en paral·lel, també han aparegut empreses que es dediquen a localitzar els fraus en els entorns digitals. Companyies que ja estan utilitzant totes les possibilitats de la intel·ligència artificial (IA) per poder pescar els infractors en el mar immens d'internet.

L'objectiu és eliminar el problema com més aviat millor i només en casos extrems haver de perseguir legalment els infractors, amb uns procediments que resultarien molt més lents i costosos per als afectats.

A Red Points són més de 300 empleats dedicats a detectar i eliminar falsificacions a internet: pirateria, aplicacions, webs i perfils falsos a les xarxes socials. Van ser pioners des de Barcelona, fa gairebé quinze anys, a combatre aquests fraus amb armes tecnològiques i ara també tenen oficines a Nord-amèrica i a la Xina.

Laura Urquizu és la presidenta i consellera delegada de Red Points. Els seus clients són 1.300 empreses de tot el món, des de multinacionals fins a pimes, però més del 65% del negoci ja el tenen als Estats Units.

"Quan vam començar sí que existien ja empreses que es dedicaven a això en el món online, però ho feien, diguem-ne, més basant-se en serveis, en consultories. Nosaltres vam ser la primera empresa en què l'estratègia va ser aportar tecnologia a un sector on no n'hi havia. I aquesta tecnologia, a més, ha anat evolucionant, cada cop s'ha fet més complexa."

Han creat una plataforma tecnològica basada en intel·ligència artificial que analitza quantitats ingents de dades en les plataformes de venda online i en altres llocs.

Asseguren que pràcticament res s'escapa de la xacra de la falsificació. Expliquen que abans era únicament l'e-commerce el que creixia, però ara, amb l'aparició de la intel·ligència artificial, "cada vegada es pot fer més contingut fake, que afecta cada vegada més empreses en tot el món".

"És un fenomen que està en continu creixement. El volum del problema és tan gros que només es pot tractar amb tecnologia. I, efectivament... com més intel·ligència artificial puguis fer servir, millor ho podràs fer."

Eines d'intel·ligència artificial per lluitar contra la IA perversa

A través d'eines de reconeixement digital d'imatges i de logos i de l'aprenentatge automàtic detecten senyals que es tracta de falsificacions i, un cop ho han validat, a través d'intel·ligència artificial generativa, demanen als reguladors de les plataformes que n'eliminin els continguts.

"I és el que nosaltres fem: utilitzar la intel·ligència artificial per combatre frau provocat per intel·ligència artificial. I, efectivament, és un dels efectes positius que ens ha portat aquesta tecnologia."

La seva feina, però, s'acaba quan la falsificació ha estat eliminada d'internet.

"Nosaltres, amb la nostra solució i la nostra feina, el que fem és eliminar l'accés d'aquest contingut fals, de productes falsos, de webs falsos. En l'àmbit digital, a internet, en línia, de manera que l'usuari no es trobi amb aquest tipus d'infraccions."

Posteriorment, el client, l'empresa, si ho desitja, pot desenvolupar accions legals contra aquest infractor, té la possibilitat d'acudir als tribunals. "Nosaltres li facilitem tota la informació que necessita", expliquen.

Un informe de l'Europol alerta dels perills de la intel·ligència artificial en el món del cibercrim. Només per posar un exemple, a la internet fosca es pot trobar una aplicació anomenada FraudGPT a la qual es pot demanar que creï una rèplica d'una web o que busqui una adreça d'internet que pugui ser atacada.

La falsificació i la suplantació de marques afecta especialment sectors com els cosmètics, la moda i els articles esportius, però també molts serveis, com la banca i l'hostaleria.

"La suplantació d'identitat és el pitjor dels malsons, perquè el que suposa és que usuaris, clients teus, confondran les webs falses amb la web autèntica i hi dipositaran dades, informació sensible, i això també pot suposar un problema econòmic."

La màxima responsable de Red Points creu que cada cop hi haurà més competència en el sector.

"Amb l'aparició de la intel·ligència artificial comencen a venir nous 'players', però encara són petits. El mercat del frau en línia i dels problemes de ciberseguretat cada vegada és més gran, de manera que cada vegada arribaran més empreses noves."

Ressenyes falses que poden arruïnar negocis

Una altra de les derivades del problema, tot i que a un nivell més local, són les ressenyes falses d'hotels, restaurants i altres establiments. Fins al punt que el govern italià vol regular-les per evitar un frau que afecta greument les zones turístiques.

Google ja utilitza intel·ligència artificial per eliminar-les i només el 2023 en va suprimir 170 milions. Però a Google Maps hi apareixen més de 100 milions de negocis, i no sempre donen l'abast.

Segons Xavier Colomés, el cofundador de l'aplicació Localboss, el primer que mira Google és que siguin d'una persona que ha estat físicament al local.

"Per exemple, la geolocalització. Si jo ara deixo una ressenya a Kuala Lumpur i no he estat mai a Kuala Lumpur, segurament aquesta ressenya l'algoritme de Google no la permetrà."

Com a molts establiments, al Lato Cafè del carrer Bruc de Barcelona, amb gran afluència de turistes, sobretot asiàtics, la puntuació que reben a Google s'ha convertit en fonamental per al negoci. Edy Pezzopane, el propietari de l'establiment, s'ho pren irònicament.

"De falses, no crec que en tinguem. Hi ha gent que s'equivoca, això sí. Per exemple, que diuen que han menjat una pizza molt dolenta... però no fem pizza."

Saber gestionar les ressenyes, les falses i les reals

Ells fa dos anys que controlen les seves ressenyes de Google amb l'aplicació de Localboss, una start-up catalana que té clients a tot el món.

L'eina permet a restauradors i botiguers monitoritzar fàcilment i en tot moment com els estan valorant els clients, per animar-los a escriure ressenyes per millorar la nota i ajudar-los a respondre-les totes amb l'assistència també d'intel·ligència artificial.

I és que Google també elimina una part de les ressenyes de cinc estrelles que no han obtingut resposta del propietari, perquè també són sospitoses, però en sentit contrari.