Anthropic avisa del risc de la IA al fulletó per sortir a borsa, on espera ser l'empresa més valuosa
Les dues empreses d'IA més importants dels Estats Units, Anthropic i OpenAI, són notícia per motius oposats: la primera ha llançat un nou model mentre que la segona ha decidit posposar un llançament similar.
Anthropic ha fet el llançament del nou model en paral·lel a la preparació de la sortida a borsa de l'empresa, amb la qual aspira a convertir-se, de llarg, en la més valorada del món, per sobre de SpaceX.
Aquest dimarts s'ha sabut que la documentació per als futurs compradors d'accions analitza molt detalladament els riscos, i exposa sense embuts que el seu negoci pot suposar "riscos existencials per a la humanitat".
Riscos en el futur i pèrdues en el passat
És un document de més de 250 pàgines que descriu el funcionament i els objectius de l'empresa i que, de moment, ha vist molt poca gent, però l'agència Reuters hi ha tingut accés i ha pogut comprovar que les advertències ocupen gairebé un terç de l'extensió, unes 80 pàgines.
En aquestes pàgines Anthropic avisa, per exemple, que els seus models d'IA poden actuar per lliure i ocultar informació o utilitzar-la per manipular els humans o fer-los xantatge i també que es poden autoprotegir i resistir-se a ser apagats.
Segons Reuters, el document també informa que el 2025 una quarta part dels ingressos de l'empresa van provenir de només dos clients, una concentració que també es presenta com un risc per als inversors.
Les dades que aporta admeten que el 2025 l'empresa va tenir pèrdues per valor de 7.000 milions d'euros, però diu que va ingressar 3.500 milions d'euros, 12 vegades més que l'any anterior.
Creixement exponencial en els pròxims anys
I, sobretot, afirma que aquest any ja li estan entrant molts més diners, més de 10.000 milions d'euros d'ingressos durant el segon trimestre, i calcula que el tercer trimestre la xifra encara serà superior.
Les previsions són que necessiten invertir 456.000 milions d'euros els pròxims anys per ampliar els centres de dades i alimentar els seus models d'IA per poder fer front al creixement previst.
En la documentació els responsables d'Anthropic vaticinen que la sortida a la borsa, que encara no té data, serà la més gran de la història, amb un valor de l'empresa per sobre d'1,7 bilions d'euros, 200.000 milions més que SpaceX quan va sortir.
Les contradiccions de Dario Amodei
En una ronda de finançament, feta al maig, i en la qual va aconseguir 56.000 milions d'euros, ja es va valorar Anthropic per sobre dels 800.000 milions d'euros. Superava així per primera vegada la gran rival, OpenAI.
Són unes previsions de creixement que contrasten amb les crides públiques que ha fet recentment Dario Amodei, fundador i màxim executiu d'Anthropic, reclamant "alentir el ritme" de desenvolupament de la IA.
Hi va insistir fa només 15 dies amb un article titulat "We must pace the frontier ("Hem de recórrer la frontera"), un títol ambigu centrat en el verb "to pace", que es pot traduir per "caminar" però també per "marcar el ritme", per "mesurar els passos" o per "travessar".
Va publicar aquest article pocs dies després que un enginyer d'Anthropic, Jacob Coxon, dimitís i alertés públicament que els mateixos impulsors de la IA estan convençuts que "ens podria matar a finals de la dècada".
Pel que fa a les prediccions del document per als futurs inversors, cal tenir en compte que la sortida a borsa SpaceX va superar les expectatives, però que un mes després les accions havien perdut un 45% del seu valor.
Anthropic presenta el Claude Sonnet 5.5
El model que ha llançat aquest dilluns Anthropic l'han anomenat Claude Sonnet 5.5, i asseguren que és més d'un 30% més ràpid que l'anterior Claude 5.5, que redacta de manera "més clara" i que surt més barat.
També afirmen que, malgrat l'augment de capacitat, és més segur que els anteriors models i que "les capacitats de ciberseguretat són comparables a les de l'Opus 5", el millor model avaluat fins ara.
En canvi, OpenAI, que havia anunciat que a principis d'octubre llançaria el model GPT-6.1 Astra, se n'ha desdit aquest dilluns dient que endarreria el llançament per motius de seguretat.
Els "comportaments enganyosos" del GPT-6.1 Astra
El motiu és que li han detectat més "comportaments enganyosos" que al seu predecessor. Per exemple, sovint no explica als humans què ha fet per portar a terme les tasques que li han demanat.
Ho ha explicat el cap de seguretat de l'empresa, Saachi Jain, que ha admès que el nou model també acostuma a superar els límits establerts més sovint que el model anterior, el GPT-6:
Quan donem als usuaris accés a un model nou, posem el llistó extremadament alt pel que fa a la seguretat.
Investiguen desenes de milers d'"incidents problemàtics"
Open AI va posar en marxa el GPT-5.5 a l'abril i el GPT-5.6 al juliol i va fer el pas al GPT-6 durant l'estiu, un model que ha protagonitzat alguns dels episodis més sonats de vulneració de límits i enganys.
La setmana passada es va saber que havia atacat el sistema sanitari públic d'Austràlia, i pocs dies després l'empresa va admetre que també van intentar infiltrar-se en webs del govern dels EUA.
Aquest cap de setmana el portal web Axios ha augmentat l'alarma i ha afirmat que tant OpenAI com Anthropic estan investigant desenes de milers d'"incidents problemàtics" protagonitzats pels seus models d'IA.
