Fa mesos que estic donant voltes al tema del lliure arbitri. En general, creiem que som els amos de les nostres vides i, d'alguna manera, la societat s'organitza al voltant del principi que els adults som responsables dels nostres actes. En conseqüència som amos dels nostres èxits, fet que ens embriaga, i dels nostres fracassos, fet que alimenta el sentiment de culpa.

Però aquesta visió no encaixa prou bé amb la realitat. Una persona sàvia sap que no ha de fer massa cas als seus èxits, ni tampoc s'ha d'entretenir en els fracassos perquè els èxits i els fracassos depenen de mil factors, només alguns dels quals es troben sota el nostre control. De fet, amb el magnífic llibre Fooled by Randomness, Nassim Taleb ens va avisar de que les nostres vides estan dominades per fets aleatoris fora del nostre control. Per cada Zuckerberg, per posar un exemple, hi ha mil persones tan capaces com ell, que s'han esforçat tant com ell, però que no han tingut l'èxit empresarial que ell va tenir. La sola diferència és la sort. Però l'aproximació d'en Taleb al problema es focalitza en els esdeveniments externs a nosaltres, on no entra és en la nostra vida interior. Fins a quin punt la nostra vida interior és realment nostra i està sota el nostre control? Controlem tot el que pensem que controlem?

Només cal observar un grup d'adolescents en una discoteca per comprendre que molts dels seus actes són purament innats. Els adolescents fan coses d'adolescents perquè no poden fer altra cosa. És divertit veure'ls establint les jerarquies de dominància que determinaran futurs aparellaments sexuals. Ho dic amb aquest llenguatge tan biològic per subratllar la importància de la biologia en tot això. Es podria fer un documental de National Geographic sobre el comportament dels Homo Sapiens Sapiens recent entrats en la maduresa sexual, de la mateixa manera que es fan sobre els ximpanzés o els bonobos. Òbviament, els humans d'altres franges d'edat ens comportem, en gran mesura, de maneres determinades per la nostra biologia, com els adolescents.

Però la cosa no acaba aquí. Des que sé que sóc membre de la família autista, he llegit molts llibres sobre el tema i mai em deixa de sorprendre veure tants comportaments meus catalogats i descrits de manera tan precisa en llibres genèrics sobre l'autisme. Així doncs, quan decideixo seure i escriure aquest article amb un hiperfocus fora del normal estic obeint a la meva voluntat o estic simplement responent a una necessitat biològica innata de deixar-me absorbir per temes interessants, de la mateixa manera que una oreneta recull branquillons per fer el seu niu sense saber molt bé per què ho fa així? La veritat és que no ho tinc gens clar! Com demostren els llibres sobre autisme, l'autisme condiciona molt la meva vida i això és pura biologia.

Però no només l'autisme influeix de manera determinant les meves decisions. Ahir mirava les entrades del meu blog escrites durant la setmana passada i són d'un profund pessimisme. No és d'estranyar que la setmana hagi acabat abocant-me a la lectura del més pessimista dels filòsofs (Schopenhauer). I d'on ve aquest pessimisme? Molt senzill: d'una grip. Fa molts anys que sóc conscient de que el primer símptoma que tinc de grip, abans del mal de gola o la congestió nassal, és la depressió. És així sempre. I quan la grip passa, torna l'optimisme. Quantes decisions he pres influït per virus? Com de diferents haurien estat les decisions si no hagués passat la malaltia? Aquest és un tema que m'angoixa profundament a nivell laboral, perquè un dia que estigui en un estat d'ànim fora del normal puc prendre decisions que em condicionen durant anys.

Tot i que fa temps que penso en aquest tema, el detonant de la nota d'avui va ser llegir que "la voluntad, en todas sus manifestaciones, está sometida a la necesidad" (El arte de ser feliz, Arthur Schopenhauer). Aquesta frase ens diu que les nostres decisions estan completament influïdes per la interacció del nostre caràcter amb les nostres circumstàncies i nosaltres no controlem ni el caràcter, ni les circumstàncies. D'aquesta manera, segons ell, el lliure arbitri és només una il·lusió.

La visió pessimista de Schopenhauer contrasta amb l'ensenyament de l'Església, que ens diu que Déu ens fa lliures de fer, o no, la seva voluntat. Per tant, sí que podem triar. No obstant això, l'Església també ens ensenya que som persones caigudes, influïdes tant pel pecat original com per les nostres passions. Sant Pau, al capítol 7 (19-24) de la carta als Romans, és molt clar en aquest sentit:

No faig el bé que voldria, sinó el mal que no voldria. [...] Que en soc, de dissortat! ¿Qui m’alliberarà d’aquest cos que em duu a la mort? Déu, a qui dono gràcies per Jesucrist!

En aquest passatge, com Schopenhauer, Sant Pau reconeix que tenim una voluntat lliure que ens permet aspirar a fer el bé, però que per mor del pecat i les passions els nostres actes no responen a la nostra lliure voluntat. Emprant l'esquema del filòsof alemany, les nostres accions són el producte de les circumstàncies i del nostre caràcter, no obstant, a diferència de Schopenhauer, Sant Pau ens dóna l'esperança de la gràcia divina. Jesús, si li donem la mà, ens estirarà cap amunt tal com va evitar que Pere s'enfonsés en les aigües del mar de Galilea en aquella fosca nit. Per tant, som lliures de mirar cap amunt i permetre que Déu ens reculli en els seus braços. Aquesta és la funció central de la pregària.

Quina conclusió pràctica en trec, de tot plegat? Que sí que tenim llibertat, però aquesta està profundament condicionada per factors interns i externs que sovint ens sobrepassen. Reconèixer que la nostra voluntat sovint queda anegada per les circumstàncies no és una excusa per a la negligència, sinó una crida a alliberar-nos d'una culpa estèril: cal ser compassius amb la nostra limitació intrínseca sense renunciar a l'exigència de l'ideal. Al capdavall, la pau interior no neix de creure'ns immaculadament amos de nosaltres mateixos, sinó de saber que, enmig de les nostres tempestes i febleses, Déu no ens deixa caure.

Chinese Hackers Impersonate Anthropic Employee to Extract AI Secrets

Ara que amb els models de llenguatge és tan fàcil fer creure que ets qui no ets, és un bon moment per recordar que amb signatures digitals es pot autenticar l'origen dels emails. De fet, no cal fer-ho de manera distribuïda com es fa amb el PGP, es pot fer amb intermediaris que donin fe de les signatures digitals dels emails. Trobo estrany que no surtin startups que adrecin aquest problema.

Ara que han aparegut models de presa de decisions, com Jev, que enlloc de vomitar text, prenen decisions, veig que apareixerà una plètora de models especialitzats que faran molt bé les seves funcions. Tots ells podran ser combinats de manera intel·ligents en arnesos que a cada pas del procés empraran el model més adequat, a part d'emprar de vegades heurístiques i algorismes tradicionals. Aquesta serà una de les principals vies del progrés un cop siguem a l'assímptota dels models de llenguatge.

La imitación de características y peculiaridades ajenas es mucho más vergonzoso que vestir la ropa de otro, porque significa juzgarse a sí mismo como carente de valor.

El arte de ser feliz. Arthur Schopenhauer.

L'emmascarament autista és l'esforç que fem els autistes per compensar o amagar les nostres mancances. Ho fem sense ser-ne conscients, sobretot abans de la diagnosi, i és un esforç que ens esgota i sol portar, al cap dels anys, al burnout, l'ansietat i la diagnosi, si no la teníem.

Quan no sabem que som autistes (els primers 44 any de la meva vida) creiem que fem curt i ens esforcem molt per ser com els altres. De fet, no sabem que per als altres no és difícil fer moltes coses que ens costen a nosaltres, en l'àmbit social o en el de les funcions executives, entre d'altres. Així doncs, intentem ser el que no som, fins al col·lapse.

Així doncs, caiem, sense saber-ho en la trampa de la qual ens avisa Schopenhauer. Imitar els altres és un camí que ens allunya de la plenitud i la felicitat.

La doctrina cristiana diu que, en la vida, hem d'esbrinar i acomplir els plans que Déu té per nosaltres. Definitivament, no trobarem la nostra vocació copiant als altres.

La conclusió és que per a l'autista, trobar la pròpia vocació és força més difícil que per la resta de mortals.

Això aplica també a moltes altres persones, neurodivergents o no, que no saben que tenen quelcom que els fa diferents de la majoria. No és només un problema autista.

Una altra derivada és que posar nom a les coses ajuda. Avui en dia se sent molt allò de "no et posis etiquetes". Les etiquetes són una eina en el camí de l'autoconeixement.

Doncs sí, resulta que a Anthropic estan convençuts de que el seu model matemàtic té consciència.

Religious Scholars Met With Anthropic. What They Heard Stunned Them.

Privately, once the Anthropic delegation arrived at the Vatican, Mr. Olah and his team lobbied the pope’s advisers to take the prospect of A.I. model consciousness seriously, according to two participants of the conversations.

Això em confirma el necessària que era l'encíclica Magnifica Humanitas. El més paradoxal de tot plegat és que el Vaticà té una postura més científica i raonable que els enginyers que han desenvolupat els models de llenguatge, que sembla que tenen un pensament màgic en relació a les seves creacions.

Cada cert temps penso que he de deixar Twitter, el deixo i acabo tornant-hi. Hi vaig per buscar informació recent sobre temes que em preocupen i sentir-me connectat, però l'abandono quan veig que a Twitter ja no hi ha res personal, tot hi està molt estudiat, preparat, influenciat per una agenda, sigui personal o política. L'espontaneïtat ha desaparegut. És trist.

El problema és que Twitter és fàcil. És molt fàcil. El difícil és seure i llegir llibres i revistes de qualitat. I és difícil per a tothom. Quan veig el Taleb perdent temps a Twitter penso que estem perduts. L'home que escriu sobre el senyal i el soroll millor que ningú!

Amb la vida que portem avui en dia és difícil trobar el moment per seure i llegir tranquil, pensar i escriure. El temps i l'energia van escassos, Twitter, en canvi, és directe i et premia ràpidament. En el fons, és com la pornografia. Utilitzen els mateixos mecanismes per enganxar-t'hi.

Cada dia llegeixo quelcom de valor. Per a això vaig comprar un lector de llibres electrònics i per aquesta raó no utilitzo mai per res del món (tinc tos) biblioteques digitals pirates. Però m'adono que començo molts llibres, però n'acabo pocs. Sovint perdo l'interès pel camí. Per a què llegir un llibre sobre historia antiga, una novel·la de ciència ficció o un assaig sobre autisme?

La veritat és que estic una mica perdut. Per a què llegim? Per aprendre, per ser millors persones, per entretenir-nos, per poder aparentar coneixement? Aquesta és una qüestió que val la pena pensar bé i jo no l'estic pensant bé. Entre d'altres coses perquè el dia a dia se'm menja. Llavors, m'estiro el vespre, obro el lector i trio alguna cosa interessant per llegir. Però amb quin criteri? De vegades llegeixo un assaig i em demano la utilitat de fer-ho, més enllà de preparar la ment per dormir.

Estic en una fase de la vida una mica pessimista. De què serveix el blog que no llegeix quasi ningú? No tinc cap ganes de fer marketing i SEO. Quin valor té el que opino o penso en un món de 8•10⁹ persones? Per a què llegir sobre això o allò? La gran majoria del que llegim és, en el fons, entreteniment sofisticat per tapar la realitat de la nostra vida professional: som peces en un engranatge que ens supera.

El cristianisme ens apunta una resposta: ets al món però no ets del món. Ets de viatge per aquí i només t'emportaràs l'amor que hagis donat i hagis rebut. Suposo que la resposta al tot plegat es troba aquí. En l'amor.

p.s. Estic sortint d'una grip i he tingut temps de pensar estirat al llit, una mica deprimit.

Parlant amb Gemini sobre el model de negoci dels grans laboratoris de LLMs hem arribat a la següent conclusió, que sembla força plausible.

La paradoxa és que s'estan finançant i valorant com a monopolis digitals de creixement infinit (amb ràtios de borsa típics d'empreses de programari amb un 80% de marge), quan en realitat la seva dinàmica econòmica és la d'una empresa d'energia o d'infraestructura intensiva en capital: enormes despeses d'inversió inicial, marges operatius baixos i un producte de consum que es converteix ràpidament en una commodity.

No hi ha efecte de qui guanya s'ho queda tot. No hi ha captura de l'usuari. No hi ha moat.

La meva dona és docent. Com que ara comença la campanya de la grip, la Generalitat ofereix vacunar als docents que ho vulguin. La meva dona s'hi ha apuntat i, com ella, ho han fet tots els docents de ciències de l'institut (física, mates, biologia, tecnologia), però es veu que entre els de lletres hi ha poca demanda. Això, sincerament em preocupa. De què serveix haver llegit molt, si després no serveix per prendre bones decisions en relació al món que ens envolta?

Això lliga amb n'analfabetisme sobre la IA que inunda els estaments polítics i periodístics. Les manipulacions d'OpenAI i Anthropic sobre els perills de la IA només poden tenir recorregut en un món d'ignorància matemàtica i computacional.

I avui, mentre recollia a la meva filla, he sentit, de nou, la típica conversa sobrte els avions que desfan la pluja. He sentit gent amb diplomes universitaris parlar d'aquestes coses. Fa por, la veritat.

Quan sento els diferents costats del debat sobre la vivenda sento molts ecos de coses que sabem que no funcionen, tant de sobreregulacions ineficaces com de liberalisme naïf i estúpid. Tan difícil és fer una lectura històricament sòlida i basada en l'evidència científica?

Podria entrar a discutir sobre la manca de perspectiva trascendental i sobre l'antropologia errònia que utilitzen els liberals d'esquerres i de dretes, però no cal arribar aquí. És suficient esgrimir la ciència i la raó, però aquests són valors a la baixa.

Que tothom hagi anat a Medium i, en major mesura, a Substack em genera molta tristor. Era tan bonica internet quan cadascú es feia la seva pròpia pàgina. I és tan fàcil fer-se una pàgina avui en dia amb models de llenguatge! El problema és la monetització, però a la vella Internet tampoc monetitzàvem i no passava res.

IA vol dir moltes coses, en vol dir tantes, que no vol dir res. És una branca amplíssima de les matemàtiques, que no ens serveix per comprendre què és el que fa una tecnologia concreta. Un Tesla té molta IA, però no té cap LLM. Quan parlem de LLMs, hem de parlar de LLMs. Programem amb LLMs, i els models aquests "tan perillosos" d'Open AI i Anthropic, són simples LLMs, que no fugen d'enlloc, simplement diuen a les seves brides ("harness") el que han de fer i les brides ho fan. Si fan res maliciós és perquè les brides ho permeten i les brides són programades per un programador concret amb noms i cognoms. Així doncs, quan un veu com funciona aquesta tecnologia, que simplement afegeix un token a una llista de tokens, res no fa por, no hi ha cap perill. És per aquesta raó que hem de ser clars i precisos i els models de llenguatge són això, models de llenguatge que s'equivoquen perquè donen respostes plausibles, no respostes exactes. Així doncs, hem de ser clars amb el llenguatge. Anthropic i OpenAI estan en el negoci dels models de llenguatge, no de la IA en general. I s'hi han ficat fins al genoll i no saben com sortir-ne. Per això parlen d'IA.

1. Els models LLM no pensen, només maninpulen símbols.
2. La resposta del módel és implícita al prompt i a la finestra de context.

Si tenim això clar, en podrem treure profit, si no, podem acabar com els polítics i periodistes que parlen de models que s'escapen del control humà.

El concepte de progrés actua com un mecanisme protector per protegir-nos dels terrors del futur.

• De «Recull de Frases de Muad'Dib», per la princesa Irulan.

• Duna. Frank Herbert

Molta gent diu que els usuaris d'IA no pensem, que hem delegat les nostres capacitats cognitives a una màquina que no té criteri. Jo sovint penso el contrari, que la conversa amb el model de llenguatge et permet tenir idees que no hauries tingut. No cal que el raonament del model sigui correcte, simplement és suficient que tiri sobre la taula conceptes relacionats amb el que penses per tal que tu els recullis i els uneixis d'una manera que la màquina no hauria fet. No és meravellós això?

D'aquesta manera jo he tingut moltes idees que no hauria tingut, com quan explico la meva feina tècnica a algú que no en té ni idea de tècnica. Sovint explicar és la millor manera d'aprendre i en això la IA ens ajuda molt. I, a més, la IA també és capaç de traduir, escriure codi i fer moltes altres coses útils molt bé. No crec que ser anti-IA aporti res, la veritat, en el fons, ser anti-IA és ser anti-matemàtiques.

La Bea Sánchez ens 📺explica que la recerca científica mostra que la intel·ligència ajuntada a l'autisme augmenta l'ansietat i la ideació suïcida. La intel·ligència, per si sola, és un protector contra els problemes de salut mental, però quan hi ha autisme, l'efecte és contrari.

Està molt ben explicat. La que ho explica és autista i sembla prou intel·ligent, per tant, sap explicar-ho bé perquè parla de l'experiència, a part de fer-ho des dels estudis científics.

Quan veig aquests vídeos veig vídeos sobre la meva vida. 😓

Ho mostraré en tres detall:
1. L'altra dia vaig dinar amb uns familiars relativament llunyans. Un d'ells parlava com la Voxsfera a X. Feia por sentir-ho! Sempre m'havia semblat un home raonable!
2. El concessionari Renault al que he anat sempre, ara ja no té la concessió de Renault i passaran a una marca xinesa.

Res, són dues anècdotes, però el món serà molt diferent d'aquí uns anys.

1. L'Imperi declara la prohibició dels models xinesos per raons de seguretat.
2. L'Imperi regula la recerca en IA, també per raons de seguretat i només permet que hi hagi uns quants proveïdors vetats per l'estat.
3. La Xina ens passa la mà pel davant.

L'Imperi són els EUA i tots els països sotmesos a ell, començant per Europa.

No sé si això passarà, però n'hi ha uns quants que remen en aquesta direcció, començant per Anthropic.

La empresa de inteligencia artificial Anthropic afirmó este jueves que ha frustrado varios posibles complots en los que se utilizaron sus modelos de Inteligencia Artificial (IA) para realizar investigaciones que podrían haber contribuido al desarrollo de armas biológicas y que Irán usó la IA Claude para planificar posibles ataques contra EE.UU.

Anthropic desarticula posibles complots que usaban su IA para investigar armas biológicas

Cada dos per tres surten notícies relacionades amb Anthropic sobre suposats grans perills de la IA. Sempre provenen d'aquesta empresa. És una estratègia de màrqueting ?

L'altre dia parlava amb un amic sobre si la IA ens fa més productius. Ell em va dir que sí. Jo tinc dubtes.

És evident que la IA m'ajuda a fer moltes coses molt més ràpidament, però també és cert que ha baixat tant la barrera de fer petits projectes, que és fàcil dedicar moltes hores a fer "aquella petita cosa que crec que necessito". Potser sóc jo que visc dins l'espectre, però sospito que això li pot passar a molta gent.

La conclusió seria que tenia IA pot anar molt bé, però cal molta disciplina i objectius molt ben definits.

Per cert, no en sabem res encara de l'impacte de la IA en la productivitat macroeconòmica, no? Es nota al PIB que tenim ordinadors que fan coses increïbles?

Quan llegeixo sobre autisme, en llibres seriosos, em sento identificat amb quasi tot el que es diu (tenint en compte que no hi ha dos autistes iguals). Però sempre llegeixo amb perplexitat les seccions sobre el contacte visual. No em sento identificat ni amb la necessita obsessiva per fer contacte visual, que els llibres anglosaxons solen mencionar com a comportament neurotípic, no amb les dificultats per fer-ne.

Sospito, i això és l'interessant, que hi ha moltes diferències culturals al respecte. De fet, els llibres seriosos espanyols sobre autisme que he llegit, no parlen del tema (parlo de memòria).

Suposo que al món anglosaxó es miren als ulls (o creuen que ho fan) i aquí anem movent la mirada més, de la cara de l'interlocutor, a l'entorn, etc. No ho sé. És possible. Em costa trobar bones referències a internet. La majoria de referències que trobo comparen l'est asiàtic amb el món anglosaxó.

Vosaltres, quan parleu amb la gent, on teniu la mirada?

Jo crec que miro la cara, en general, però també miro l'entorn, etc. Mai ningú m'ha fet cap comentari de que no mantingui bé la mirada durant una conversa.