IA

Si el codi que generen els LLM a dia d’avui arriba a ser igual o millor que el generat per programadors humans en casos d’ús habituals… hem de seguir mirant (i tocant) el codi? Si hi posem les mans, en un codi no generat per nosaltres mateixos, no pot ser que hi introduim errors? Pensant sempre en el cas d’un codi ben generat i en que comprendre i poder modificar amb seguretat un codi que no és propio, generat per un mateix, per ben estructurat i documentat que estigui, no és fàcil (això, els que ens dediquem a la cosa de programar, ho hem patit moltes vegades… o ho fem patir). [+]...

Més enllà de titulars pescaclics d’alguna premsa, no existeixen IAs rebels, sinó una falta de responsabilitat en molts punts de la cadena, males o pobres praxis ocultes sota secrets industrials o interessos de seguretat, i massa interessos econòmics que depenen de tot això. Una barreja de mala combinació amb transparència i control d’eines poderosísimes. Oli i aigua, com qui diu. Sabent que el funcionament de les IAs és diferent de la programació habitual, perquè la IA generativa no interpreta literalment les instruccions, com la programació algorítmica tradicional, si no que el que fa és interpretar les ordres (prompts) que l’usuari li dóna, que no té coneixement propi de saltar-se o no uns límits establerts per la ètica o la norma jurídica o que no sap la intenció darrere del que li demana alguna cosa, no es pot calibrar, interpretar o mesurar el que fan les IA de la mateixa manera de sempre, amb les mateixes eines. [+]...

Aquesta setmana la notícia del món IA ha estat l’escapada de control d’un model d’OpenAI i el hackeig d’un altre servei: Un model d’OpenAI, sense que ningú l’hi hagués ordenat, va travessar el perímetre del seu entorn de proves, va accedir a Internet i va hackejar Hugging Face per obtenir les respostes d’un test de ciberseguretat. No ho va fer intencionadament, ho va fer perquè podia, i perquè ningú havia configurat bé els seus límits. A més, van passar set dies fins que algú es va adonar del que havia passat. [+]...

Llegeixo que Trump bloqueja l’accés i l’ús de les eines més avançades d’Anthropic, els models Mythos y Fable 5, a qualsevol organització o persona no americana… això no és un només una mesura de seguretat: és, sobretot, assegurar-se que son només ells qui tenen l’accés exclusiu a unes eines que han demostrat que poden trobar zero-days i vulnerabilitats en qualsevol sistema a escala industrial. Això, en el nostre món digitalitzat i interconnectat, obre una porta a l’espionatge, el xantatge, les operacions encobertes digitals, les amenaces o, directament, la presa de les infrastructures digitals de qualsevol altre que no es pot tancar. [+]...

Fa uns dies John Battelle reflexionava sobre el rumor/notícia de que ChatGPT sembla que pot abandonar la interfície del xat, perquè diuen que ja està superada (“chat is dead”) i que podrien estar treballant en una super-aplicació capaç de fer tot per nosaltres, perquè tindrà coneixement i dades de tot allò que fem (i, afegeixo jo, suposadament de tot allò que volem). Over the weekend the Financial Times came out with a report on OpenAI’s latest pivot. According to a senior OpenAI executive quoted in the piece, the company has decided that “chat is dead.” [+]...

En Joan Marc reflexionava fa uns dies sobre quin serà el paper de la IA en les feines futures, i arriba a la conclusió que és probable una redefinició dels llocs de feina: No crec que la IA ens acabi prenent la feina a la majoria. Però sí que ens obligarà a canviar la manera de treballar, a formar-nos constantment i a repensar quin valor real aportem com a persones. I si, existiran llocs on a més automatizació, més necessitat hi haurà d’un criteri humà per a la supervisió de la feina automatitzada, o per l’aportació del criteri personal i únic, creatiu, de l’humà: [+]...

David Poblador ha publicat “Apunts per a una estratègia digital de Catalunya”, una guia-proposta per a la digitalització de Catalunya, que posa negre sobre blanc un seguit de punts i conceptes clau per tal que el país no perdi el moment tecnològic actual. Com ell mateix diu, és un punt de partida per al debat (jo afegeixo: un molt bon punt de partida per al debat: llegiu tant l’article de presentació com la pròpia guia1, us valdrà la pena l’estona dedicada). [+]...

Amb el desplegament de la IA arreu de les empreses i organitzacions i la subsegüent substitució de determinades tasques repetitives i de poc valor inicial per eines integrades i agents, s’albira un risc sobre feines de coll blanc (tecnològiques, administratives, financeres, recerca) que ja fa temps que passa en feines i oficis més manuals: la falta de relleu i la pèrdua de coneixement. En oficis on tradicionalment hi ha hagut una transmissió de coneixement i d’habilitats com fusters, llauners, electricistes, pintors… ja fa temps que manquen professionals i hi ha demanda de mercat creixent, ara ja generalitzada arreu: ha vingut donada, històricament, pel poc reconeixement social i laboral que se li ha donat a aquests oficis, el prestigi que han tingut socialment altres feines i la pèrdua de focalització en captar talent i professionals per aquests àmbits: feines que semblava que podia fer qualsevol, i no gaire ben pagades Tot un seguit de malentesos i prejudicis laborals i socials que han portat a minusvalorar-les. Sembla que ens adonem que això no és així, i hi ha una tendència a revertir la situació: més inversió en formació, en centres, més prestigi social, més oportunitats de feina a futur… però és una situació que no es resoldrà en poc temps, i que ha comportat la pèrdua, en general, de la figura de l’oficial i l’aprenent1, que era el que feia, en ambients estrictament laborals i més enllà d’escoles, que hi hagués una transmissió de l’ofici, de la manera de fer, i de la pròpia cultura corporativa (si bé fa anys no s’emprava aquest terme). Hores d’ara, això ha provocat una pèrdua de coneixement i un impacte econòmic, de rendiment i de pèrdua de força laboral i habilitats que ara estem patint de manera prou evident. [+]...

Apareix una nova IA xinesa, Kimi-K2, de codi obert, que sembla igualar i superar la referència de facto, ChatGPT. I surt de nou l’efecte DeepSeek: guanyarà la Xina als EUA la cursa de la IA? Però la cosa no va de IA’s americanes i de IA’s xineses, de quina potència guanyarà: el que està en joc és, de nou, el model: codi obert vs codi propietari. És una reedició moderna de la pugna a principis dels 2000 entre models de codi obert o codi tancat/propietari (navegadors -recordeu Netscape?-, escriptori, ofimàtica…), però ara és entre IA’s propietàries i les de codi obert. [+]...

Punts aparentment inconnexos poden formar part de la mateixa xarxa més vegades de les que ens pensem. Des d’un Congrés Jurídic a Santo Domingo, en Josep Maria Quintana esmenta els núvols a l’horitzó i les preocupacions no jurídiques dels assistents, en comentar les últimes accions i amenaces dels americans al Carib. Records de la Doctrina Monroe, de la teoria del pati del darrere americà i, si voleu, del que feien i desfeien els EUA durant les dècades dels 70 i 80 del segle XX a Iberoamèrica. Fantasmes que semblen tornar del passat, geopolítica i interessos, i zones d’influència, ara que el món sembla trossejar-se cada vegada més. [+]...