Agents

Més enllà de titulars pescaclics d’alguna premsa, no existeixen IAs rebels, sinó una falta de responsabilitat en molts punts de la cadena, males o pobres praxis ocultes sota secrets industrials o interessos de seguretat, i massa interessos econòmics que depenen de tot això. Una barreja de mala combinació amb transparència i control d’eines poderosísimes. Oli i aigua, com qui diu. Sabent que el funcionament de les IAs és diferent de la programació habitual, perquè la IA generativa no interpreta literalment les instruccions, com la programació algorítmica tradicional, si no que el que fa és interpretar les ordres (prompts) que l’usuari li dóna, que no té coneixement propi de saltar-se o no uns límits establerts per la ètica o la norma jurídica o que no sap la intenció darrere del que li demana alguna cosa, no es pot calibrar, interpretar o mesurar el que fan les IA de la mateixa manera de sempre, amb les mateixes eines. [+]...

Aquesta setmana la notícia del món IA ha estat l’escapada de control d’un model d’OpenAI i el hackeig d’un altre servei: Un model d’OpenAI, sense que ningú l’hi hagués ordenat, va travessar el perímetre del seu entorn de proves, va accedir a Internet i va hackejar Hugging Face per obtenir les respostes d’un test de ciberseguretat. No ho va fer intencionadament, ho va fer perquè podia, i perquè ningú havia configurat bé els seus límits. A més, van passar set dies fins que algú es va adonar del que havia passat. Ja no cal una IA rebel per tenir un problema greu, n’hi ha prou amb un agent prou capaç i un entorn mal dissenyat. Aquesta és la lliçó d’una setmana que, vista des de fora, semblava dominada per llançaments i xifres de rendiment, però des de dins, planteja una pregunta que el sector ha anat posposant: saps exactament el que fan els teus agents quan no els estàs mirant? […] El cicle de l’entusiasme ha acabat, comença el cicle de la responsabilitat. — Oscar Junyent a Agents que s’escapen, feines que es perden, preus a la meitat, La Píndola de TecnologIA (28/07/2026) [+]...

Que la IA és una eina espectacular en determinats camps i usos (científics, tecnològics, mèdics) és indubtable. Que s’ha avançat moltíssim a base d’inversions gegantines en els últims anys, també. I que aquestes inversions s’han de rendibilitzar, i que la manera no és en sectors específics, de nínxol (per més útils social i científicament siguin), sinó posant-ho a l’abast de tothom, també és indubtable. I, per acabar, que aquesta rendibilització va per via comercial, perfilant la gent, fidelitzant usuaris, escrapejant dades i documentació per poder vendre productes (a nosaltres o als revenedors de dades: ull! que seguim essent el producte), també hauria de ser indubtable. [+]...

Son els agents de la IA generativa el camí a seguir en la comercialització generalitzada de la IA avui en dia? Els agents tenen el seu paper i seran un gran pas endavant per automatitzar tasques i potenciar l’ús de sistemes IA que interactuïn amb altres sistemes, però poden substituir la individualitat de cada un de nosaltres o, millor dit, actuar com si fóssim nosaltres, amb la nostra personalitat i característiques en tasques que no siguin rutinàries, que depenguin del nostre pensament i personalitat? [+]...