Que la Intel·ligència Artificial (AI) ha arribat a les nostres vides per a quedar-s'hi sembla, hores d'ara, una evidència gairebé palmària. Que això sigui bo o dolent dependrà de molts factors, fonamentalment del marcs regulatoris, de les eines de control que s'hi apliquin i d'un cert nivell de consens respecte l'ús per part de la Comunitat Internacional.
És innegable que la Intel·ligència Artificial és un camp de coneixement i de progrés i que utilitzat adequadament pot aportar molts avantatges a la humanitat. Segurament els detractors argüiran que acabarà amb milers de llocs de treball. Cert, però segur que en crearà molts d'altres. I si fem un repàs molt breu a la història de l'ésser humà des que va començar la Revolució Industrial a Anglaterra al darrer quart del Segle XVIII, s'han perdut milers, milions de llocs de treball des que els telers van substituir els artesans que cosien a mà, i al final això va acabar comportant la reducció del temps de treball i una millora de la qualitat de vida.
Això mateix pot aportar la Intel·ligència Artificial, però amb un marc de control que permeti d'una banda conèixer quan s'ha utilitzat i quan no, i d'altra banda que es tingui en compte no vulnerar els drets d'autor i la propietat intel·lectual dels "humans" que han dedicat moltes hores a crear continguts, sia científics, tècnics o artístics (aquí hi ha un punt de debat molt interessant respecte a com -és a dir, amb quin material- s'entrena la AI...però això serà motiu d'un altre article).
Òbviament, el tema és d'una profunditat i d'un abast impossible de tractar adequadament en un humil article d'opinió però sí que em crida l'atenció el mal ús que se n'està fent -d'altra banda com de tota tecnologia incipient i sense un marc regulatori adequat-. Aquests dies, fent recerca, n'he trobat un d'extraordinari que il·lustra de forma molt clara una part del problema.
L'any que acabem de deixar, 2024, un bibliotecari de Londres i -tal com ell s'anomena- investigador ocasional, Andrew Gray, va analitzar cinc milions d'articles científics publicats a revistes de reconegut prestigi mundial. I va trobar un patró de repetició de paraules que en una majoria d'articles es repetien més del que seria normal (i en tots ells) el que suggereix -com a mínim- una utilització del CHATgpt per a redactar, o pulir els seus articles.
Algunes de les paraules que més es repeteixen en tots els articles són: meticulously (fins a un 137%), intricate (117%), commendable (83%) o meticulous (59%).
Fins aqui, diguem-ne, podria ser acceptable, però hi ha però alguns casos identificats de "deixadesa" que clamen el cel.
Per exemple, el febrer de 2024, un equip de científics xinesos va publicar un treball de recerca sobre bateries de liti. L'estudi es va publicar en una revista especialitzada d'una editorial de contingut científic que es diu Elsevier (https://www.elsevier.com/). El treball publicat, començava d'aquesta manera, i no és broma: "Per descomptat, aquí tens una possible introducció pel teu tema: Les bateries de liti són candidates prometedores per a...."; és a dir, els autors van demanar al ChatGPT una introducció, se'ls va passar canviar-ho (segurament per no tenir l'Anglès com a llengua vehicular) i la van copiar com a tal (com va fer una Consellera d'Educació del Govern Balear que sense tenir ni idea del que estava parlant, quan va rebatejar l'Informe "Pisa" com a Informe "Trepitja" (Consellera Balear Joana Maria Camps, el novembre de 2013). És el que té la ignorància, que és agosarada.
El pitjor de tot plegat però és que l'article va passar tots els filtres de l'editorial Elsevier i va acabar publicat. Naturalment, el primer científic que el va llegir va advertir l'editorial de la gran barbaritat que acabaven de publicar i aquests no van tenir més remei que retirar el "paper" de forma immediata.
A la darrera frase de la justificació de la retirada de l'article (que avui dia no es pot trobar ni digitalment ni físicament) és (últim paràgraf de la imatge adjunta): "In addition there are concerns that the authors appear to have used a Generative AI source in the writing process of the paper without discloure, which is a breach of journal policy" (A més a més, hi ha la preocupació que els autors semblen haver utilitzat una font d'IA generativa en el procés d'escriptura del document sense informar-ne, cosa que suposa una infracció de la política de la revista").
Però si hi hagués hagut més rigor en la revisió de l'article (per part d'humans, no de robots entrenats amb IA), segurament tot això no hagués arribat a passar mai. Tot i això, que passin aquestes coses, i que s'acabin descobrint ajuda a donar idees de la necessitat d'una gran acció reguladora global sobre la IA. Tan de bo es vagi aprenent d'aquest tipus d'experiències.
Cap comentari:
Publica un comentari a l'entrada