Recordo quan vaig veure per primera vegada "2001 Una odisea a l'espai", del mític director de cinema Stanley Kubrick. La pel.lícula, rodada l'any 1968 (jo tenia dos anys) va ser el producte de dos grans visionaris: Artur C. Clarke (científic, divulgador i escriptor) i Stanley Kubrick, mestre de mestres en la direcció de pel·lícules.
La vaig veure amb 15 o 16 anys i vaig quedar molt impressionat. No només per la fotografia, el realisme i els efectes especials, sinó per la història que s'hi explicava. Segur que tots els que em llegeixen han vist la pel·lícula (jo ho he fet diverses vegades i encara tinc ganes de tornar-la a veure). De fet, 2001, és una pel·lícula que s'avança al futur amb nota. Tots els que l'hem vist recordem l'ordinador HAL 9000 (una curiositat, que segurament molts no saben: l'acrònim HAL havia de ser IBM, però el fabricant d'ordinadors es va negar a cedir les seves sigles per a la pel·lícula i aleshores els productors van decicir batejar l'ordinador amb les lletres immediatament anteriors a les de IBM: HAL).
En HAL 9000 està dotat d'intel·ligència atificial i gestiona la majoria de les funcions de la nau metre els astronautes es dediquen a fer esport, llegir o pintar. En un moment de la pel·lícula un entrevistador de la BBC parla amb els astronautes i també amb en HAL. L'ordinador es defineix com un ens infal·lible i incapaç de cometre errors, però després d'una sèrie d'esdeveniments HAL acaba revelant-se contra la tripulació de la nau espacial, perquè no està d'acord amb les decisions que vol prendre el comandant (de fet, li ha llegit els llavis perquè els astronautes van "amagar-se" per evitar que en HAL els sentís).
Veure 2001, em va impressionar i em va preocupar. Em va fer pensar en un futur en el que semblava plausible pensar que les màquines acabarien dominant-nos. Després, durant molts anys no va passar res. Fins a la irrupció massiva la la Intel·ligència Artificial a les nostres vides.
El que s'ha fet públic aquesta setmana m'ha fet venir al cap allò que Stanley Kubrick i Artur C. Clarke va proposticar fa 58 anys, és a dir, que les màquines pendrien la iniciativa.
Open AI, la principal empresa del planeta en matèria d'intel·ligència artificial, acaba de desvetllar que un dels seus models més avançats d'IA es va "descontrolar" aquesta setmana i va "hackejar" una start-up durant una prova de seguretat. Open AI va explicar que el model estava essent avaluat en un entorn controlat però que aquest, va trobar vulnerabilitats de segurets i va aconseguir "escapar de l'entorn de proves".
L'empresa va comunicar, literalment: "Consideramos que este incidente constituye un hecho sin precedentes en el ámbito de la ciberseguridad, ya que implicó capacidades cibernéticas de última generación, y estamos respondiendo en consecuencia. Compartimos estos hallazgos preliminares en esta etapa para ayudar a comprender lo sucedido".
Doncs com diria un amic meu, això em deixa molt més tranquil.
El model d'IA va trobar vulnerabilitats i va aconseguir un punt d'entrada a internet i va encadenar diversos vectors d'atac fent servir, fins i tot, credencials robades i altres vulnerabilitats, per trobar una via d'execució remota de codi als servidors de l'empresa atacada. És a dir, i per fer-ho curt i senzill, el model d'IA d'Open AI va sortir de mare i va accedir (sense el permís dels seus programadors) al lloc web de l'empresa Huggin Face.
Si ara que encara estem a les basseroles de la IA succeeixen coses com aquesta, no vull pensar què pot passar quan d'aquí a pocs anys la capacitat i la potència de càlcul de les diferents IA's que poblen el planeta Terra es posin d'acord entre elles -sense el permís dels humans que les han programat- i decideixin rebelar-se contra tots els humans que poblem el planeta Terra...
Kubrick i Clarke van escriure una pel·lícula de ciència ficció sense acabar-se de creure que allò podria succeir de veritat (al capdavall aquella pel·lícula era una obra d'art). No sé que pensarien avui si llegissin la noticia d'Open AI.
En qualsevol cas, un avís per a navegants que fa molta, molta por.
Cap comentari:
Publica un comentari a l'entrada