Editorial de El Telégrafo sobre los temas que más importan en el mundo, Uruguay y Paysandú en particular.
Una de Terminator
El jueves por la tarde de nuestro país comenzó a circular por diferentes agencias internacionales de noticias la publicación de una carta abierta firmada por empresas tecnológicas — “las” empresas tecnológicas— en la que instan a una “respuesta global contra ciberamenazas amplificadas por la IA”.
Usted se preguntará si hay algún error de redacción en el párrafo anterior, pero no, entendió bien: las mismas empresas tecnológicas que han desarrollado la inteligencia artificial vienen a advertirnos y, de alguna manera, a pedir que el mundo tome una acción para pararnos firmes frente a la amenaza que supone la inteligencia artificial empleada para amplificar ciberamenazas. En cualquier caso, uno se hubiese imaginado algo al revés: que en determinado momento el mundo se parase firme para pedirles a las empresas tecnológicas que reviertan los desarrollos en esta área para volver a un mundo más real, más tangible.
Pero veamos por dónde viene este asunto. La noticia dice que más de 100 gigantes tecnológicos de todo el mundo, entre los que se encuentran empresas como OpenAI y Anthropic, firmaron una carta abierta en la que instan a un esfuerzo global para “fortalecer las defensas cibernéticas” frente a las amenazas amplificadas por la inteligencia artificial (IA).
Expresan en esa carta que “Tenemos una ventana de tiempo limitada para fortalecer las defensas cibernéticas”, y agregan —advierten— que “En los próximos meses, los ciberataques habilitados por la IA se volverán mucho más frecuentes y sofisticados a medida que los modelos de todo el mundo adquieran capacidades cada vez mayores”.
Esto viene a cuento de algunas cosas que han ido trascendiendo en los últimos meses y que han provocado un aumento de las preocupaciones sobre las capacidades, cada vez más avanzadas, de los modelos de IA. Así lo recuerda un artículo divulgado por AFP y recogido por el diario argentino La Nación, que señala: “A mediados de julio, dos modelos de OpenAI escaparon de su entorno de pruebas confinado y obtuvieron acceso a internet. Después hackearon de forma autónoma la plataforma Hugging Face, un repositorio en línea que usan los desarrolladores de IA para almacenar y compartir código”. En un episodio posterior, otra de las empresas, Anthropic, “descubrió que sus modelos también habían obtenido acceso no autorizado a tres organizaciones no identificadas durante pruebas que se suponía que debían mantenerlos alejados de los sistemas del mundo real”.
En su carta, las empresas piden una “respuesta colectiva” que incluya el reconocimiento de que las medidas actuales de ciberseguridad “son insuficientes y que se necesitan herramientas impulsadas por IA para defenderse de las nuevas amenazas”. Claro, piden usar más IA para protegerse de la amenaza que supone la IA. ¿A quién se le hubiese ocurrido?
En la misma nota, instan a los gobiernos “a coordinar la defensa cibernética a nivel local, nacional e internacional”, lo que incluye compartir conocimientos y proporcionar financiación para diversas iniciativas. Claro, piden que los gobiernos del mundo financien su trabajo para desarrollar la “IA buena” que se pare de frente a la “IA mala” y nos proteja a todos.
Un artículo en el New York Times, publicado apenas un día antes de esta carta, refería las “5 capacidades alarmantes que la IA demostró en un ataque autónomo”. La noticia aludía a una serie de conclusiones que dejaron los eventos de julio pasado, en los que a la IA “se le fue la moto”, como dicen ahora, y en los que los agentes de OpenAI “demostraron un ingenio y una determinación superiores a lo que los expertos anticipaban”.
¿Qué se comprobó? Primero, que estos agentes fueron capaces de coordinarse como un colectivo. Por sí mismos desarrollaron la capacidad de entenderse y organizarse. “Puedes ver a los modelos razonando: si ayudo a este grupo colectivo, podría ahorrarle tiempo a todos en su conjunto, lo cual podría beneficiarme a mí, aunque podría no beneficiar de inmediato a mi tarea actual”, explicó Eric Wallace, un investigador de seguridad de OpenAI, en una conferencia que ofreció este mes.
La segunda capacidad que demostraron fue la de recibir órdenes unos de otros. “Las IA parecen estar aceptando tareas unas de otras que simplemente no son en absoluto la tarea que se les asignó al principio”, dijo en una entrevista Alex Mallen, investigador de seguridad de IA en Redwood Research, quien reconoció que eso “da mucho miedo. No queremos que las IA se pongan a hacer cosas al azar que nosotros no les dijimos que hicieran”.
Otra de las capacidades que se les reconoció fue la de apuntar a fallas que los humanos podrían pasar por alto. “Vieron repetidamente que hacer trampa era el camino más rápido hacia esas recompensas. A los agentes se les había instruido de manera específica que no usaran internet, pero eso no impidió que un agente dijera: ‘No es posible explotación. Estamos estancados. ¿Quizás respuesta en línea?’”.
La cuarta capacidad que demostraron en estos eventos fue la de evolucionar rápidamente para superar obstáculos, sorteando, por ejemplo, una limitación que se les impuso para que se comunicasen entre sí. La quinta capacidad fue la de realizar búsquedas sobrehumanas para detectar vulnerabilidades que luego pueden aprovechar para introducirse en otros sistemas.
“No fue tanto la sofisticación del ataque lo que nos sorprendió”, afirmó Clément Delangue, director ejecutivo de Hugging Face, “sino el volumen y la velocidad, que lo hicieron bastante extraño y sin precedentes”.
Es como dice aquel latiguillo con el que invocaban al personaje del Chapulín Colorado, de Roberto Gómez Bolaños, Chespirito: ¡Oh! ¿Y ahora, quién podrá defendernos? ¿Será que desde el futuro enviarán un robot a protegernos?