La inteligencia artificial ya está en las noticias. A ver, entendámonos, el lector dirá que desde hace tres o cuatro años no hacemos otra cosa que hablar de la inteligencia artificial, sus posibles usos, sus potenciales efectos sobre el mercado de trabajo a gran escala y mil cosas más, incluyendo los constantes cambios de liderazgo autoproclamados por los principales actores de este campo. Ni en la Vuelta Ciclista se ve tanto cambio de malla líder. Pero esto de ahora es diferente, la inteligencia artificial no está en las noticias por referencias a su desarrollo sino porque ahora está protagonizando hechos en la vida cotidiana y empieza a cumplir algunas de sus amenazas. Y está apareciendo por varios frentes, por un lado por su utilización en el conflicto bélico en curso y los límites éticos que ello pone en cuestión, y por otro lado por los usos con fines nocivos, para hacer el mal, si prefieren la expresión. E incluso aquí mismo, en Paysandú, hemos tenido nuestra buena dosis de discusión a partir del spot de difusión de la 59ª Semana de la Cerveza.
Vayamos por parte. En los últimos días la inteligencia artificial se puso en el centro de la controversia en el conflicto de medio oriente por la difusión de algunos videos empleados como demostración de que el primer ministro de Israel Benjamin Netanyahu sigue gozando de buena salud, saliendo al cruce de rumores respecto a su muerte en manos de los ataques lanzados desde Irán. Estos videos fueron señalados como producciones realizadas mediante herramientas de inteligencia artificial. Un análisis forense del servicio EFE Verifica descartó que los videos hubieran sido creados por inteligencia artificial, en especial sobre uno de ellos, en el que se indicaba la existencia de un error, apunta que “un visionado fotograma a fotograma demuestra que el supuesto dedo adicional es el dorso de su mano, que sobresale junto a la sombra del meñique”. Además de demostrar que el líder israelí estaba vivo, hubo que demostrar que el video que lo comprobaba era verdadero. Cosas de esta era.
En los últimos día también hubo manifestaciones desde China advirtiendo sobre un uso desmedido y poco ético de parte de los Estados Unidos de la inteligencia artificial en el conflicto bélico. “China advirtió el miércoles al Gobierno estadounidense que un uso desmesurado de la inteligencia artificial (IA) en el ámbito militar podría sumir al mundo en el apocalipsis de la película Terminator, donde las máquinas toman el poder”, dice el título de la Deutsche Welle en español. La noticia agrega información respecto al “intenso debate ético” sobre las aplicaciones militares de la inteligencia artificial, que protagonizan el gobierno de Donald Trump y la empresa Anthropic, a la que se impusieron sanciones. La firma se negó a permitir que el ejército utilice su tecnología sin restricciones, como le exigía la administración, “en particular para la vigilancia masiva de la población o la automatización de ataques y bombardeos con consecuencias mortales”. Hay varias referencias sobre la utilización de modelos tecnológicos de Anthropic en la preparación de la ofensiva contra Irán.
Pero salgamos de la guerra y seguiremos encontrando a la inteligencia artificial en las noticias, porque en nuestro país repetidamente se está empleando la imagen de dirigentes políticos, comunicadores y ahora también empresarios, para tratar de hacer caer a la población en esquemas de estafas mediante la difusión de videos en las redes sociales. Las imágenes y voces de los ministros de Economía y Finanzas, Gabriel Oddone, y de Industria, Energía y Minería, Fernanda Cardona, así como en su momento del presidente de la República, Yamandú Orsi, lo mismo que la de algunos conocidos comunicadores, y más recientemente del fundador de Mercado Libre, Marcos Galperin, han sido empleados para difundir información falsa e inducir a cualquiera que se encuentre desprevenido a caer en una de estas estafas.
Pero los usos maliciosos de estas herramientas digitales no quedan allí. Recientemente, en la sede de la ONU, en Nueva York, el Ministerio de la Mujer de Paraguay y CAF coorganizaron un laboratorio de innovación que reunió a ministras, especialistas en IA y emprendedoras tecnológicas para debatir “cómo reorientar el ecosistema digital hacia la protección efectiva de las mujeres y el acceso real a la justicia”, publicó la entidad financiera multilateral. “El doxing, la extorsión con material íntimo, la vigilancia no consentida y la desinformación dirigida son nuevas formas de violencia”, advirtió. Esta participación tuvo lugar en el marco de la 70.ª reunión de la Comisión de la Condición Jurídica y Social de la Mujer (CSW70), donde se exploró la “dualidad” de la tecnología: cómo ciertas arquitecturas digitales y algoritmos pueden facilitar violencias contra las mujeres, mientras otras soluciones tecnológicas pueden acelerar la prevención, la atención y el acceso a la justicia. Alicia Pomata, ministra de la Mujer de Paraguay, señaló que estas nuevas formas de violencia digital “se expanden más rápido que las respuestas institucionales y generan desafíos inéditos en materia de derechos, evidencia probatoria y protección efectiva”. Agregó que “la misma innovación que hoy nos desafía es la que nos ofrece capacidades sin precedentes para la prevención, el monitoreo en tiempo real y la creación de redes de respuesta inmediata”. Poner la inteligencia artificial a enfrentar los desafíos a los que nos expone la inteligencia artificial.
Otra noticia en el mismo contexto alude a la generación de imágenes sexualizadas de menores a través de la herramienta de inteligencia artificial de la plataforma X, la vieja Twitter, renombrada tras su adquisición por el controvertido Elon Musk.
La periodista Samantha Smith denunció que Grok, la inteligencia artificial de X, fue empleada para remover digitalmente su ropa, dejarla en ropa interior o ponerla en poses y situaciones sexuales. “Aunque no era yo quien aparecía en estados de desnudez, se veía como yo y se sentía como yo, y me sentí tan violada como si alguien hubiera publicado una foto mía desnuda o en bikini”, dijo. Luego se demostró que la misma herramienta se había utilizado para generar imágenes sexualizadas de menores de edad, lo que motivó el reconocimiento del error y pedidos de disculpas.
A esta altura de los acontecimientos no se puede poner en duda que la inteligencia artificial es parte de nuestro presente y seguirá aquí en el futuro, pero también estamos a tiempo de generar los marcos necesarios para evitar que se salga de control, como ocurrió con las redes sociales, un fenómeno que nos pasó por arriba y no llegamos a anotar la matrícula.
