Cuando se habla de inteligencia artificial muchos asocian el concepto con películas futuristas ambientadas en un mundo en el que los hombres disputan el dominio con las máquinas, como en la saga Terminator. En realidad la inteligencia artificial ya está presente entre nosotros e incidiendo en nuestra cotidianeidad mucho más de lo que pensamos, solo que no se expresa en forma de un robot musculoso montado en moto disparando por ahí a diestra y siniestra. Se emplea en acciones mucho más sutiles, como decidir los contenidos que nos muestran las redes sociales, por ejemplo, o decodificar las órdenes verbales que le damos al teléfono, o mostrarnos los pronósticos climáticos desde las páginas web. Son algoritmos que procesan datos, muchos datos, grandes volúmenes de datos, y toman decisiones como si fuésemos nosotros mismos, pero más rápidos y mejor informados. Al menos en la teoría.
Esta masificación del uso de la inteligencia artificial motivó que la Unesco, la oficina de las Naciones Unidas para la Ciencia y la Educación, promoviera la primera “norma mundial sobre la ética de la inteligencia artificial”, que se presentó en el pasado mes de noviembre y que fuera aprobada por los 193 estados miembro.
Audrey Azoulay, Directora General de la Unesco, presentó el jueves la norma adoptada por los Estados Miembro de la Unesco en la Conferencia General, marcado un precedente histórico en materia de regulación. “El texto establece valores y principios comunes que guiarán la construcción de la infraestructura jurídica necesaria para garantizar un desarrollo saludable de la IA”, destaca la oficina, haciendo énfasis en el peso que tiene la inteligencia artificial en la toma de decisiones de los gobiernos, de las empresas, pero también de la población que elige esos gobiernos. Mucho se ha hablado y seguramente mucho queda por decir (y que nos digan) sobre la incidencia externa en los procesos electorales en diferentes países, pero especialmente en Estados Unidos en 2016, que ganó Donald Trump, donde hubo denuncias muy concretas y se comprobó que la información captada a partir de Facebook por la empresa Cambridge Analytica fue utilizada para manipular psicológicamente a los votantes, de acuerdo con los reportes de The New York Times y The Observer. En ese episodio se empleó inteligencia artificial.
Y si bien se emplea para la medicina, para mejorar la calidad de vida de personas con discapacidad, y es una gran esperanza en la lucha contra el cambio climático y otros problemas mundiales, como el hambre o la pobreza; también es factible que la inteligencia artificial esté incidiendo en una mayor radicalización en el mundo, en el aumento de los prejuicios de género y étnicos, en amenazas significativas contra la privacidad, en la vigilancia masiva, por nombrar algunos problemas a los que se ha asociado.
Por ello este paso dado por la Unesco marca un precedente significativo para empezar a dar respuesta a estos problemas con los que hasta hace bastante poco no se soñaba, en un mundo que cambió muy rápido, mucho más de lo que fuimos capaces de anticipar.
“La Recomendación”, como la presenta Unesco, tiene por objetivo “hacer realidad las ventajas que la IA aporta a la sociedad y reducir los riesgos que conlleva”. Pretende garantizar que las transformaciones digitales promuevan los derechos humanos y contribuyan a la consecución de los Objetivos de Desarrollo Sostenible, abordando cuestiones relativas a la transparencia, la rendición de cuentas y la privacidad, con capítulos políticos orientados a la acción sobre la gobernanza de los datos, la educación, la cultura, el trabajo, la atención sanitaria y la economía.
Se articula en 4 puntos –misma cantidad que las Leyes de la Robótica, de Isaac Asimov–, el primero de los cuales es la Protección de datos. En este sentido La Recomendación pide “que se actúe más allá de lo que hacen las empresas tecnológicas y los gobiernos para garantizar a las personas una mayor protección, asegurando la transparencia, la capacidad de actuar y el control de sus datos personales”. Expresa que todos los individuos deberían poder acceder a sus registros de datos personales o incluso borrarlos e incluye acciones para mejorar la protección de los datos “y el conocimiento y derecho del individuo a controlar sus propios datos”, a la vez que aumenta “la capacidad de los organismos reguladores de todo el mundo para hacerla cumplir”.
El segundo punto es la Prohibición de los marcadores sociales y la vigilancia masiva, que prohíbe “explícitamente el uso de sistemas de IA para la calificación social y la vigilancia masiva”, por ser este tipo de tecnologías “muy invasivas, vulneran los derechos humanos y las libertades fundamentales y se utilizan de forma generalizada”. Se recomienda, a la hora de desarrollar marcos normativos, que los Estados Miembro tengan en cuenta que “la responsabilidad última y la rendición de cuentas deben recaer siempre en los seres humanos y que no se debe otorgar personalidad jurídica a las tecnologías de IA por sí mismas”.
El tercer punto de la recomendación se orienta a “Ayudar a supervisar y evaluar”, y en él se pretende sentar las bases de las herramientas que ayudarán a su aplicación. “La Evaluación del Impacto Ético pretende ayudar a los países y a las empresas que desarrollan y despliegan sistemas de IA a evaluar el impacto de esos sistemas en las personas, la sociedad y el medio ambiente”. Expresa Unesco que esta herramienta “ayudará a mejorar la capacidad institucional de los países y a recomendar las medidas adecuadas que deben adoptarse para garantizar la aplicación de la ética en la práctica” y animó a considerar la posibilidad de designar un “funcionario independiente de ética de la IA o algún otro mecanismo para supervisar los esfuerzos de auditoría y seguimiento continuo”.
El último punto refiere a la Protección del medio ambiente, tanto desde el uso de la herramienta como a partir de su funcionamiento físico, procurando reducir su huella de carbono. “Incentiva a los gobiernos a invertir en tecnología verde, y si hay un impacto negativo desproporcionado de los sistemas de IA en el medio ambiente, la Recomendación instruye que no se utilicen”.
Puede que no sea más que tinta en un papel –o pixeles en la pantalla–, como muchas veces ocurre, pero este documento es un mojón y pretende marcar una pauta de comportamiento hacia un futuro que, aún sin robots motociclistas con gruesas escopetas, ya empieza a mostrarnos ciertos rasgos de ciencia ficción.