Ediles del Frente Amplio proponen establecer medidas de prevención frente a los posibles riesgos de la inteligencia artificial y las plataformas conversacionales sobre la salud mental, con especial atención en adolescentes, jóvenes y adultos mayores.
La propuesta denominada “Protección comunitaria ante los riesgos de la Inteligencia Artificial en salud mental” está firmada por los ediles Valentina Charrutti, Emerson Arbelo, Mabel De Agostini y Andrés Imperial.
En la exposición de motivos sostienen que “el avance irrestricto de la inteligencia artificial y la falta de mecanismos de protección están exponiendo a la sociedad a riesgos inéditos que afectan directamente la vida y la integridad física y emocional de las personas”.
Los ediles advierten particularmente sobre la utilización sin controles de sistemas conversacionales. Según expresa la moción, “la interacción sin controles con algoritmos conversacionales y plataformas digitales ha demostrado desencadenar situaciones extremas, vinculadas a la manipulación psicológica, el aislamiento social e incluso desenlaces fatales e ideaciones de autodaño en usuarios vulnerables, especialmente adolescentes y jóvenes”.
Asimismo, consideran que “la ausencia de protocolos de emergencia y de derivación en tiempo real en estas herramientas convierte a la tecnología desregulada en un factor de riesgo crítico que no podemos ignorar a nivel comunitario e institucional”.
La iniciativa señala además que, de acuerdo con sus autores, actualmente no existe en el Parlamento “ningún proyecto de ley ni discusión parlamentaria” que aborde específicamente los efectos de la inteligencia artificial sobre la salud mental o la prevención del suicidio. Añade que la actividad legislativa y el trabajo de Agesic se han concentrado en aspectos como gobernanza, ciberseguridad, delitos informáticos y protección de datos personales.
PROTOCOLOS Y ADVERTENCIAS
Como respuesta desde el ámbito local, la moción propone tres ejes de prevención. El primero consiste en establecer “protocolos de interrupción” en entornos digitales interactivos o asistenciales, incorporando mecanismos capaces de detectar términos relacionados con depresión, ansiedad, aislamiento o contemplación de autolesionarse o quitarse la vida.
En esos casos, plantea “interrumpir el flujo conversacional e imprimir de inmediato las líneas públicas de atención”, entre ellas las correspondientes a los servicios de prevención del suicidio del Ministerio de Salud Pública.
Un segundo punto propone incorporar advertencias visibles para dejar en claro la naturaleza de estos sistemas. En particular, plantea recordar al usuario “que interactúa con un programa informático desprovisto de empatía o criterio médico real, impidiendo la simulación afectiva engañosa”.
El tercer eje apunta a la prevención comunitaria y capacitación digital, mediante herramientas destinadas a familias, docentes y trabajadores de la salud para detectar tempranamente “señales de aislamiento digital o dependencia de plataformas conversacionales en jóvenes y adultos mayores”.
Los ediles consideran además que el Ministerio de Salud Pública y las autoridades competentes en salud mental deberían evaluar la incorporación de “protocolos de alerta temprana y derivación obligatoria ante situaciones de crisis en plataformas digitales y de salud integradas con IA”.
