Amalia Granata propone una ley para incorporar alertas éticas y pedagógicas en chatbots institucionales

En un contexto de creciente uso de la inteligencia artificial en la gestión pública y los servicios sociales, la diputada Amalia Granata presentó en la Legislatura santafesina un proyecto de ley que plantea la implementación obligatoria de sistemas de advertencia en los chatbots de apoyo institucional.

La iniciativa busca crear un marco normativo para garantizar la transparencia algorítmica, la protección de datos y la prevención de riesgos derivados de la automatización sin control humano. Según la propuesta, los chatbots utilizados en ámbitos como la educación, la salud o la atención ciudadana deberán incluir alertas informativas, éticas, pedagógicas y de seguridad, diseñadas para orientar al usuario sobre los límites del sistema y promover un uso responsable de la tecnología.

El texto establece que los sistemas deberán advertir, por ejemplo, cuando una respuesta requiera la intervención de un profesional humano o cuando el contenido pueda implicar un riesgo emocional o de privacidad. Además, el diseño de estas advertencias deberá ser interdisciplinario, con participación de especialistas en ética de la inteligencia artificial, salud, educación, derecho y comunicación.

Granata fundamenta su propuesta en experiencias internacionales recientes. Menciona el caso del estado de California, que aprobó una ley obligando a los desarrolladores de chatbots a advertir sobre su naturaleza no humana, y el AI Act europeo, que clasifica los sistemas de IA según su nivel de riesgo. “En América Latina persiste una brecha regulatoria que puede profundizar vulnerabilidades si no se establecen reglas claras sobre consentimiento y responsabilidad”, advierte la legisladora.

El proyecto también prevé un plazo máximo de un año para que los organismos públicos y privados que utilicen chatbots institucionales se adapten a la normativa una vez sancionada. La autoridad de aplicación será designada por el Poder Ejecutivo provincial y deberá establecer estándares técnicos, protocolos de evaluación y criterios de inclusión progresiva.

Con esta propuesta, Granata busca posicionar a Santa Fe como pionera en regulación ética de la inteligencia artificial, promoviendo una cultura digital centrada en la persona, inclusiva y respetuosa de los derechos humanos. “Se trata de garantizar que la tecnología esté al servicio de las personas, y no al revés”, enfatizó.

---