Proyecto de Ley 588.

Resumen.

El proyecto establece un marco de gobernanza adaptativa para sistemas de inteligencia artificial en Panamá. Define qué se entiende por sistema, impacto, salvaguardas y experimentación regulatoria. Alcanzaría los usos que influyan significativamente en decisiones sobre derechos, oportunidades, acceso, trato o bienestar en los sectores académico, público y privado. Su aplicación sería diferenciada según el impacto, el contexto y los riesgos. Dispone principios de protección de derechos, proporcionalidad, transparencia, participación, trazabilidad, experimentación segura y aprendizaje continuo. Las autoridades evaluarían el efecto sobre los derechos, la conducta y el acceso a servicios, así como la escala, duración y reversibilidad de los efectos, la vulnerabilidad de las personas y el control humano disponible.

La Secretaría Nacional de Ciencia, Tecnología e Innovación (SENACYT) emitiría lineamientos para clasificar los sistemas en niveles de impacto bajo, moderado, alto y crítico y orientar las salvaguardas y la supervisión. Los sistemas de impacto crítico podrían quedar sujetos a restricciones estrictas, autorización especial o prohibición. La SENACYT coordinaría espacios de experimentación para definir requisitos mediante evidencia. El proyecto exige medidas contra la manipulación durante el ciclo de vida de los sistemas, supervisión humana significativa para decisiones de impacto alto o crítico e información comprensible sobre decisiones que afecten derechos fundamentales. Las personas podrían cuestionar esas decisiones y solicitar su revisión y corrección mediante mecanismos institucionales. La SENACYT también fomentaría la investigación científica y el desarrollo tecnológico.

Las autoridades establecerían marcos para probar tecnologías, modelos de gobernanza y salvaguardas en condiciones controladas o graduales. Entre los mecanismos previstos figuran centros de orientación para innovadores, entornos técnicos de prueba, laboratorios y prototipos de políticas públicas, un marco institucional de experimentación y espacios de prueba regulatorios o de innovación. Cada mecanismo incorporaría protección de derechos, objetivos, métricas, condiciones de entrada y salida, trazabilidad y monitoreo. Las autoridades podrían habilitar flexibilidades temporales y supervisadas de exigencias administrativas, técnicas o procedimentales en espacios coordinados por la SENACYT, sin suspender ni limitar los derechos fundamentales reconocidos en el proyecto.

Cada proyecto experimental definiría sus objetivos, alcance, hipótesis, normas sometidas a prueba, riesgos, salvaguardas, métricas y plan de salida. Sus resultados se documentarían para orientar ajustes normativos y sectoriales. Participarían el sector público, el privado, la academia, la sociedad civil y las personas afectadas. Las organizaciones públicas y privadas podrían pedir orientación y proponer pruebas de normas, procedimientos o salvaguardas, sujetas a evaluación y aprobación. Las entidades públicas que utilicen estos sistemas aplicarían protección reforzada en coordinación con la Autoridad Nacional para la Innovación Gubernamental y priorizarían la experimentación antes de adoptar de forma general soluciones de alto impacto.

El proyecto atribuye a la Comisión Nacional de Experimentación Regulatoria funciones de coordinación institucional, orientación de prioridades y supervisión de la implementación. La integrarían representantes de la Secretaría Nacional de Ciencia, Tecnología e Innovación, la Autoridad Nacional de los Servicios Públicos, la Autoridad Nacional para la Innovación Gubernamental, la Autoridad Nacional de Transparencia y Acceso a la Información y la Asamblea Nacional. La Comisión evaluaría los procesos experimentales; la SENACYT emitiría lineamientos técnicos y sistematizaría resultados. Las autoridades intercambiarían información y coordinarían sus decisiones, mientras el Estado promovería cooperación internacional. También se establecen deberes de aprendizaje continuo, uso de evidencia y revisión de normas y procedimientos. El Estado contaría con tres años desde la expedición para evaluar el marco de experimentación, priorizar regulaciones sectoriales y publicar un informe. El texto dispone su entrada en vigor a partir de la promulgación. Por su contenido, interesaría a esas entidades públicas y a los sectores académico, tecnológico y privado, así como a usuarios de servicios y personas afectadas por decisiones asistidas por inteligencia artificial.