Proyecto de Ley 413.

Resumen.

El proyecto establece reglas para el desarrollo, la implementación y el uso de la inteligencia artificial en Panamá, en relación con la Constitución y los tratados o convenios internacionales suscritos por Panamá. Alcanza el tratamiento de información y datos personales por entidades públicas y privadas. Define, entre otros conceptos, a los desarrolladores, responsables y encargados del tratamiento, así como la interpretabilidad, el sesgo algorítmico y la transparencia. Exige al responsable del tratamiento certificar estudios de diplomado de 120 horas o superiores en derechos humanos y fundamentales.

Fija principios de equidad, responsabilidad, supervisión humana, privacidad, seguridad, inclusión, sostenibilidad, transparencia y rendición de cuentas. Vincula su aplicación con los derechos mencionados en la Constitución Política de Panamá, entre ellos la dignidad, la igualdad, la vida privada, la libertad de expresión y el acceso a la justicia. También establece valores sobre derechos humanos, convivencia, diversidad y protección ambiental. Clasifica los sistemas según riesgo inaceptable, alto, limitado o nulo; proscribe el primero y permite la automatización en entidades públicas y privadas sujeta a los principios del proyecto.

Las personas afectadas podrían pedir revisión humana, reclamar, solicitar revocatoria y pedir medidas cautelares. Quienes pretendan implementar sistemas tendrían que publicar previamente una evaluación de riesgos e impacto sobre derechos; los usuarios deberían consentir de forma informada, libre y voluntaria, y los responsables informarles cuando interactúen con estos sistemas. El proyecto fija la edad mínima de uso en dieciocho (18) años. Si una institución suprime puestos por su implementación, deberá reubicar al trabajador en condiciones iguales o superiores durante un término no inferior a seis (6) meses, antes de proceder conforme al Código del Trabajo.

Excluye usos como la manipulación del comportamiento, la calificación crediticia mediante perfiles, determinadas aplicaciones biométricas, la puntuación social, la influencia electoral y la definición de decisiones judiciales. Atribuye responsabilidad legal a las instituciones que desarrollan o contratan los sistemas y dispone una orientación ambiental para los desarrolladores. Exige registrar los sistemas y encarga a la Secretaría Nacional de Ciencia, Tecnología e Innovación SENACYT establecer una unidad de supervisión y auditoría. Para los sistemas de alto riesgo requiere evaluación previa; además, prevé medidas contra sesgos, explicaciones de decisiones automatizadas, protección de datos y derechos de acceso, rectificación, cancelación y oposición.

Dispone regulación del uso de inteligencia artificial en salud, finanzas, transporte, educación, justicia y administración pública. Asigna a la Superintendencia de Industria y Comercio auditorías de algoritmos y la administración de una plataforma donde las empresas desarrolladoras registrarían sus modelos para certificación. Restringe la transferencia e intercambio de datos personales destinados a estos sistemas. Designa a la Secretaría Nacional de Ciencia, Tecnología e Innovación SENACYT como ente regulador y prevé multas, prohibiciones y otras medidas según la infracción. Menciona posibles implicaciones de la Ley NO.31 de 8 de febrero de 1996 para las telecomunicaciones, sin formular una modificación expresa de esa norma.

También establece garantías frente a la discriminación y los daños, informes de derechos humanos antes de la implementación y formación sobre esos derechos. Prevé campañas para servidores públicos y estudiantes, así como el fomento de aplicaciones educativas, científicas, culturales y administrativas por la Secretaría Nacional de Ciencia, Tecnología e Innovación SENACYT y la Autoridad para la Innovación Gubernamental. La aplicación sería progresiva y su evaluación podría dar lugar a propuestas remitidas al Órgano Legislativo. Ambas instituciones reglamentarían el proyecto dentro de tres meses siguientes a su promulgación en la Gaceta Oficial; este regiría desde su publicación y derogaría las disposiciones contrarias. Su contenido podría interesar a esas entidades públicas y a los sectores tecnológico, laboral, sanitario, financiero, de telecomunicaciones, transporte, educación y justicia.