Explicación de la Ley de Inteligencia Artificial en el Perú y cómo se aplica
La nueva Ley de Inteligencia Artificial ( N° 31814 ), que promueve el uso de la inteligencia artificial (IA) en el Perú, es un gran paso hacia la modernización del país. Esta ley busca que la tecnología no solo mejore nuestra economía, sino también nuestra sociedad en general. En este post, analizamos la ley y su reglamento, destacando qué deben hacer las entidades públicas, qué no pueden hacer los privados y cómo todos podemos beneficiarnos de estas nuevas regulaciones.
Tabla de Contenido
- Marco General de la Ley N° 31814
- ¿Cuál es el propósito y objetivos de esta ley?
- Los principios rectores
- ¿Por qué hay un reglamento? - ¿A quiénes y cómo se aplica este marco jurídico?
- Obligaciones de las Entidades Públicas
- Restricciones para el Ámbito Privado
- Permisos y Herramientas para Entidades Públicas
- El Ente Responsable
- Cuestionamiento sobre Herramientas
- Costos y Soluciones Web Actuales - Conclusión
- Recomendaciones desde una perspectiva como profesional en TI y en Derecho
1. Marco General de la Ley N° 31814
¿Cuál es el propósito y objetivos de esta ley?
La Ley N° 31814 tiene como objetivo promover el uso de la inteligencia artificial dentro del marco de la transformación digital nacional. Esta ley busca que la IA se utilice de manera ética y sostenible para mejorar tanto la economía como la vida de los ciudadanos. En otras palabras, quiere asegurarse de que la tecnología ayude a la gente, respetando siempre los derechos humanos y promoviendo un desarrollo económico y social inclusivo y seguro.
Los principios rectores
Para alcanzar estos objetivos, la ley se basa en varios principios rectores. La Seguridad Basada en Riesgos, es esencial para identificar y mitigar cualquier peligro asociado con la IA. La Participación Plural asegura que diversas voces, tanto del sector público como privado, sean escuchadas en el desarrollo de políticas de IA. La Gobernanza de Internet y el Desarrollo Ético y Responsable garantizan que la IA se utilice de manera justa y transparente, mientras que la Protección de la Privacidad resguarda los datos personales de los ciudadanos.
De hecho hay este primero de junio del 2024 una invitación especial por parte de la Secretaría de Gobierno y Transformación Digital a realizar comentarios y aportes sobre esta ley y su reglamento. (Esta no es una publicación promocionada)
¿Por qué hay un reglamento?
En la medida que los supuestos en la realidad son amplios, es decir que pueden suceder más cosas de las previstas, se trata de la mejor estrategia, al menos en el Perú, para poder actualizar estos supuestos rápidamente. Por lo tanto publicar un reglamento o modificarlo permite flexibilidad sobre lo que se desea regular. Así mismo el proceso de modificación del reglamento es mucho más rápido y sencillo que el de una ley.
2. ¿A quiénes y cómo se aplica este marco jurídico?
El reglamento nos indica básicamente 3 grandes grupos:
I. Una lista cerrada de entidades públicas según la ley 27444:
- El Poder Ejecutivo, incluyendo Ministerios y Organismos Públicos.
- El Poder Legislativo. (Sí, El Congreso y sus congresistas)
- El Poder Judicial.
- Los Gobiernos Regionales.
- Los Gobiernos Locales.
- Los Organismos a los que la Constitución Política del Perú y las leyes confieren autonomía. (Sí, Contraloría, universidades públicas, JNE, etc . Ver fuente: https://www.gob.pe/estado/organismos-autonomos)
Lo que no define taxativamente es que si por extensión incluye todas las demás instituciones que están debajo de la jerarquía de las principales. La interpretación nos diría que sí, pero nada lo aclara.
II. Las empresas públicas, las que están en FONAFE.
:quality(75)/cloudfront-us-east-1.images.arcpublishing.com/elcomercio/AY65PGFLZREHLBI7ZYO2RCXGEA.jpg)
III. Los ciudadanos, privados, empresas, sociedad civil y cualquier otro privado que esté sujeto a las leyes en territorio nacional.
Para este tercer grupo, el reglamento funciona de manera inversa, nos dice qué cosa no podemos hacer explícitamente, y para los grupos I y II, indicará que funciones únicamente pueden ejecutar, pues recordemos que existe algo llamado principio de legalidad.
Nadie está obligado a hacer lo que la ley no manda, ni impedido de hacer lo que aquella no prohíbe.
En síntesis y de manera sencilla, todos los actores públicos y privados que estén dentro del ecosistema tecnológico de AI , son cubiertos por el reglamento.
3. Obligaciones de las Entidades Públicas
Las entidades públicas tienen un papel crucial en la implementación de la IA bajo esta ley. Primero, deben organizar equipos técnicos multidisciplinarios (Esto es lo que indica la ley). Estos equipos deben incluir expertos de diferentes campos para evaluar problemas públicos y buscar soluciones basadas en IA. Podríamos pensar en un ejemplo: un equipo en el Ministerio de Salud podría incluir médicos, especialistas en tecnología y analistas de datos para desarrollar un sistema de IA que optimice la distribución de recursos médicos.
Además, las entidades públicas deben generar y compartir datos. La recolección y consolidación de datos relevantes es fundamental para tomar decisiones informadas y desarrollar sistemas de IA efectivos. Un ejemplo práctico podría ser un municipio que comparte datos del tránsito de vehículos por su distrito en la plataforma de datos abiertos. De esta manera el MTC podrá tener acceso a los mismos y poder gestionar planes de mejora sobre la distribución de tránsito, semaforización y demás actividades que la AI puede ayudar gestionar y mejorar.
También es crucial que las entidades públicas refuercen las capacidades y habilidades de su personal. Esto significa capacitar a los funcionarios públicos en áreas como el uso a nivel de usuario sobre herramientas de AI y digitales para poder gestionar y subir datos de manera correcta.
4. Restricciones para el Ámbito Privado
Por otro lado, los privados tienen ciertas restricciones importantes bajo esta ley. Lo más notorio es lo dicta el reglamento: No pueden modificar el comportamiento de las personas a través de técnicas subliminales o engañosas. Según el Artículo 15.1(a), no está permitido usar la AI para manipular a la gente sin que se den cuenta. Por ejemplo, una tienda online no puede utilizarla para que los clientes compren más productos sin que ellos lo sepan. Aunque este ejemplo es un poco habitual, es lo que permite interpretar la ley.
Otra restricción clave es que los privados no pueden clasificar la fiabilidad social de las personas de manera perjudicial. Los Artículos 15.1(b) y (c) prohíben el uso de IA para crear perfiles sociales que afecten negativamente a las personas. Por ejemplo, no se puede utilizar IA para negar préstamos basándose en el comportamiento social de los solicitantes.
Considero que aquí no solo entra el comportamiento social, si no, socioeconómico, es decir hábitos de consumo. Esto sí resulta peligroso para el acceso al crédito, apalancamiento y moderación de finanzas personales.
Finalmente, los privados deben proteger la privacidad y los datos personales de los usuarios. El Artículo 18 establece que todas las empresas deben asegurarse de que los datos personales utilizados en sus sistemas de IA estén protegidos contra accesos no autorizados. Por ejemplo, una aplicación de salud debe garantizar que los datos de sus usuarios estén seguros y no sean accesibles por terceros sin autorización.
Me tomo la libertad de hacer un comentario adicional ya que en la práctica muchas veces esto no funciona. No basta con un usuario y contraseña en un panel de control. Esto merece la inversión en programas de ciberseguridad tanto a nivel tecnológico como de usuarios. El fallo humano es el eslabón más débil de la cadena.
5. Permisos y Herramientas para Entidades Públicas
Las entidades públicas no solo tienen obligaciones, sino también varias herramientas a su disposición para cumplir con sus deberes. Pueden usar sistemas de IA para mejorar la eficiencia y efectividad de sus servicios. Por ejemplo, un hospital público podría implementar un sistema de IA para gestionar citas médicas, reduciendo los tiempos de espera y mejorando la atención al paciente.
Lo que no nos dice es explícitamente cómo hacerlo y por supuesto el reglamento no debería indicarlo, pero si cabe la pregunta. Delega a la Secretaria de Gobierno y Transformación Digital como el ente que pueda direccionar las estrategias de ejecución.
Podemos plantear preguntas sobre qué cosas deberían hacer las entidades aquí. ¿Pagar Chat GPT PLus?, ¿usar Claude?, comprar un GPU y levantar su propio LLM con Mistral, Llama3 y usar algún frontend como Ollama?
Ollama es un software Open Source que permite la carga y uso de LLMs que son libres, como Llama3 de Meta, o Mistral. Con estos LLM se puede interactuar como se hace con ChatGPT. Incluso permite la habilitación de un API para enviar y procesar información.
Sin duda muchas preguntas que no tienen respuestas en este momento pero que según sea el caso se irán respondiendo en base a la implementación para las necesidades.
El Ente Responsable
La Secretaría de Gobierno y Transformación Digital, bajo la Presidencia del Consejo de Ministros, es la encargada de dirigir y supervisar el uso de la IA en el sector público. Este ente no sólo brinda soporte técnico, sino que también coordina la implementación de proyectos de IA en todo el país. Su rol es crucial para asegurar que la tecnología se utilice de manera eficiente y ética.
Cuestionamiento sobre Herramientas
Las entidades públicas enfrentan una importante decisión: contratar servicios externos o desarrollar sus propios recursos. Contratar servicios especializados en IA puede ser una opción rápida, pero también costosa. Por ejemplo, usar servicios de computación en la nube como AWS o Google Cloud para el procesamiento de IA puede resultar en costos recurrentes significativos. Por otro lado, levantar servidores propios de GPU puede ser una inversión inicial alta, pero a largo plazo podría reducir los costos operativos. Crear un centro de datos interno para manejar proyectos de IA permitiría mayor control y seguridad sobre los datos, aunque implicaría una gestión más compleja y costosa.
Costos y Soluciones Web Actuales
Desarrollar infraestructura interna para IA puede ser extremadamente costoso, con inversiones que pueden superar varios millones de dólares. Alternativamente, las soluciones web actuales, como los servicios de computación en la nube, ofrecen flexibilidad y escalabilidad. Plataformas como Microsoft Azure, AWS y Google Cloud proporcionan herramientas avanzadas para el desarrollo y despliegue de IA, permitiendo a las entidades públicas centrarse en la implementación más que en la infraestructura.
La realidad es que hoy en día Microsoft e IBM tienen estrechas relaciones con el Gobierno Peruano y es posible que para la implementación de este tipo de soluciones veamos ventas B2G con soluciones de Copilot para el Estado, o de Watson con IBM para soluciones un poco más complejas de análisis.
Conclusión
La Ley N° 31814 y su reglamento establecen un marco robusto para el desarrollo y uso de la inteligencia artificial en el Perú, con claras obligaciones y restricciones tanto para entidades públicas como privadas. Las entidades públicas tienen la opción de desarrollar infraestructura interna o utilizar servicios externos, cada una con sus propias ventajas y desafíos. Las soluciones web actuales ofrecen una alternativa viable, permitiendo a las entidades públicas adoptar tecnologías avanzadas sin incurrir en los altos costos de infraestructura propia (por ahora). Sin embargo, la decisión final debe basarse en un análisis detallado de costos, beneficios y la capacidad de la entidad para gestionar dichas tecnologías de manera efectiva.
Recomendaciones desde una perspectiva como profesional en TI y en Derecho
La implementación de soluciones para gobiernos ya empaquetadas es interesante y muchas veces económica, en lugar de implementar centros de datos propios. No obstante, esto muchas veces genera dependencia tecnológica de terceros. Desde mi punto de vista, capacitar personal técnico en el uso, despliegue y manejo de LLM es clave para poder hacer saltos de tecnología, stack y del uso de modelos de Lenguaje según cada necesidad.
No es necesario que cada municipalidad tenga un GPU corriendo con un LLM propio, el uso de Open Source puede abaratar estas soluciones, pero es clave que el personal técnico está preparado para poder hacer el manejo y despliegue de estas herramientas.
