🔊Legislatura: Limia explicó el proyecto de regulación de la Inteligencia Artificial en Córdoba

¡Compartir es demostrar interés!

El Legislador del Bloque Hacemos Unidos por Córdoba Leonardo Limia se refirió al proyecto que tiene como objetivo normar el diseño, desarrollo, pruebas, implementación, mantenimiento, supervisión y retiro de sistemas de inteligencia artificial (IA) en los sectores público y privado de la provincia de Córdoba.

“Su fin es proteger los derechos y libertades fundamentales, promover la democracia, garantizar la seguridad y la privacidad de las personas, y salvaguardar la salud de la ciudadanía”, indicó.

PROYECTO:

 

ARTÍCULO 1°: Propósito. Esta ley tiene como objetivo normar el diseño, desarrollo, pruebas, implementación, mantenimiento, supervisión y retiro de sistemas de inteligencia artificial (IA) en los sectores público y privado de la provincia de Córdoba. Su fin es proteger los derechos y libertades fundamentales, promover la democracia, garantizar la seguridad y la privacidad de las personas, y salvaguardar la salud de la ciudadanía.

ARTÍCULO 2°: Fundamentos y Valores. Esta normativa se basa en la protección de los derechos y libertades fundamentales establecidos en la Constitución Nacional, los tratados internacionales de rango constitucional, la Constitución de la Provincia de Córdoba y la legislación vigente relacionada con la protección de datos personales y derechos digitales.

ARTÍCULO 3°: Definiciones. Para los efectos de esta ley, se definen los siguientes términos:

1. Inteligencia Artificial (IA): Conjunto de tecnologías que combinan datos, algoritmos y procesos informáticos para resolver problemas y tomar decisiones simulando la inteligencia humana.
2. Sistema Inteligente: Plataforma capaz de analizar, resolver y optimizar problemas complejos de manera autónoma o asistida.
3. Algoritmo: Secuencia de instrucciones y reglas diseñadas para procesar datos y obtener resultados específicos.
4. Sesgo Algorítmico: Cualquier distorsión o parcialidad no deseada en la toma de decisiones por un sistema de IA.
5. Ciclo de Vida: Fases desde la concepción, desarrollo, implementación y desuso de un sistema de IA.
6. Datos Biométricos: Información personal derivada de características físicas, psicológicas y comportamentales de una persona.
7. Proveedor de IA: Persona física o jurídica que participa en el diseño, comercialización o uso de sistemas de IA.

ARTÍCULO 4°:   Principios Fundamentales. Los sistemas de IA desarrollados en la Provincia de Córdoba deben adherirse a los siguientes principios:

1. Sostenibilidad y Durabilidad: Diseñados para su uso prolongado y eficiente.
2. Equidad y No Discriminación: Vigilancia continua para evitar sesgos.
3. Ética en el Desarrollo: Respeto a los derechos humanos y la dignidad.
4. Confiabilidad y Monitoreo: Supervisión constante para evitar efectos adversos.
5. Transparencia: Trazabilidad en el desarrollo y funcionamiento de los sistemas.
6. Responsabilidad: Cada sistema debe tener un responsable de su cumplimiento normativo.

ARTÍCULO 5°: Sujetos Involucrados. Esta ley aplica a:

1. Organismos de los tres poderes del Estado provincial.
2. Empresas con participación mayoritaria del Estado provincial.
3. Proveedores de servicios contratados por el sector público provincial.

ARTÍCULO 6°:   Creación del Registro. Se crea el «Registro Único de Sistemas Inteligentes» para documentar el ciclo de vida de los sistemas de IA.

ARTÍCULO 7°: Registro de Proveedores. Los proveedores de IA deberán inscribirse en el «Registro de Empresas de Inteligencia Artificial», brindando información relevante sobre sus productos y servicios.

ARTÍCULO 8°:   Informe Anual. Los sujetos obligados deberán presentar un informe anual sobre la implementación y evaluación de sus sistemas de IA, garantizando el cumplimiento de los principios éticos.

ARTÍCULO 9°: Autoridad de Aplicación. El Poder Ejecutivo designará la Autoridad de Aplicación encargada de hacer cumplir esta ley.

ARTÍCULO 10°: Funciones de la Autoridad. La Autoridad de Aplicación tendrá las siguientes funciones:

1. Gestionar el «Registro Único de Sistemas Inteligentes».
2. Evaluar el cumplimiento de la normativa.
3. Promover buenas prácticas y prevenir abusos en el uso de IA.
4. Sancionar a los responsables que incumplan la ley.

ARTÍCULO 11°: Creación del Concejo. Se establece el Consejo Provincial de Inteligencia Artificial para colaborar con la Autoridad de Aplicación y contribuir a la difusión y cumplimiento de esta ley.

ARTÍCULO 12°: Integración. El Consejo estará integrado por representantes expertos en inteligencia artificial, ética, derecho y otras ramas relevantes, provenientes de organismos estatales, instituciones privadas y universidades con sede en la Provincia de Córdoba.

ARTÍCULO 13°: Funciones del Consejo. El Consejo Provincial de Inteligencia Artificial tendrá las siguientes funciones: a) Proponer recomendaciones para el cumplimiento de la normativa. b) Contribuir a la prevención de sesgos algorítmicos y la discriminación. c) Facilitar la cooperación entre entidades de la sociedad civil, sector privado, instituciones académicas y organismos estatales. d) Fiscalizar, autorizar y establecer obligaciones. e) Desarrollar directrices sobre el abordaje ético y técnico de la IA. f) Promover la capacitación tecnológica centrada en el desarrollo y uso de IA. g) Establecer sanciones por incumplimiento de las obligaciones establecidas en esta ley, pudiendo imponer multas o la supresión del sistema.

ARTÍCULO 14°.- Obligaciones de los Proveedores de IA. Los proveedores de sistemas de inteligencia artificial deberán:

1. Gestión de Riesgos: Probar los sistemas para identificar amenazas y mitigar su impacto.
2. Cumplimiento Normativo: Asegurarse de cumplir con los requerimientos de esta ley y someterse a las evaluaciones de la Autoridad de Aplicación.
3. Inscripción y Documentación: Inscribirse en el registro correspondiente y proporcionar información técnica para la supervisión del sistema.
4. Monitoreo Continuo: Realizar un seguimiento constante de las operaciones de IA y mantener documentación para verificar el cumplimiento de esta ley.
5. Informe de Incidentes: Notificar a la Autoridad de Aplicación sobre cualquier incidente que ocurra en el uso de los sistemas de IA.

ARTÍCULO 15°: Registro de Sistemas IA. Determínese la creación de un Registro de los Sistemas de IA, que dependerá del Consejo Provincial de Inteligencia Artificial, debiendo establecer su categorización conforme a los riesgos y que deberá contener:

1. Características Técnicas del Sistema: Incluyendo finalidad, objetivos, diseños, funcionamiento, técnicas y algoritmos utilizados.
2. Datos Personales Tratados: Incluyendo naturaleza, fuente y destinatarios de los datos.
3. Medidas de Transparencia y Seguridad: Aplicadas al sistema.
4. Seguro de Responsabilidad Civil: Proporcionado por empresas de seguros autorizadas para cubrir posibles daños ocasionados por errores de uso del sistema.

ARTÍCULO 16°: Clasificación de Riesgos. Los sistemas de IA se clasificarán en: a) Inadmisible: Riesgo peligroso para la seguridad, la vida y los derechos humanos. b) Alto: Afectan negativamente a la seguridad, derechos fundamentales, y explotación de infraestructura crítica. c) Medio: Riesgo potencial moderado. d) Bajo: Riesgo mínimo o insignificante.

ARTÍCULO 17°: Protección a los Ciudadanos. Se garantiza que toda persona física o jurídica que se considere amenazada o perjudicada por un sistema de IA pueda denunciar ante la Autoridad de Aplicación.

ARTÍCULO 18°: Educación y Capacitación. El Consejo Provincial de Inteligencia Artificial promoverá la educación y capacitación en IA, tanto a nivel escolar como profesional, fomentando una sociedad tecnológicamente avanzada e inclusiva.

ARTÍCULO 19°: Ciberseguridad. Se garantiza un nivel adecuado de protección de ciberseguridad, para prevenir el acceso no autorizado, manipulación o interferencia malintencionada de los sistemas de IA.

ARTÍCULO 20°: Auditoría de Sistemas. La Autoridad de Aplicación realizará auditorías periódicas y aleatorias para asegurar que los sistemas de IA cumplan con esta ley. Estas auditorías evaluarán la conformidad con los principios éticos y técnicos, la efectividad de las medidas de seguridad y la adecuación del tratamiento de datos personales.

ARTÍCULO 21°: Evaluación de Impacto. Los proveedores de sistemas de IA deberán realizar evaluaciones de impacto antes de la implementación de nuevos sistemas o modificaciones significativas a sistemas existentes. Estas evaluaciones deben identificar posibles impactos negativos en derechos fundamentales y proponer medidas para mitigar esos riesgos.

ARTÍCULO 22°: Protección de Datos. Los sistemas de IA deberán cumplir con la Ley Nacional de Protección de Datos Personales (Ley N° 25.326) y cualquier normativa provincial aplicable. Se establecerán directrices específicas para el manejo, almacenamiento, procesamiento y eliminación de datos personales.

ARTÍCULO 23°: Consentimiento y Transparencia. Los usuarios deberán ser informados claramente sobre el uso de sus datos en sistemas de IA, y deberán dar su consentimiento explícito antes de que sus datos sean utilizados. Los sistemas deben permitir a los usuarios acceder a sus datos y solicitar su corrección o eliminación.

ARTÍCULO 24°: Fomento de la Investigación. Se promoverán y apoyarán iniciativas de investigación y desarrollo en inteligencia artificial dentro de la provincia, priorizando proyectos que aborden desafíos éticos y de seguridad.

ARTÍCULO 25°: Colaboración Internacional. La Provincia de Córdoba fomentará la colaboración con otras jurisdicciones y entidades internacionales para compartir buenas prácticas, conocimientos y desarrollos tecnológicos en el campo de la inteligencia artificial.

ARTÍCULO 26°: Programas Educativos. Se implementarán programas educativos sobre inteligencia artificial y ética digital en los niveles de educación primaria, secundaria y superior, para preparar a las futuras generaciones en el uso responsable y consciente de la tecnología.

ARTÍCULO 27°: Capacitación Profesional. Se desarrollarán programas de capacitación continua para profesionales del sector tecnológico y para aquellos que utilicen sistemas de IA, con el fin de garantizar que se mantengan al día con las últimas normativas y mejores prácticas.

ARTÍCULO 28°: Políticas Públicas. La integración de la inteligencia artificial en políticas públicas deberá estar alineada con los principios de esta ley y ser evaluada periódicamente para asegurar su impacto positivo en la sociedad.

ARTÍCULO 29°: Uso en Servicios Públicos. Cualquier implementación de sistemas de IA en servicios públicos deberá ser revisada y autorizada por la Autoridad de Aplicación, asegurando que se respete la normativa y se protejan los derechos de los ciudadanos.

ARTÍCULO 30°: Plazo de Adaptación. Se concede un plazo de 180 días desde la entrada en vigencia de esta ley para que los proveedores de sistemas de IA y los organismos públicos se adapten a las nuevas disposiciones y realicen los ajustes necesarios.

ARTÍCULO 31°: Excepciones Temporales. Las disposiciones de esta ley no se aplicarán de forma inmediata a sistemas de IA que ya se encuentren en uso a la fecha de su entrada en vigencia, concediendo un período de adaptación de un año para su adecuación a las nuevas regulaciones.

ARTÍCULO 32°: Publicación. Comuníquese al Poder Ejecutivo Provincial, publíquese y archívese.

 

Fdo.: Leonardo Limia

 

 

FUNDAMENTOS

Nos encontramos inmersos en una era de transformaciones tecnológicas profundas que impactan directamente en las dinámicas sociales, económicas y políticas a nivel global. La inteligencia artificial (IA) ha dejado de ser una mera herramienta experimental y se ha convertido en un componente esencial en diversos ámbitos de la vida humana. Desde la automatización en la industria hasta la optimización de servicios públicos, la IA está moldeando nuevas realidades. Sin embargo, junto con su inmenso potencial, emergen desafíos éticos, legales y de seguridad que requieren atención inmediata.

El desarrollo acelerado de los sistemas de IA plantea interrogantes fundamentales sobre su uso responsable y el impacto en los derechos de las personas. Este proyecto de ley tiene como objetivo establecer un marco normativo que garantice un equilibrio entre la promoción de la innovación tecnológica y la protección de los derechos fundamentales de la ciudadanía en la provincia de Córdoba.

La IA es una disciplina dentro de las ciencias de la computación que busca dotar a las máquinas de capacidades cognitivas que simulen la inteligencia humana. Los sistemas basados en IA son capaces de aprender, razonar, tomar decisiones y, en algunos casos, actuar de manera autónoma. Este poder transformador es innegable y ha demostrado ser útil en áreas como la salud, la educación, la justicia y la seguridad, por mencionar algunas.

Sin embargo, el desarrollo de la IA también acarrea riesgos que requieren una regulación adecuada. Entre ellos, destacan el potencial sesgo algorítmico, la vulnerabilidad de los datos personales, los problemas de privacidad y los riesgos de ciberseguridad. Además, existe el peligro de que estas tecnologías, si no se regulan correctamente, refuercen desigualdades estructurales y generen nuevas formas de exclusión.

En el plano internacional, se ha comenzado a debatir activamente sobre la necesidad de regular la IA. La declaración de Hiroshima del G7 subraya la importancia de gestionar los riesgos que conlleva la inteligencia artificial, enfatizando la protección de las personas y el respeto por los principios democráticos. En la misma línea, la Declaración de Bletchley se centra en la seguridad de los sistemas de IA y propone un enfoque colaborativo para abordar los riesgos globales de esta tecnología.

Organismos como la Unión Europea han avanzado significativamente en la creación de marcos regulatorios para la IA, con propuestas como el «Artificial Intelligence Act», que busca establecer normas vinculantes para el uso de la IA en el ámbito europeo. Este tipo de legislación se ha convertido en un referente para otras jurisdicciones que buscan regular de manera adecuada estas tecnologías emergentes.

El contexto argentino no está exento de los desafíos que plantea la IA. En la provincia de Córdoba, la implementación de esta tecnología, tanto en el sector público como privado, está en aumento, y es fundamental contar con una regulación adecuada que garantice que su uso se alinee con los principios éticos, los derechos humanos y las normativas de protección de datos.

Este proyecto de ley tiene como objetivo normar el diseño, desarrollo, pruebas, implementación, mantenimiento, supervisión y retiro de sistemas de IA en la provincia. Su propósito es crear un marco de confianza que promueva el desarrollo tecnológico mientras protege la privacidad, la seguridad y los derechos de los ciudadanos.

Entre los ejes fundamentales que busca este proyecto, podemos mencionar:

• Protección de derechos fundamentales: La IA debe desarrollarse y utilizarse de manera que respete los derechos y libertades fundamentales, tal como se consagran en la Constitución Nacional, los tratados internacionales de derechos humanos y la Constitución de la Provincia de Córdoba.
• Transparencia y responsabilidad: La ley exige la trazabilidad de los sistemas de IA, desde su concepción hasta su implementación, y establece obligaciones claras para los desarrolladores y proveedores de estas tecnologías. Se establece el Registro Único de Sistemas Inteligentes, donde se documentarán todas las fases del ciclo de vida de los sistemas de IA, asegurando así un control adecuado por parte del Estado.
• Supervisión y sanciones: La autoridad de aplicación será responsable de supervisar el cumplimiento de la ley, con la potestad de sancionar a aquellos que no cumplan con las normativas. Asimismo, se crea el Consejo Provincial de Inteligencia Artificial, un órgano consultivo que velará por el desarrollo ético y responsable de la IA en la provincia.
• Prevención de sesgos y discriminación: Los sistemas de IA deberán cumplir con principios de equidad y no discriminación. Es crucial garantizar que las decisiones automatizadas no reproduzcan sesgos que afecten negativamente a determinados grupos sociales.
• Educación y capacitación: La implementación de programas educativos sobre IA será clave para que las futuras generaciones puedan enfrentar de manera crítica y responsable los desafíos que presenta esta tecnología. Asimismo, se promoverá la capacitación continua de los profesionales involucrados en el desarrollo y uso de la IA.

Para sintetizar, este proyecto de ley responde a una necesidad urgente de establecer reglas claras y precisas sobre el uso de la inteligencia artificial en la provincia de Córdoba. Con la creación de un marco legal innovador, Córdoba se posiciona como un líder en la regulación de IA, en consonancia con los debates y avances internacionales.

Por todo lo expuesto, solicito el acompañamiento de mis pares para la aprobación de este proyecto de ley que permitirá fomentar el desarrollo responsable de la inteligencia artificial, asegurando que su impacto en nuestra sociedad sea positivo y respetuoso de los derechos fundamentales.

 

 

 

Fdo.: Leonardo Limia