La Unión Europea ha dado un paso histórico en la regulación de la Inteligencia Artificial (IA) al aprobar la primera ley integral sobre este tema en el mundo. La Ley de Inteligencia Artificial establece un marco regulatorio para el uso de la IA en la UE, con el objetivo de garantizar un desarrollo y uso seguro, transparente y ético de esta tecnología innovadora.
¿Qué regula la Ley de Inteligencia Artificial?
La Ley de IA de la UE propone un sistema de clasificación de los sistemas de IA según el riesgo que representen para los usuarios. Esta clasificación determinará el nivel de regulación al que estarán sujetos. Entre los aspectos clave que regula la ley se encuentran:
- Seguridad y transparencia: Los sistemas de IA deben ser seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente. Se enfatiza la supervisión humana para evitar resultados perjudiciales.
- Niveles de riesgo: La ley establece diferentes niveles de riesgo para los sistemas de IA, desde aquellos considerados inaceptables hasta los de alto riesgo.
- Prohibiciones y requisitos: Se prohíben ciertos tipos de sistemas de IA que representen riesgos inaceptables, como la manipulación cognitiva o la puntuación social. Los sistemas de IA de alto riesgo deben ser evaluados antes de su comercialización y a lo largo de su ciclo de vida, y los ciudadanos tienen derecho a presentar reclamaciones sobre ellos.
- Requisitos de transparencia: Los sistemas de IA deben cumplir con requisitos de transparencia, incluyendo la revelación de la generación por IA, la prevención de la generación de contenidos ilegales y la publicación de resúmenes de datos utilizados para el entrenamiento.
- Impulso a la innovación: La ley contempla el impulso a la innovación al proporcionar espacios de pruebas y ensayos para pymes y empresas emergentes, permitiéndoles desarrollar y entrenar IA de manera segura y controlada.
Importancia para el resto del mundo
La aprobación de esta ley por parte de la Unión Europea marca un hito en la regulación de la IA a nivel global. Al establecer estándares claros y rigurosos, la UE no solo protege a sus ciudadanos y garantiza un uso ético de la tecnología, sino que también establece un ejemplo para el resto del mundo. La regulación de la IA es fundamental para abordar preocupaciones sobre seguridad, privacidad, discriminación y otros aspectos éticos relacionados con su uso. Además, esta ley fomenta la innovación al proporcionar un marco claro y seguro para el desarrollo y la implementación de la IA.
En Chile hay un Proyecto: Regula los sistemas de inteligencia artificial, la robótica y las tecnologías conexas, en sus distintos ámbitos de aplicación
Chile se unió a la discusión sobre la necesidad de regular la IA cuando en marzo de 2023 la Fiscalía anunció la implementación de un sistema de inteligencia artificial para crear patrones criminales a través de historiales delictivos. Frente al innegable e inminente aumento del uso de estas herramientas en los distintos ámbitos de la actividad humana; se hizo imprescindible comenzar la discusión.
Los aspectos que aborda el proyecto chileno
El objetivo de esta ley es garantizar que la inteligencia artificial sea un instrumento para el bienestar humano, promoviendo una discusión democrática de sus aspectos éticos, estableciendo un marco regulatorio coherente y protegiendo los derechos fundamentales de las personas en Chile.
El proyecto busca regular tanto sistemas de IA de riesgo inaceptable como de alto riesgo. Los primeros se definen como aquellos que alteran sustancialmente el comportamiento de las personas de manera perjudicial, mientras que los segundos se destinan a áreas críticas como seguridad, educación, empleo, servicios públicos, entre otros.
Se propone la creación de una Comisión Nacional de Inteligencia Artificial, encargada de evaluar y autorizar los sistemas de IA, desarrollar recomendaciones, mantener un registro de sistemas autorizados y pronunciarse sobre incidentes graves.
Los desarrolladores, proveedores y usuarios de sistemas de IA deberán solicitar autorización previa a la Comisión, someterse a pruebas de evaluación de riesgo y cumplir con requisitos de transparencia, gestión de riesgos y calidad. Se establecen sanciones por incumplimiento de la normativa.
Leer proyecto de ley aquí: PROYECTO DE LEY QUE REGULA LOS SISTEMAS DE INTELIGENCIA ARTIFICIAL, LA ROBÓTICA Y LAS TECNOLOGÍAS CONEXAS EN SUS DISTINTOS ÁMBITOS DE APLICACIÓN