- "Se prohibirán en Europa prácticas inaceptables de IA y se protegerán los derechos de los ciudadanos"
Fue el pasado jueves 1 de agosto cuando entró en vigor la primera y pionera legislación que busca regular los sistemas de Inteligencia Artificial (IA) que operen en nuestro continente para garantizar la seguridad y los derechos fundamentales de los ciudadanos de la Unión Europa ante los riesgos que plantea esta tecnología.
Este Reglamento, acordado en las negociaciones con los Estados miembros en diciembre de 2023, tiene como objetivo defender los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental frente a la IA que entraña un alto riesgo.
Para ello, esta ley tiene una serie de prohibiciones y obligaciones para la IA en función de sus riesgos potenciales y su nivel de impacto que serán controlados por la Oficina de IA. En este artículo vamos a hacer un repaso de cuales son estos vetos y en qué consisten.
Prohibiciones que entran en vigor con la Ley de IA europea
"Gracias al Parlamento, se prohibirán en Europa prácticas inaceptables de IA y se protegerán los derechos de los trabajadores y los ciudadanos" explica, el coponente de la comisión de Mercado Interior Brando Benifei, "nos aseguramos de que los seres humanos y los valores europeos estén en el centro mismo del desarrollo de la IA".
Aplicaciones prohibidas
La nueva normativa prohíbe ciertas aplicaciones de IA que atentan contra los derechos de la ciudadanía, como los sistemas de categorización biométrica basados en características sensibles y la captura indiscriminada de imágenes faciales de internet o grabaciones de cámaras de vigilancia para crear bases de datos.
Al mismo tiempo que veta cualquier IA que manipule el comportamiento humano o explote las vulnerabilidades de las personas.
Exenciones de las fuerzas de seguridad
Si bien el uso de sistemas IA para el control de la población por parte de las fuerzas de seguridad queda prohibido salvo para casos concretos y situaciones muy bien definidas. El uso de estos sistemas que controlan en tiempo real estará limitado a casos extremos en tiempos y lugares especificados antes y con una autorización judicial.
Obligaciones para los sistemas de alto riesgo
El uso de la IA para infraestructuras críticas, la educación y la formación profesional, el empleo, los servicios públicos y privados esenciales (por ejemplo, la sanidad o la banca), determinados sistemas de las fuerzas de seguridad, la migración y la gestión aduanera, la justicia y los procesos democráticos (como influir en las elecciones) tendrán unas claras pautas de funcionamiento donde la transparencia primará y los ciudadanos podan reclamar y pedir explicaciones sobre su funcionamiento o actuación.
Requisitos de transparencia
Como decíamos, la transparencia va a ser una de las claves de este Reglamento, y por ello esta nueva normativa estará centrada defender y obligar a los sistemas a marcar y mostrar los derechos de autor y publicar resúmenes detallados del contenido usado para entrenar sus modelos.
FUENTE: elEconomista.es
