El Parlamento Europeo ha dado luz verde al proyecto de ley que regulará la inteligencia artificial (IA), una norma que será más rigurosa con los sistemas que representen un nivel de riesgo mayor para los derechos humanos o la salud de las personas. Este avance legislativo se produce después de intensas negociaciones entre el Parlamento, el Consejo y la Comisión Europea, con el fin de establecer un marco regulatorio eficaz y seguro para la IA. El texto ha recibido un mayoritario respaldo al ser aprobado con 499 votos a favor, 28 en contra y 93 abstenciones.
El Parlamento se ha manifestado a favor de que la vigilancia biométrica remota en la vía pública en tiempo real esté totalmente prohibida, así como que los sistemas de IA generativa, como el ChatGPT, deban notificar que los contenidos han sido generados por IA. Además, consideran de alto riesgo a los sistemas de IA que se utilizan para influir en los votantes durante las elecciones.
Restricciones y prohibiciones en el uso de la IA
La propuesta lanzada por la Comisión Europea en abril de 2021 planteaba un enfoque basado en el riesgo, es decir, que se impondrían obligaciones a los proveedores y usuarios de sistemas de IA en función del nivel de riesgo que esta tecnología pudiera generar. La Eurocámara ha decidido expandir las prohibiciones a usos más intrusivos y discriminatorios de la IA, como los sistemas de identificación biométrica a distancia en tiempo real y sistemas que categoricen a las personas en función de su comportamiento social o características personales.
Además, los sistemas de categorización biométrica que utilizan características sensibles, como el sexo, la raza, la etnia, el estatus de ciudadanía, la religión u orientación política, también estarán prohibidos. Esto también se extiende a los sistemas policiales predictivos, sistemas de reconocimiento de emociones en servicios policiales, y la gestión de fronteras, entre otros.
“La IA plantea muchos interrogantes desde el punto de vista social, ético y económico. Pero ahora no es el momento de pulsar ningún ‘botón de pausa'”, señaló el comisario de Industria, Thierry Breton, subrayando la necesidad de una regulación exhaustiva de la IA. En este contexto, se prevé que las nuevas normas entrarán en vigor en 2026, pero mientras tanto, la UE pretende negociar un gran pacto sobre IA con Estados Unidos.
Diálogo interinstitucional para una normativa eficaz
El visto bueno del Parlamento Europeo marca el inicio de las negociaciones interinstitucionales con el Consejo para regular la inteligencia artificial. El primer diálogo a tres bandas tendrá lugar este mismo miércoles en Estrasburgo, pero será la presidencia española de la UE a partir del 1 de julio quien asuma el liderazgo de estas negociaciones.
La propuesta de regulación también impone que los sistemas que puedan utilizarse en diversas aplicaciones se analicen y clasifiquen en función del riesgo que supongan para los usuarios. Así, diferentes niveles de peligro implicarán una regulación más o menos intensiva.
Los proveedores de modelos fundacionales en IA, una novedad en el campo, tendrán la obligación de evaluar y mitigar los posibles riesgos y registrar sus modelos en la base de datos de la UE antes de comercializarlos en la región.
Los sistemas de IA generativa basados en estos modelos, como ChatGPT, tendrán que cumplir con requisitos adicionales de transparencia. Este incluye la identificación del contenido como generado por IA, para facilitar la distinción entre las falsificaciones y las imágenes auténticas.
Además, los ciudadanos podrán presentar reclamaciones sobre estos sistemas y se garantizará su derecho a obtener explicaciones sobre decisiones generadas por sistemas de alto riesgo que puedan menoscabar significativamente sus derechos fundamentales.
