El Parlamento Europeo avanzó hacia la creación de la primera legislación mundial en materia de inteligencia artificial (IA), estableciendo su postura negociadora. Han transcurrido dos años desde que Bruselas presentó la propuesta original, y mientras los co-legisladores europeos debatían, la tecnología ha avanzado a pasos agigantados. El objetivo actual es llegar a un acuerdo sobre el nuevo reglamento con los gobiernos europeos este mismo año.
La aparición de Chat GPT y otros programas de IA ha demostrado el potencial transformador de esta tecnología. Por esta razón, los eurodiputados están proponiendo límites más estrictos que los previstos en el borrador del reglamento y prohibiciones adicionales para garantizar que el despliegue de la IA en Europa sea compatible con el respeto a los derechos humanos. El desafío es mitigar sus riesgos sin obstaculizar la innovación ni perder las oportunidades que estas tecnologías ofrecen a la sociedad.
Regulaciones más estrictas para los modelos de IA
El informe aprobado ayer propone un enfoque basado en el nivel de riesgo que cada tecnología de IA presenta, con una regulación específica para lo que se conoce como modelos fundacionales, como Chat GPT, OpenAI y Midjourney. Estos modelos estarán sujetos a estándares de transparencia más estrictos y tendrán prohibido generar contenido ilegal. Asimismo, deben advertir que el contenido ha sido generado por una máquina y ofrecer información sobre las fuentes utilizadas para su entrenamiento, en particular aquellas sujetas a derechos de autor.
Limitación a la vigilancia personal y protección de datos sensibles
Además, el Parlamento Europeo propone una postura más estricta en cuanto a la vigilancia personal, buscando prohibir aplicaciones de la Inteligencia Artificial que sean intrusivas o discriminatorias. Se proponen prohibiciones tanto para sistemas de identificación biométrica en tiempo real en espacios públicos como para sistemas de identificación facial basados en grabaciones, a menos que estos se utilicen en investigaciones judiciales por delitos graves y cuenten con autorización judicial.
Los eurodiputados también abogan por prohibir sistemas que categoricen a las personas en función de datos sensibles (sexo, raza, etnia, religión, orientación política o estatus legal), así como los sistemas especializados en reconocer emociones en lugares de trabajo, educativos o incluso en marcos policiales o judiciales.
Fomento de la innovación y protección de los derechos del ciudadano
Para fomentar la innovación, el proyecto de reglamento propone exenciones para las actividades de investigación y para los componentes de IA proporcionados bajo licencias de código abierto. También se propone la creación de entornos controlados para que las autoridades públicas puedan probar la IA antes de su implementación y habilita vías para que los ciudadanos presenten quejas y puedan recibir explicaciones sobre decisiones basadas en sistemas de IA de alto riesgo que afecten a sus derechos.
El pleno del Parlamento Europeo votará la propuesta en junio. De aprobarse, comenzará la negociación directa entre el Parlamento Europeo, el Consejo y la Comisión, con el objetivo de llegar a un acuerdo en el segundo semestre del año.
