La (futura) regulación europea de la Inteligencia Artificial

La (futura) regulación europea de la Inteligencia Artificial

ODF – Funcas 77 / 2023

Fecha: 21 diciembre 2023

Una normativa sobre inteligencia artificial pionera

Tras un intenso debate en el seno del Consejo de la UE y del Parlamento se ha llegado a un acuerdo provisional sobre una normativa común en relación con el uso de la inteligencia artificial (IA)[ii]. Se trata de un proyecto de reglamento comunitario pionero a nivel mundial, al tratarse del primer intento relevante por regular la utilización de la inteligencia artificial. El meteórico éxito de ChatGPT en este 2023 ha relanzado el interés de los organismos comunitarios por dotar a la sociedad europea de un conjunto de normas sobre la IA. El objetivo de la normativa es garantizar que los sistemas de IA comercializados en el mercado europeo y utilizados en la UE sean seguros y respeten los derechos fundamentales y los valores de la UE.

Un equilibrio complicado  

La propuesta legislativa pretende alcanzar un equilibrio complicado. Por un lado, busca impulsar la innovación y la adopción de la inteligencia artificial en toda Europa. Al mismo tiempo, pretende que el uso de esta tecnología disruptiva respete los derechos de los ciudadanos. Como se ha indicado desde la presidencia española del Consejo, la intención pasa por regular la IA en función de su capacidad de causar potencialmente daño a la sociedad siguiendo un enfoque “basado en el riesgo”. Cuánto mayor es el riesgo, más estrictas son las reglas. En cualquier caso, la normativa no será aplicable a los sistemas de IA utilizados con el único fin de investigación e innovación, ni a las personas que utilizan la IA por motivos no profesionales. Tampoco afectará a las competencias de los Estados miembros en materia de seguridad nacional o a cualquier entidad a la que se le hayan confiado tareas en esta área.

¿Qué novedades presenta la normativa propuesta?

Entre otros aspectos, la norma prohíbe el uso de la IA para la manipulación cognitiva de conductas, reconocer/identificar emociones en lugares de trabajo y en centros educativos, la creación de sistema de puntuación para determinar la reputación de una persona o una empresa (social scoring) y la categorización biométrica para inferir creencias políticas, religiosas, filosóficas, de orientación sexual y raza. Los sistemas de IA, como ChatGPT o Gemini, tendrán que cumplir con obligaciones de transparencia antes de salir al mercado. Además, aquellos modelos que, de acuerdo con la normativa, puedan tener un alto impacto sistémico, tendrán que evaluar y mitigar los riesgos, realizar pruebas, informar sobre incidentes graves, garantizar la ciberseguridad e informar sobre su eficiencia energética.

¿Qué novedades presenta la normativa propuesta?

La propuesta establece que el uso de la IA para evaluar la calificación crediticia o la solvencia de las personas físicas (credit scoring) se considerará de alto impacto, ya que estos sistemas determinan el acceso de esas personas a los servicios financieros o a la vivienda. Que este uso concreto se clasifique como de alto riesgo sistémico, llevará en la práctica a la obligación de cumplir mayores estándares. El objetivo es asegurar que el empleo de la IA en este ámbito no discrimine a personas o grupos y que no se perpetúan patrones históricos de discriminación en el acceso al crédito, por ejemplo, basados en motivos raciales o étnicos, por discapacidades, edad u orientación sexual.

[i] Now is the AI opportunity for Europe. Google. 28 de septiembre de 2023.
https://blog.google/around-the-globe/google-europe/ai-opportunity-for-europe/

[ii] Artificial intelligence act. Consejo de la UE. 9 de diciembre de 2023.
https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/

Descarga Newsletter (formato PDF)