El Parlamento Europeo llega a un acuerdo sobre la Ley europea de Inteligencia Artificial (IA)

El Parlamento Europeo llegó el pasado viernes  a un acuerdo sobre la Ley europea de Inteligencia Artificial (IA). Este acuerdo se produce tras muchas jornadas de trabajo.

Los puntos más destacados de este acuerdo serían:

Definición de IA y ámbito de aplicación.

• La definición acordada está basada en acuerdo internacional (OCDE), incluyendo elementos que refuerzan su carácter de futuro.
• Quedan fuera del ámbito de aplicación del Reglamento los usos militares o de defensa (al no ser competencia de la Unión), así como los usos relativos a la seguridad nacional.
• La norma mantiene su apuesta por un enfoque basado en el riesgo. Se regula la comercialización, la puesta en servicio o el uso de la IA cuando puede suponer un riesgo para la seguridad, la salud o los derechos fundamentales. Y se ha ampliado incluyendo los riesgos para la democracia, el Estado de derecho o la protección del medioambiente.
• En el ámbito laboral, las empresas que pongan en marcha sistemas de IA en el lugar de trabajo tendrán la obligación de informar a los trabajadores afectados y a sus representantes antes de su puesta en servicio. Además, se ha garantizado expresamente que los Estados miembros tengan la capacidad de adoptar legislaciones sectoriales con medidas más restrictivas en ámbito laboral.

Usos prohibidos y excepciones de uso para el imperio de la ley

• El acuerdo incluye una prohibición general del uso de sistemas de Reconocimiento Biométrico en remoto (RBI) en “tiempo real”, con la excepción para los usos relativos al cumplimiento de la ley, pero exclusivamente en los siguientes casos: (1) búsqueda de las víctimas de secuestro, tráfico de seres humanos, explotación sexual o búsqueda de personas desaparecidas; (2) prevención de un riesgo para la vida o la seguridad física de las personas o un riesgo de ataque terrorista; y (3) la localización e identificación de una persona concreta, sospechosa de haber cometido un crimen castigado con pena de prisión de al menos 4 años.
• En el caso de que se den estos supuestos, el acuerdo estipula que los Estados miembros tendrán que adoptar las siguientes salvaguardas antes de utilizar dichos sistemas de RBI como la previa autorización judicial o de autoridad independiente o la realización de una evaluación de impacto sobre derechos fundamentales (FRIA), entre otras. Además, una autoridad nacional independiente deberá supervisar el uso de dichos sistemas de RBI, y las autoridades judiciales o autoridad administrativa independiente no podrán tomar ninguna decisión que afecte legalmente a una persona basándose exclusivamente en el resultado del RBI.
• El acuerdo también prohíbe:

o   El rastreo de imágenes faciales de las redes sociales o internet.

o   El uso de herramientas de reconocimiento de emociones en el lugar de trabajo o en educación. Su uso en el ámbito del cumplimiento de la ley o migraciones será considerado de alto riesgo y sometido a todas las obligaciones establecidas en la ley.

o   Las herramientas de policía predictiva. Estos usos no cubren cuando se utilizan con base en hechos objetivos y verificables directamente relacionados con la comisión de un delito.

o   Los sistemas de categorización biométricas basados en las opiniones políticas, religiosas o filosóficas, pertenencia a sindicatos, en la vida u orientación sexual o la raza. La prohibición no cubre los usos para la identificación de víctimas de un delito, un sospechoso o incluso un testigo cuando se utiliza una base de datos determinada adquirida legalmente.

o   El reconocimiento Biométrico en remoto “ex-post”, salvo que haya una autorización previa por autoridad judicial y su uso está limitado estrictamente en el marco de una investigación o para la búsqueda específica de una persona condenada o sospechosa de haber cometido un delito grave

Modelo Fundacional (FM) o IA de propósito general (GPAI)

• Se establece un enfoque en dos niveles. Un primer nivel establece obligaciones de transparencia aplicables a todos los FM o GPAI, facilitando toda la información necesaria a los desarrolladores que integran dichos modelos en sus sistemas de IA. Entre las obligaciones de transparencia se incluye una declaración de medidas para respetar las leyes sobre derechos de autor, así como la elaboración de un índice sumario con las bases de datos utilizadas en el entrenamiento de dichos MF.
• El segundo nivel cubre los MF o GPAI que presentan un “riesgo sistémico”. Los umbrales para calificar el riesgo sistémico integrarán a sistemas como Open AI y tendrán obligaciones adicionales: evaluación previa, pruebas garantizadas, planes de prevención y reducción de riesgos, ciberseguridad. Así mismo, se desarrollarán códigos de buenas prácticas con metodologías para facilitar el cumplimiento de estas obligaciones. Se ha incluido también la obligación de informar sobre el consumo energético.

Sistema de Gobernanza y la Oficina de IA

• El acuerdo establece que la oficina de la IA será parte de la Comisión Europea, aunque tendrá su propia línea presupuestaria y personal. Será responsable de vigilar el cumplimiento de las obligaciones de los GPAI y garantizará la coordinación entre las autoridades nacionales, facilitando la experiencia técnica en estos sistemas.
• Los Estados Miembros nombrarán una autoridad de supervisión independiente y se coordinarán a nivel europeo en un Cuerpo Europeo de IA.
• También se crea un organismo consultivo con expertos de todas las partes interesadas, incluyendo a miembros de la sociedad civil.

Alto riesgo

• La Ley establece obligaciones para los proveedores de sistemas de IA que sean calificados de alto riesgo, bien porque se trate de sistemas de IA 1) integrados en productos que requieren una autorización previa a su puesta en el mercado (juguetes, dispositivos médicos, automoción, etc.) o 2) cumplan con los criterios de riesgo establecidos en la Ley en función del uso específico en determinadas áreas sensibles.
• El acuerdo incluye en el listado de usos de alto riesgo los sistemas que evalúan riesgos de las personas y que sean utilizados para concesión de créditos o seguros y los sistemas de IA que puedan influir en los resultados electorales. Los sistemas de recomendación de contenidos de las grandes plataformas no se han categorizado de alto riesgo, ya que se encuentran cubiertos por la DSA.
• Los desarrolladores deberán declarar sus sistemas como alto riesgo cuando entren dentro de los supuestos contemplados en la Ley. La penalización por incumplimiento de las obligaciones o la falsedad en la declaración, será castigado con multas de hasta 35 millones de euros o el 6.5% de la ganancia anual, lo que sea mayor.

Medidas adicionales de transparencia: interacción y deepfakes

• Las IA generativas, aquellas que crean deepfakes o manipulan o generan imágenes, audios o videos también estarán sujetas a la obligación de declarar que se trata de un contenido generado por IA, aunque cuando se trata de usos artísticos, satíricos o cinematográficos y similares, la información se facilita de manera que no impida el disfrute de la obra. Igualmente, deberá informarse en el caso de los textos generados por IA que se publican sobre temas de interés general, salvo que estén sujetos a responsabilidad editorial y haya una supervisión humana.

Formación IA

• El acuerdo incluye un artículo específico con la obligación para los Estados miembros, pero también para los proveedores y desarrolladores de IA, de poner en marcha planes de formación para garantizar que su personal tiene el conocimiento y las capacidades necesarias para evaluar los riesgos y cumplir con las obligaciones de la ley.

Derecho a recibir una explicación

• El acuerdo incluye el derecho a recibir una explicación por parte de todas las personas que se vean afectadas por el uso de la IA.