Garrigues Digital_

No existe una definición universalmente aceptada sobre lo que es un sistema de inteligencia artificial, pero la última versión del Reglamento europeo sobre inteligencia artificial ayuda a aclarar conceptos como “sistemas de IA” o “modelos fundacionales”.

“El libro más influyente de la historia, según la inteligencia artificial”, “Estas son las profesiones menos amenazas por la IA”; “¿Puede la inteligencia artificial realmente llevar a la humanidad a la extinción?”; “La inteligencia artificial se matricula en los colegios de Andalucía”… No hay más que abrir los periódicos o  entrar en las redes sociales para darnos cuenta de que la inteligencia artificial (IA) está acaparando los medios de comunicación, convirtiéndose en un término recurrente en nuestras conversaciones cotidianas, sobre el que todo el mundo parece tener una opinión.

Sin embargo, entre tanta imprecisión y clickbait, lo primero que debemos preguntarnos es: ¿qué es realmente un “sistema de IA”?

Con carácter general, la IA es una rama de las Ciencias de la Computación que se ocupa de todo aquello que tenga la capacidad de imitar el comportamiento humano. Sin embargo, no existe una definición universalmente aceptada de esta noción. La falta de armonización suscita temores especulativos, falta de confianza y genera una enorme confusión terminológica en la sociedad. Esto explica que la definición de “sistema de IA” haya sido uno de los principales retos en la agenda europea de los últimos años, la cual aspira a elaborar de un marco regulatorio integral capaz de garantizar una IA segura, ética y responsable.

En aras de ofrecer seguridad jurídica, en la propuesta de Reglamento europeo sobre IA (RIA) de abril de 2021 (ver nuestro anterior post), la Comisión Europea apostó por una definición basada en las características funcionales del software y en su capacidad para generar contenidos tomando como punto de partida un conjunto concreto de objetivos definidos por el ser humano. Esta noción debía completarse con un conjunto de técnicas y estrategias usadas para el desarrollo del sistema de IA, contenidas en el Anexo I, sujeto a actualización.

Sin embargo, ante el vertiginoso ritmo al que se desarrollan los nuevos modelos y herramientas de IA, en las modificaciones al RIA aprobadas el pasado 14 de junio de 2023 (ver aquí), el Parlamento Europeo ha optado por modificar esta definición e incorporar otras nuevas. Veamos cuáles son:

Aclaremos algunas cuestiones

Los eurodiputados apuestan por una definición de “sistema de IA” más amplia y tecnológicamente neutra que la contenida en la propuesta inicial, preparada para acoger en su seno futuros avances tecnológicos y digitales. Como cambio significativo, se ha suprimido el Anexo I, el cual se incorpora de manera parcial al contenido de la definición contemplada en el artículo 3.1 RIA.

El artículo enmendado introduce ciertas condiciones acumulativas. Para que se considere IA, el sistema debe (i) ser una máquina; (ii) actuar con cierto grado de autonomía e independencia del control humano con capacidad de aprendizaje, razonamiento o modelización; (iii) funcionar con arreglo a objetivos implícitos o explícitamente definidos por el ser humano; y (v) generar contenidos, predicciones, recomendaciones o decisiones que influyan en el entorno real o virtual con el que interactúa.

Esta definición abarca desde sencillas técnicas estadísticas hasta coches automatizados, sistemas de identificación biométrica, juguetes activados por voz o sistemas de reconocimiento de emociones, entre otros muchos. La normativa establece obligaciones para los distintos operadores de la cadena de valor en función del riesgo que plantean dichos sistemas, diferenciando entre sistemas prohibidos, de alto riesgo y de riesgo limitado.

Asimismo, como respuesta a la reciente explosión de herramientas de IA y los desafíos éticos que plantean, el RIA incorpora un nuevo concepto, la noción de “modelos fundacionales”, esto es, potentes sistemas de IA entrenados con una vasta variedad de fuentes e inmensas cantidades de datos, diseñados para generar un output, pudiendo adaptarse a una amplia gama de tareas distintivas, incluidas algunas para las que no fueron específica e intencionalmente entrenados. A estos últimos los denomina “sistemas de IA de propósito general”. Los modelos fundacionales pueden ser unimodales o multimodales, y estar entrenados mediante diversos métodos, como el aprendizaje supervisado o el aprendizaje reforzado. Si bien no se consideran sistemas de alto riesgo, el RIA les impone ciertas obligaciones de transparencia y les exige mitigar el riesgo y daños que puedan ocasionar a la seguridad, derechos fundamentales y medioambiente. También tendrán que registrarse en la base de datos de la UE con carácter previo a su comercialización.

Finalmente, dentro de los modelos fundacionales, el Parlamento Europeo establece obligaciones de transparencia más estrictas para los “sistemas de IA generativa”, como ChatGPT, Midjourney o DALL-E, destinados específicamente a generar contenidos como texto complejo, imágenes, audio o video con distintos niveles de autonomía. Los proveedores de estos sistemas, los cuales deberán estar diseñados de una manera que no puedan generar contenido ilegal, tendrán que publicar resúmenes de los datos de entrenamiento protegidos por derechos de propiedad intelectual con los que se han alimentado, además de advertir que el contenido ha sido generado por IA y no por un humano.

Y ahora, ¿qué?

Comienza la cuenta atrás… Tras la adopción de la posición negociadora del Parlamento, quedan pendientes las conversaciones con el Consejo y la Comisión Europea en los denominados trílogos para la aprobación de un texto definitivo sobre IA, previsiblemente, a finales de este año. En el marco de este curso legislativo es probable que la definición de IA se someta a nuevos cambios fruto de debates y negociaciones entre las instituciones europeas.

Por ahora nos queda confiar en una legislación que resista al paso del tiempo y sea capaz de abordar la imparable evolución tecnológica que estamos viviendo. Como dijo la presidenta del Parlamento Europeo, Roberta Metsola: “Hay algo en lo que no transigiremos: cada vez que la tecnología avance, debe ir de la mano de nuestros derechos fundamentales y valores democráticos".