Europa cabalga la IA

Por primera vez desde que los modelos de lenguaje generativos se generalizaron, en 2022, la IA encuentra un intento serio de regulación en Europa, que pretende someterla al enfoque principal de los derechos humanos sin perder la carrera de la innovación con EEUU y China.

Los 27 países de la Unión Europea (UE) estrenaron en agosto el Reglamento Europeo de Inteligencia Artificial (IA) que había sido aprobado en 2024, la primera ley del mundo que regulará el uso de sus sistemas, aunque de manera escalonada desde ahora hasta 2028.

La norma establece un marco común para que la IA se utilice en la UE de forma segura, transparente y respetuosa con los derechos fundamentales, y exige un control técnico y ético de todas estas herramientas para mitigar los riesgos.

Este régimen pionero prevé multas millonarias para las grandes tecnológicas que incumplan con la ley: hasta 35 millones de euros en el caso de las muy graves, por usar sistemas de IA prohibidos; o de 15 millones por incumplimientos relacionados con los sistemas catalogados como “de alto riesgo”.

La UE ya había prohibido en 2025 los sistemas de IA que conlleven “riesgos inaceptables”, como el uso de técnicas subliminales, manipuladoras o engañosas; de explotación de la vulnerabilidad de personas (niños/as, con discapacidad); de  clasificación biométrica según etnia, religión u orientación sexual; o que recurren a  “puntuación social” para evaluar conductas.

También prohibió sistemas de IA que infieren emociones en centros laborales o educativos; reúnen imágenes de internet para crear bases de datos faciales; u operan identificación biométrica remota y en tiempo real en lugares públicos con fines policiales.

Ahora, incorpora entre los sistemas prohibidos -desde diciembre- usos de la IA generativa como la creación o manipulación sin consentimiento de contenidos íntimos (‘deepfakes sexuales’) u otros capaces de generar pornografía infantil.

Desde agosto, es obligación informar a los usuarios europeos que están interactuando con un sistema de IA, aunque los contenidos generados con herramientas de IA (deepfakes) no estarán detalladamente etiquetados hasta diciembre con íconos, avisos o distintivos.

En cambio, y en medio de críticas de los mayores defensores de la regulación, posterga hasta diciembre de 2027 puntos muy debatidos de la ley como la serie de obligaciones para los sistemas de IA “de alto riesgo” que se usen para evaluar o calificar a estudiantes, filtrar currículums, evaluar la solvencia económica de las personas o fijar el precio de un seguro de vida o de salud).

Recién en agosto de 2028 regirán todas las obligaciones europeas para los sistemas de IA clasificados de alto riesgo pero integrados en productos o en servicios ya regulados (dispositivos médicos, asistentes de conducción, juguetes o asistentes de la navegación aérea).

La Oficina de IA (“AI Office”), dentro de la Comisión Europea, podrá evaluar a los grandes modelos de inteligencia artificial, para verificar que cumplen estas normas y tendrá la potestad de imponer restricciones al despliegue de nuevos modelos de IA, en los casos que considere oportuno. Incluso los proveedores deberán facilitar acceso a sus sistemas, en algunos casos, antes de su comercialización.

¿Avance o retroceso?

Entre los privados, como el director general de la consultora especializada en mercados digitales BIP Iberia, Giovanni Alessandrello, el riesgo de una regulación de aplicación en etapas, como finalmente se decidió después de las objeciones corporativas, es que las empresas lo interpreten “como una invitación a esperar”.

La adopción progresiva de la ley de la UE es “una prueba de madurez”, según Alessandrello, porque cualquier sistema de IA se debe poder “explicar, gobernar y auditar”, pero el reto es cómo gobernarla sin frenar la innovación. Sin control puede generar riesgos sistémicos, pero una regulación excesivamente rígida puede impedir que Europa compita”, con EEUU o China.

“Para que Europa se convierta en un continente de IA, necesitamos promover la innovación, apoyar a las empresas emergentes y a las empresas en expansión«, dijo la eurodiputada Arba Kokalari, una de las portavoces de la reforma consensuada de la ley original de 2024 que se aceptó en mayo pasado.

Las obligaciones afectan a dos tipos de empresas, en primer lugar los proveedores de sistemas de IA, grandes compañías globales como OpenAI con ChatGPT, Anthropic con Claude o Google con Gemini. Luego, los responsables, empresas que usan los sistemas para beneficio propio (artículos generados con IA sin revisión editorial, chatbots de atención al cliente, agencias de publicidad o bancos).

La ley deja fuera el uso personal de la IA, en sistemas de mensajería como WhatsApp, salvo cuando implique beneficios económicos. Las redes sociales podrán proveer herramientas de IA y serán responsables, pero no del contenido: lo será quien crea y publica el deepfake, no de la plataforma que lo aloja.

Dos tercios de los europeos creen haber estado expuestos a desinformación o noticias falsas y casi cuatro de cada diez ciudadanos de la UE no confían en su capacidad para reconocer las noticias falsas, según el Eurobarómetro. Solo en la mitad de los casos la gente es capaz de detectar de manera eficaz contenidos generados o manipulados por IA, según otros estudios independientes.

Una defensa europea

La redacción de la ley llevó cuatro años, de 2020 a 2024, al cabo de cientos de audiencias, decenas de investigadores movilizados, diálogos técnicos con los proveedores de modelos, intercambios con gobiernos, autoridades sectoriales,  industriales, el mundo académico, los creadores, los sindicatos y las ONG.

El Parlamento Europeo lo aprobó en  marzo de 2024 (523 votos a 46 en contra y 49 abstenciones), casi 85 % de los votos emitidos, de todas las formaciones políticas, desde la derecha hasta la izquierda, pasando por los liberales, los Verdes y hasta los 17 diputados de la ultraderechista Rassemblement National; solo los diputados de la izquierdista La France Insoumise votaron en contra. 

En mayo, obtuvo la unanimidad de los 27 Estados miembros en el Consejo. “Ningún texto de regulación tecnológica ha logrado jamás, en ninguna democracia del mundo, un consenso tan amplio entre sus colegisladores”, escribió Thierry Breton (foto), principal impulsor político y negociador de la ley.

Según Breton, aunque en agosto de 2026 debía regir la regulación para los sistemas de alto riesgo, “la batalla librada durante los últimos 18 meses ha decidido lo contrario. Una alianza formada por grupos de presión estadounidenses, algunos empresarios europeos y varias capitales, entre ellas París, ha ejercido una presión directa para intentar debilitar las obligaciones aplicables a los modelos de base. 

El artículo 50, que entró en vigor y llamó toda la atención en el debate público, pero “no es el núcleo” de la ley europea de IA, dice Breton. Es cierto, ese artíulo protege el espacio informativo de la desinformación e impide que los chatbots opacos, los deepfakes y los textos sintéticos se hagan pasar por palabras humanas. 

Pero la clave, advierte, es el artículo 5, la regulación de los sistemas de alto riesgo, que debe “proteger a las personas frente a las aplicaciones más peligrosas de la IA” sobre crédito, la contratación, la asistencia sanitaria, la policía o la justicia”, o a los titulares de derechos, creadores, artistas, escritores, compositores y científicos, cuyo patrimonio intelectual constituye la materia prima de los grandes modelos. 

“El aplazamiento de dos años es una desviación. No se trata solo de un plazo administrativo, sino de un desplazamiento del centro de gravedad del texto”, sentencia Breton, y rechaza el argumento de que la Ley de IA vaya a frenar la innovación europea frente a potencias como EEUU o China.

“Los grandes modelos fundamentales (GPT de OpenAI, Claude de Anthropic, Gemini de Google, DeepSeek, y Mistral en Europa) se desarrollaron entre 2020 y 2025”, cuando la ley no era aplicable. No es culpa de la Comisión, sino de un mercado europeo de capitales fragmentado, de la aversión al riesgo y de la falta de financiación sustancial para entrenar modelos al más alto nivel. 

Por fin, expone Bretton, frente a la necesidad de las empresas estadounidenses de empezar a monetiza sus grandes inversiones en modelos “cerrados” de IA, y al enorme y atractivo del mercado de usuarios europeos que atrae a los modelos “abiertos” chinos, la UE debe defenderse: “Esa soberanía no se negocia, se ejerce”.

Objeciones capitalistas

Cuando todavía las presiones empresarias no habían conseguido moderar el ritmo de la aplicación de la ley, el diario Financial Times, vocero del capitalismo sajón, expuso en 2025 los argumentos según los cuales la UE ya había “malogrado” su iniciativa para regular la IA.

¿Puede Bruselas equilibrar su deseo de establecer salvaguardias tecnológicas con la necesidad de atraer inversiones?, se preguntaba, al describir un proceso legislativo largo y exasperante en Bruselas.

La ley se diseñó para aprovechar el peso económico de Europa y obligar a las empresas a crear una “IA fiable” para sus 450 millones de consumidores con un enfoque basado en el riesgo: “prohibir los usos más perjudiciales, controlar los sistemas de alto riesgo y regular de forma más ligera aquellos de bajo riesgo”.

Sin embargo, la complejidad de la ley, la inclusión precipitada de modelos de IA como ChatGPT y su caótica implementación han transformado la Ley de IA: de ser un símbolo del liderazgo europeo, ha pasado a convertirse en un caso de estudio para quienes afirman que el continente antepone la regulación a la innovación.

FT reprocha a la UE que “su incapacidad para crear o hacer crecer gigantes tecnológicos amplió la brecha de productividad con EEUU. Tras no lograr liderar otras tecnologías, Bruselas -dice- aspira a que la UE sea el continente de la IA, pero tiene problemas para desarrollar su propio ecosistema de IA  y acelerar la inversión en esta tecnología al mismo nivel que superpotencias como EEUU y China.

“Cuanto más fomentemos una IA fiable, mejor posicionada estará Europa para adoptar esta tecnología: ese era, en esencia, el objetivo”, replica Gabriele Mazzini, uno de los redactores de la ley.

Sin embargo, cuando ChatGPT (OpenAI) irrumpió en escena a finales de 2022, la ley europea “fue reescrita apresuradamente para incluir normas sobre los modelos de IA de propósito general: sistemas capaces de generar texto, imágenes o código y de utilizarse para muy diversos fines”, objeta el FT sobre los cambios en el texto. 

Ahora, las empresas aseguran que las reglas suponen una enorme carga logística, porque deben evaluar los riesgos de sus sistemas de IA e implementar mecanismos para satisfacer los estándares de transparencia y rendición de cuentas. Y, para peor, a las más grandes y consolidadas les resultará más fácil cumplir con la normativa y disfrutarán de una ventaja competitiva aún mayor frente a las start-ups.

Con todo, el diario recoge la objeción a estos planteos del franco canadiense Yoshua Bengio, considerado uno de los padres de la IA, uno de los primeros en advertir del peligro de que sistemas de IA desconozcan las instrucciones humanas y que denuncia la “propaganda” de empresas que rechazan la regulación de la UE.

La ley se limita a formalizar protocolos de seguridad que los laboratorios de IA ya están aplicando y a aportar mayor transparencia. “Lo que hará será igualar las condiciones para que todas las empresas alcancen el nivel de los mejores actores del sector”, declara Bengio.