"Entre la Gran Aceleración y la seguridad sistémica: dilemas políticos, epistemológicos y subjetivos de las IA de frontera", por Flavia Costa
A finales de noviembre se cumplirán cuatro años desde que se puso en disponibilidad pública el modelo de lenguaje ChatGPT 3.5. Fue el comienzo de un acontecimiento tecnopolítico de gran escala, sólo comparable con el que se produjo entre 1992 y 1995, cuando a partir de una enmienda en la ley de la National Science Foundation, el congreso de los Estados Unidos habilitó que la red Arpanet, por entonces una red militar y científica, pudiera ser también una red comercial. A partir de ese momento se produjo el despliegue de lo que entonces se llamaba la “autopista de la información”, y que hoy asumimos como como un territorio militar, político, cultural e informativo: el territorio digital. Uno en el que, en promedio, los humanos de entre 16 y 65 años pasamos 6.30 horas diarias --en nuestra región, más de 8 horas por día, según datos de 2025 de la agencia internacional We Are Social--.
Si aquel movimiento de mediados de los noventa convirtió a la conectividad digital en la infraestructura básica de la globalización corporativa, el lanzamiento de GPT 3.5 en noviembre de 2022 —seguido por GPT-4 en marzo de 2023 y la irrupción acelerada de sistemas como Claude 3.5 y 3.7 de Anthropic, Gemini de Google, DeepSeek-R1 y la serie Qwen de Alibaba— operó una mutación todavía más impactante: no ya la interconexión de redes computacionales, sino la automatización masiva del procesamiento simbólico, cognitivo y analítico en escala planetaria.
Estos últimos cuatro años pueden leerse, así, como una sucesión vertiginosa de intentos por procesar este nuevo shock, que expandió e intensificó la digitalización. El 30 de marzo de 2023, la organización no gubernamental Future of Life publicó una carta firmada por investigadores y empresarios (entre ellos el cofundador de Apple, Steve Wozniak; el historiador Yuval Harari; el ceo de SpaceX, Elon Musk y el inversor en IA Ian Hogarth) que llamaba a pausar por “al menos seis meses” el entrenamiento de sistemas de IA superiores a ChatGPT-4, de OpenAI. La moratoria nunca se ejecutó, pero inauguró un periodo de “furor normativo”, con los ojos de buena parte de Occidente puestos en la ley de la Unión Europea, que se basa en una clasificación de los riesgos de la IA, y era la única vinculante hasta 2025, cuando se sumó Japón y, en enero de este año, Corea del Sur.
En noviembre de 2023, Gran Bretaña impulsó la primera Cumbre sobre Seguridad de la IA, e inmediatamente después creó el AI Safety Institute, la primera organización respaldada por un Estado dedicada a medir los impactos de la inteligencia artificial en las personas y la sociedad. Su director es uno de los tres ganadores del premio Turing 2018, el reconocido investigador canadiense Yoshua Bengio. Más tarde se crearon Institutos similares en EEUU, Canadá, la Unión Europea, Francia, Australia, Japón, Singapur, entre otros. Y comenzaron a proliferar cumbres globales de seguridad, la primera de ellas en Reino Unido en noviembre de 2023, luego en Seúl en 2024, en París en 2025, y en Nueva Delhi, Naciones Unidas y Dublin a lo largo de 2026.
El mapa político de estas iniciativas sufrió transformaciones y vaivenes. En febrero de 2025, el AI Safety Institute británico cambió su denominación a AI Security Institute. El giro no fue nominal: señaló el desplazamiento desde la seguridad sistémica (safety), enfocada en la protección integral de las personas, los derechos fundamentales y el ambiente, hacia la seguridad defensiva (security), subordinada a imperativos militares e inteligencia. Este movimiento se consolidó en marzo de 2025, cuando la segunda administración de Donald Trump en Estados Unidos ordenó eliminar de los organismos federales toda referencia a “AI safety”, “responsible AI” y “AI fairness” , a las que catalogó como eufemismos ideológicos, y exigió priorizar la competencia geopolítica frente a China. Ese repliegue de las salvaguardas públicas reavivó las alertas en la sociedad civil. En octubre de 2025, Future of Life publicó una segunda declaración abierta en la que solicitó prohibir el desarrollo de la superinteligencia hasta alcanzar un consenso científico sobre sus condiciones de seguridad y control público. En una línea convergente, en mayo de 2026 el Papa León XIV emitió la Encíclica Magnifica Humanitas, en la que instó a establecer un marco regulatorio global que subordine el avance algorítmico al bien común, salvaguarde la centralidad de la persona humana y prevenga la erosión de la soberanía política frente al poder concentrado de las grandes plataformas tecnológicas.
Habitamos, así, una época signada por la tensión entre una nueva carrera tecnológica desenfrenada, los repetidos llamamientos a una política responsable de alineamiento e inocuidad, las alarmas por los impactos que ya están teniendo las IA en el mundo del trabajo, la educación, la política exterior y la investigación científica, la combinación entre fascinación y perplejidad de la opinión pública ante estas transformaciones, y la desconfianza –cuando no el descrédito-- de las capacidades de la política para gobernar lo que se advierte como una suerte de fuerza monstruosa con varias patas y ninguna cabeza.
El desafío no es instrumental sino epistemológico y político. La IA no es una herramienta neutral: es una metatecnología y un mundoambiente (Umwelt) infraestructural y simbólico. Desde el Observatorio de Tecnologías, Sociedad y Ecosistemas digitales que dirijo en la facultad de Ciencias Sociales (TecnocenoLab) de la UBA hemos desarrollado un conjunto de herramientas analíticas y metodológicas, así como una línea de trabajo basada en el abordaje sistémico, para la política que viene.
Por un lado, desde la perspectiva epistemológica, consideramos que para enfocar estos acontecimientos necesitamos una grilla multiescalar que articule cuatro niveles: 1) la Escala Macro-planetaria (The Stack, enorme capacidad de cómputo, infraestructuras planetarias, centros de datos); 2) la Escala Meso-estatal (Estados, leyes, instituciones, asociaciones); 3) la Escala Individual (autores, subjetividades); y 4) la Escala Infra-individual (flujos de datos, micro-impulsos atencionales, datos biométricos y comportamentales).
El fenómeno crítico hoy es el salto escalar o el bypass desregulador. Los modelos de frontera, y las grandes corporaciones como Nvidia, Microsoft-OpenAI, Google, Meta, Amazon-Anthropic en los EE.UU., así como Ali Baba, ByteDance o Tencet en China, operan desde la escala Macro-planetaria directamente sobre la escala Infra-individual, salteándose la mediación legislativa e institucional de la escala Meso-estatal. Es por esto que autores disímiles entre sí, desde la socióloga estadounidense Shoshana Zuboff y el filósofo belga Marc Coeckelbergh hasta el parlamentario conservador británico Tom Tugendhat señalan que las IA constituyen un riesgo para la democracia: “Los monopolios tradicionales del Estado sobre el control de la información y la política monetaria se erosionan –escribió Tugendhat en The Washington Post en septiembre de 2025--. Los propietarios de las infraestructuras —SpaceX, Amazon, Meta, Google— acumularán lo que equivale a un poder soberano sin responsabilidad soberana, [...] El debate ya no se centra en el control de los datos, sino en la propia infraestructura.”
Esto afecta a la llamada gobernanza, que no se limita a la dimensión jurídica sino que, para volverse efectiva, necesitará bascular entre tres tipos de estrategias: el enfoque ético de la soft law voluntaria, como las Recomendaciones para una IA confiable de la Unesco, de 2021;[1] el enfoque Jurídico, que incluye el sistema legal y los litigios reactivos, que son clave pro funcionan siempre a posteriori; y un enfoque sistémico e infraético, particularmente apropiado en aquellos usos de esta tecnología que, como advierte la propia OCDE, puede ser de alto riesgo para los derechos fundamentales, los derechos de propiedad intelectual, las comunidades y el ecosistema.[2] Para ello es necesario inscribir salvaguardas, defensas en profundidad e instrumentos en la propia infraestructura tecnológica e institucional.
Finalmente, en cuanto a las políticas integrales relativas a este nuevo territorio digital intensificado por IA, conviven cuatro posiciones: los aceleracionistas corporativos, los soberanistas estatales, los defensores de la ecología del código abierto y los promotores de la seguridad integral con perspectiva de derechos (safety + security). Para América Latina, y en particular para la Argentina, es importante actuar con pragmatismo combinando en forma estratégica los cuatro vectores. Las alianzas con las corporaciones de IA pueden funcionar para sectores específicos, pero es preciso preservar la soberanía de datos y, cuando existe, de infraestructura; es clave acompañar los desarrollos de software abierto para soluciones locales, ya que son las que forman y expanden las capacidades propias, y en todos los casos, es importante aprovechar este momento para impulsar un sector que se volverá crucial en la era que viene: el de la seguridad sistémica y la infraética. Cada uno de estos pasos será crucial para lograr que la tecnología responda al interés público y a las necesidades de desarrollo y seguridad de nuestras comunidades.
FLAVIA COSTA
[1] Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura. (2021). Recomendación sobre la Ética de la Inteligencia Artificial. París: UNESCO. Disponible en: UNESCO Legal Affairs.
[2] Organización para la Cooperación y el Desarrollo Económicos (OCDE). (2024). Recomendación del Consejo sobre Inteligencia Artificial (OECD/LEGAL/0449). París: OCDE. Disponible en: oecd.org; OECD. (2022). OECD Framework for the Classification of AI Systems (Marco de la OCDE para la clasificación de sistemas de IA). OECD Digital Economy Papers, No. 323. París: OECD Publishing. doi.org.
