"Regular la IA, como la bomba atómica”, por Martin Wolf

Un pacto de desarme tecnológico entre EEUU y China haría que todos se sintieran más seguros.

La semana pasada pregunté si la Inteligencia Artificial (IA) es una burbuja, una bendición o una maldición. Mis respuestas fueron, en ese orden, “hasta cierto punto, sí, y sí”. Ahora quiero considerar con más profundidad la última pregunta, la de las “maldiciones”. 

Las cuestiones que examinaré son: cuán peligrosa es realmente la IA, qué deberíamos hacer para contenerla y si alguna forma de regulación funcionará. Mis principales conclusiones serán que sin duda es peligrosa, que ciertamente deberíamos intentar regularla y que, sin embargo, con toda probabilidad, ese intento fracasará.

Algunos me han dicho que no tengo derecho a opinar porque no soy experto. Otros sostienen que debemos aceptar cualquier tecnología que se nos ofrezca, porque es la fuente del crecimiento económico. Ambas posturas son erróneas. Una democracia es un proyecto político compartido. Todos tenemos derecho a participar en los debates sobre cómo gestionar nuevas tecnologías peligrosas.

Esto era cierto cuando se inventó la bomba atómica. También lo es en el caso de la IA, que tendrá consecuencias mucho más complejas y, a la vez, peligrosas. Además, el supuesto derecho a decidir estas cuestiones que reclaman algunos magnates tecnológicos seguramente se perdió después del enorme daño que las redes sociales han causado a los jóvenes y al bien público que representa una información fiable.

¿Es irrazonable la comparación entre la IA y las armas nucleares? No, porque la primera también podría causar grandes perjuicios. Estos se dividen, de forma aproximada, en tres categorías: un colapso de los valores humanos fundamentales; algunos peligros específicos de gran magnitud; y una disrupción generalizada.

Los seres humanos piensan, crean y actúan. ¿Qué ocurrirá cuando (o si) las máquinas piensen y hasta creen y actúen por nosotros? ¿Seguirán los humanos esforzándose por comprender o nos volveremos dependientes de que nos den todo hecho? En resumen, ¿cambiará la IA no solo lo que hacen los seres humanos, sino también quiénes somos?

Un aspecto central de lo que significa ser humano es la responsabilidad. Esta cuestión se hizo visible cuando el presidente argentino Javier Milei anunció la creación de “la corporación no humana”. Como respondió Yuval Harari: “Los países que otorguen personalidad jurídica a las IA corren el riesgo de convertirse en algo para lo que el registro histórico no ofrece analogía alguna: no un Estado empresarial, sino un Estado de IA”.

Legalmente, las empresas son “personas”. Pero las compañías de IA podrían tomar decisiones sin intervención humana. ¿Cómo y ante quién sería responsable un programa de IA? Los directores ejecutivos que cometen delitos pueden ir a prisión. ¿Cuál sería el equivalente para una IA? Como dice el Papa, la IA es una “herramienta”. No es una persona. ¿Sufre? ¿Sangra? ¿Puede asumir responsabilidad moral? ¿Puede rendir cuentas de alguna manera significativa? No. Además, esta cuestión de la responsabilidad no se limita al mundo empresarial. ¿Quién responde por los crímenes de guerra cuando la IA dirige ejércitos de robots?

La cuestión de la responsabilidad también surge en otras instituciones capaces de utilizar los recursos que proporciona la integración de la IA con otras tecnologías. Las posibilidades de vigilancia masiva son enormes. También lo son las de crear armas autónomas. La fabricación de falsedades, deep fakes y estafas ya se ha visto enormemente potenciada. 

Estos avances podrían ser utilizados por los Estados, por actores privados o por ambos. ¿Cómo podrían funcionar la ley y la rendición de cuentas política en un mundo así? En un provocador boletín de Substack, el economista Noah Smith incluso sostiene que la IA se apoderará del mundo.

Luego están los peligros más específicos. Uno evidente es la capacidad de alterar nuestra civilización dependiente de sistemas cibernéticos. Tuvimos un adelanto de ello cuando Anthropic advirtió sobre la amenaza de Mythos para la ciberseguridad. Prácticamente todo aquello de lo que dependemos depende, a su vez, de esos sistemas. Si la IA pudiera perturbarlos, la vida se volvería radicalmente insegura y las posibilidades de extorsión serían ilimitadas. La posibilidad de diseñar patógenos letales también resulta aterradora.

Niall Ferguson, de la Hoover Institution, advierte que parte de lo que hace que la IA sea incontrolable es que está impulsada por dos carreras armamentísticas simultáneas: una entre un pequeño número de empresas y otra entre Estados Unidos y China. Hasta ahora, Estados Unidos ha decidido no regular la competencia entre sus empresas, mientras que ni Estados Unidos ni China están intentando controlar la rivalidad entre ambos países. 

Ferguson sostiene que la primera situación se explica en gran medida por la segunda. Un acuerdo entre Estados Unidos y China sobre la regulación de la IA es, afirma, una condición necesaria para controlar la competencia “de estilo mafioso” entre las principales empresas estadounidenses.

Así pues, como sostuve la semana pasada, estamos atrapados en una trampa: los tecnólogos nos están catapultando, a una velocidad extraordinaria, hacia un nuevo mundo cuyas implicaciones ni comprendemos ni controlamos. Esto se debe en parte a que la IA es la más “general” de las tecnologías de propósito general. 

Potencialmente, incluso podría significar la sustitución de la inteligencia humana por inteligencia de máquina. Las implicaciones, como he indicado, van mucho más allá de las preocupaciones sobre peligros específicos. La IA también afectará tanto nuestro sentido de identidad como seres humanos como la manera en que organizamos y comprendemos la sociedad: ¿deberían los programas poder actuar como personas cuando no sienten, no son conscientes ni tienen conciencia moral?

En cualquier caso, seguramente nos gustaría contener los mayores peligros, especialmente los mencionados anteriormente. Por ello, una vía sensata sería que Estados Unidos y China identificaran y acordaran algún tipo de tratado de desarme en materia de IA. Eso podría hacer que todos se sintieran más seguros.

Hay una noticia positiva: el temor a las disrupciones económicas y sociales que se avecinan está preocupando a la gente. Con razón creen que el futuro es demasiado importante para dejarlo en manos de unos pocos “amos de la tecnología”, del mismo modo que la guerra es demasiado importante para dejarla en manos de los generales. Dado esto, podría abrirse espacio para la regulación. La próxima semana consideraré qué podría hacerse como respuesta.

Texto original aquí