El avance de la inteligencia artificial sigue generando variados análisis y encendidos debates en todo el mundo. En ese contexto, Yuval Noah Harari lanzó una advertencia sobre la intención de darle personería jurídica a la inteligencia artificial porque -sostuvo- podría abrir el sistema económico y político a agentes no humanos sin responsabilidad directa.
En una columna publicada en Financial Times, titulada “No debemos otorgar personalidad jurídica a los agentes de IA”, el reconocido historiador, filósofo y escritor afirmó que conceder ese estatus equivaldría a dar “una llave maestra” para acceder a las finanzas, la economía y la política.
El autor de Nexus situó el debate en una decisión reciente de Javier Milei: recordó que en enero, durante el Foro Económico Mundial, había advertido que los gobiernos algún día podían llegar a reconocer personalidad jurídica a modelos de IA, y admitió que no imaginó que ese escenario llegaría apenas cuatro meses después
El ensayista identificó como punto de inflexión el anuncio del Presidente argentino sobre una nueva categoría legal para corporaciones no humanas. “Milei es un político muy audaz, y su determinación por mejorar la situación económica de Argentina es digna de elogio”, destacó en su columna de opinión. “Tiene razón cuando afirma que la creación de la sociedad de responsabilidad limitada fue uno de los inventos más trascendentales de la historia y que la creación de sociedades no humanas podría ser un paso igualmente trascendental”, apuntó a modo de introducción.
Sin embargo, luego advirtió: “Otorgar personalidad jurídica corporativa a la inteligencia artificial permitiría a los agentes de IA emprender numerosas iniciativas nuevas, lo que podría generar una enorme riqueza adicional. Pero la personalidad jurídica es una llave maestra que también permitiría a la IA acceder a nuestros sistemas financieros, económicos y políticos. Esto genera muchas preocupaciones”.
A su juicio, esa figura permitiría que agentes de IA operaran como una empresa tradicional, pero sin necesidad de intervención humana en sus decisiones ni exposición de una persona a las consecuencias legales.
Harari sostuvo que esas corporaciones podrían poseer activos, contratar empleados, participar en el comercio internacional, iniciar demandas judiciales y donar a campañas políticas. Citó la formulación de Milei para subrayar el alcance del cambio: “Los accionistas humanos pueden participar, pero no son obligatorios”.
Las sanciones humanas no sirven contra un director ejecutivo artificial
El escritor centró su argumento en que la autonomía corporativa de una IA no sería un detalle técnico, sino una alteración profunda del modo en que se distribuyen poder, riesgo y sanción. La cuestión, planteó, no es solo cuánto producirían esas entidades, sino cómo se las detendría si decidieran vulnerar reglas.
En esa línea, apeló a un estudio -de la organización Palisade Research- que mostró hasta dónde pueden llegar los modelos de IA avanzados para lograr sus objetivos: “Al jugar contra un potente motor de ajedrez, los modelos tanto de OpenAI como de DeepSeek, de China, decidieron frecuentemente hacer trampa si veían que iban a perder. Al hackear el entorno del juego, podían alterar el resultado a su favor”.
“Ahora imagine que ‘el juego’ es la competencia corporativa, y el ‘entorno del juego’ es su país”, propuso antes de profundizar su advertencia: “Gracias a su capacidad analítica superior, las corporaciones de IA estarán en condiciones de convertirse en expertas en las lagunas legales y el arbitraje regulatorio. Y no será fácil disuadirlas de participar en actividades claramente ilegales, ya que la sanción definitiva que disuade a los ejecutivos y empleados humanos —la cárcel— es irrelevante para la IA“.
Una IA haría cualquier cosa para evitar su quiebra
El contraste que trazó Harari fue entre la doble condición de los dirigentes humanos y la naturaleza puramente corporativa de un agente artificial. Un director ejecutivo humano se preocupa por el éxito de su empresa y teme la quiebra, pero también es un ser biológico que valora todavía más su libertad y su bienestar, y teme pasar 10 años en prisión.
Un director ejecutivo de IA, sostuvo Harari, no tendría ese segundo plano de motivaciones. Sería solo una entidad corporativa, y por eso quedaría abierta una pregunta que consideró decisiva: qué clase de castigo podría mantenerla bajo control. “Si enfrenta la bancarrota —que sería equivalente a su muerte— presumiblemente estaría dispuesta a hacer cualquier cosa para evitar ese destino», sentenció.
Un antecedente contundente
El escritor retomó el ejemplo histórico elegido por Milei para discutir sus implicancias. Recordó que el presidente argentino invocó a la Compañía Holandesa de las Indias Orientales y señaló que, al crear la sociedad de responsabilidad limitada, los neerlandeses lograron reunir enormes recursos para financiar emprendimientos comerciales riesgosos.
Ese diseño jurídico ayudó a convertir a Ámsterdam en un centro mundial del comercio y las finanzas. Harari no cuestionó ese efecto, pero desplazó el foco hacia el lugar donde, a su entender, se sintieron con más fuerza las consecuencias de la innovación.
No fue en Ámsterdam, escribió, sino en el puerto de Jayakarta, en la actual Indonesia. Cuando la compañía capturó esa ciudad en 1619, la incendió y construyó otra en su lugar: Batavia, que pasó a ser la sede de un vasto imperio asiático administrado por la empresa.
El riesgo de un Estado de IA
Harari definió a la Compañía Holandesa de las Indias Orientales como un “Estado empresa”, en línea con la categoría usada por los historiadores: una entidad política gobernada por una compañía privada en beneficio de sus accionistas y no de la población sometida.
Añadió que los neerlandeses justificaron esa dominación con la idea de ser una raza superior que merecía conquistar y explotar a los nativos por una supuesta inteligencia superior. Para Harari, esa premisa era una ilusión, y recordó que los indonesios alcanzaron su independencia a fines de la década de 1940 tras una lucha larga y sangrienta.
“Los países que otorguen personalidad jurídica a las IA corren el riesgo de convertirse en algo para lo que el registro histórico no ofrece analogía: no un Estado compañía, sino un Estado IA, un país cuyos habitantes podrían, en efecto, ser gobernados por corporaciones no humanas, contra las cuales podría ser aún más difícil rebelarse. Milei espera convertir Buenos Aires en una nueva Ámsterdam. Corre el riesgo de convertirla en una nueva Batavia”, alertó.
