La gobernanza de la inteligencia artificial: contexto y parámetros generales

• Author: Margarita Robles Carrillo
• Position: Profesora Titular de Derecho Internacional Público y Relaciones Internacionales
• Pages: 209-235

www.reei.org

REEI, núm. 39, junio 2020

DOI: 10.17103/reei.39.07

LA GOBERNANZA DE LA INTELIGENCIA ARTIFICIAL:

CONTEXTO Y PARÁMETROS GENERALES

THE GOVERNANCE OF ARTIFICIAL INTELLIGENCE:

CONTEXT AND GENERAL FRAMEWORK

MARGARITA ROBLES CARRILLO*

Sumario: I. INTRODUCCIÓN. II. EL DEBATE SOBRE LA INTELIGENCIA ARTIFICIAL

III. EL DISCURSO JURÍDICO. IV. LA PRÁCTICA V. CONCLUSIONES

RESUMEN: La inteligencia artificial (IA) se ha convertido en objeto de un amplio y controvertido debate.

El análisis de ese debate muestra que existe un problema conceptual, por la ausencia de acuerdo sobre la

definición de la IA, y un problema funcional derivado de la relevancia asignada en el mismo a los

componentes técnicos, éticos y jurídicos. Hay una clara prevalencia de los primeros, una insistente

invocación de los segundos y una escasa atención al discurso jurídico. En principio, jurídicamente, hay que

distinguir dos cuestiones: por una parte, la aplicación de la IA al estudio y la práctica del derecho y, por

otra, la regulación de la IA. El modelo de regulación de la IA se plantea desde diferentes perspectivas

metodológicas que confirman la necesidad de adoptar un enfoque proactiv o y abierto, no formalista, para

la organización de su gobernanza. El estudio de la práctica muestra que son muy pocos los Estados que han

adoptado estrategias o planes de acción en la materia y, en el marco internacional, la mayoría de las

iniciativas están localizadas en organizaciones o foros regionales o interregionales participados por países

tecnológicamente desarrollados. El ordenamiento jurídico internacional ha de activar mecanismos de

respuesta de alcance universal frente a esa situación y al desafío global que implica la gobernanza de la IA.

ABSTRACT: Artificial intelligence (AI) has become th e subject of a wide-ranging and controversial debate.

The analysis of the debate shows two main prob lems: the conceptual problem arises from the absence of

agreement on the definition of AI; and the functional problem derives from the different relevance given to

the technical, ethical and legal components. There is a clear prevalence o f the former, an insistent

invocation of ethical aspects and little attention to legal discourse. From a leg al standpoint, two issues

must be distinguished: the application of AI to the study and practice of law and the regulation of AI. The

model of AI regulation is ap proached from different methodological p erspectives that confirm the need to

adopt a proactive and open, non-formalist approach to the organisation of its governance. The study of

practice shows, however, that very few States have a dopted strategies or action plans in this area. In the

international framework, most of the initiatives are located in organizations or forums participated by

technologically developed countries. The international legal system must activate universal mechanisms,

norms and procedures to respond to this situation and to the global challenge of A I governance.

Fecha de recepción del trabajo: 9 de octubre de 2019. Fecha de aceptación de la versión final: 25 de enero

de 2020.

* Profesora Titular de Derecho Internacional Público y Relaciones Internacionales. Miembro del Grupo de

Investigación Network Engineering & Security Group (NESG). Universidad de Granada. Este trab ajo se

realiza en el marco del proyecto TIN2017-83494-R financiado parcialm ente por el Gobierno de España.

[39] REVISTA ELECTRÓNICA DE ESTUDIOS INTERNACIONALES (2020)

- 2 -

DOI: 10.17103/reei.39.07

PALABRAS CLAVE: Inteligencia artificial. Gobernanza. Tecnología. Ética. Derecho Internacional.

KEYWORDS: Artificial Intelligence. Governance. Technology. Ethics. International Law.

I. INTRODUCCIÓN

La evolución de las tecnologías de la información y la comunicación (TIC) ha conducido

a una nueva revolución, la llamada Cuarta Revolución Industrial, diferente de sus

predecesoras porque implica una cierta disrupción sistémica que afecta tanto a los

fundamentos como al funcionamiento mismo de la vida política, económica y social. No

son pocos los elementos destacables de esa evolución, desde el Internet de las Cosas a los

servicios Cloud, el Blockchain, el Big Data o las redes 5G hasta la computación cuántica.

Hay, sin embargo, un componente dentro de las TIC que está generando una atención

especial por su alcance, naturaleza y potencial: la Inteligencia Artificial (IA)

1

.

El desarrollo de una tecnología como la IA que aspira a compararse con la inteligencia

humana, o incluso a mejorarla o superarla, constituye posiblemente el mayor desafío

científico conocido en la historia de la humanidad. La antropología, la filosofía, la

sociología, la política, la economía, las ciencias matemáticas y físicas, las ingenierías y,

también, el derecho y la ciencia jurídica se encuentran frente a un fenómeno de una

magnitud desconocida, inconmensurable

2

, imparable y, por todo ello, inquietante. La

ética, la moral y la religión tampoco se muestran ajenas a esa realidad que pretende emular

al ser humano. La denominada IA general (IAG)

3

, la superinteligencia

4

, el

transhumanismo

5

o la singularidad

6

sirven para designar algo más que objetivos

1

Es ampliamente conocida la advertencia de Stephen Hawking al afirmar que “Artificial Intelligence could

be the biggest event in the history of our civilisation. Or the worst. We just don’t know”. Sobre la cuestión,

desde una perspectiva general, puede verse ROBLES CARRILLO, M., “Artificial Intelligence: From Ethics

to Law”, Telecommunications Policy, 2020. https://doi.org/10.1016/j.telpol.2020.101937.

2

El significado de esta calificación en este contexto es certeramente analizado en BECERRA, J. (ed.),

Derecho y big data, Colección Público, Bogotá, 2018, pp. 65 y ss.

3

WANG, P., LIU, K. y DOUGHERTY, Q., “Conceptions of Artificial Intelligence and Singu larity”,

Information, vol. 9, nº 4, 2018, pp. 7 y ss. Disponible en: https://www.mdpi.com/2078-2489/9/4/79.

4

Sobre este concepto, puede verse CASTEL, J.-G. y CASTEL, M.E., “The Road to Artificial Super-

intelligence: Has International Law a Role to Play?”, Canadian Journal of Law and Technology, vol. 14,

nº 1, 2016, pp. 1-15.

5

BAILEY, J.I., “Enframing the Flesh: Heidegger, Transhumanism, and the Body as Standing R eserve”,

Journal of Evolution & Technology, vol. 24, nº 1, 2014, pp. 44-62.

6

La singularidad admite diversas definiciones, pero, básicamente, consiste en la posibilidad de trascender

o superar las limitaciones del cuerpo hu mano y del cerebro (KURZWEIL, R., La singularidad está cerca.

Cuando los humanos trascendamos la biología, Lola Books, Berlín, 2012). Véase, asimismo, WINFIELD,

A., “On the simulation (and energy costs) of human intelligence, the singularity and simulationism”, en

ADAMATZKY A. y KENDON V. (eds), From Astrophysics to Unconventional Computation. Emergence,

Complexity and Computation, Springer, Cham, 2019. Sobre la diferencia entre IA y singularidad, véase

WANG, P., LIU, K. y DOUGHERTY, Q., “Conceptions of …”, loc. cit., pp. 1-15..