Estimados lectores, en la gran traducción del día les traemos al español un artículo de Yin Zhiguang, Catedrático de política internacional en la Universidad de Fudan, en The China Academy. Vamos con ello:

¿De quién son los datos que pueden incorporarse a los modelos? ¿De quién es el conocimiento que la IA puede aprender y expresar? ¿Y quién queda excluido de la producción de conocimiento? La gobernanza de la IA nunca ha sido una cuestión tecnológica; es una cuestión de justicia epistémica.

Este artículo es una traducción de un extracto de una conversación entre el profesor Yin Zhiguang, de la Universidad de Fudan, y el profesor Li Hansong, de la American University. La conversación se mantuvo originalmente en chino.

Prof. Yin Zhiguang:

Podemos observar que existe un panorama muy diferenciado, no solo dentro del propio sector de la IA, sino también en la intersección entre la IA y otros sectores.

Por lo tanto, surge la pregunta: ahora todo el mundo está debatiendo sobre la gobernanza global de la IA, especialmente sobre cómo gobernar este nuevo espacio creado por la IA. Dado que ya hemos reconocido que existen patrones de desarrollo muy diferenciados dentro de este espacio, ¿existen nuevas formas de pensar que puedan ayudarnos a comprender estas diferencias y, sobre esa base, construir un nuevo marco para la gobernanza global?

Prof. Li Hansong:

Esta cuestión va más allá de la desigualdad en el sentido estricto de la cadena industrial global de la IA. Aborda el tema más amplio de la injusticia epistémica global. La gobernanza de la IA en esta nueva era debe ser inclusiva y participativa. Y la expresión más importante de la inclusividad es la inclusividad de los datos. Esta es la segunda dimensión.

La inteligencia artificial, especialmente los grandes modelos de lenguaje, parece basarse en cantidades masivas de datos. Pero, en realidad, los datos utilizados para entrenar estos modelos representan solo una parte extremadamente limitada de la totalidad de los datos empíricos humanos. Una vasta cantidad de conocimiento, experiencia y cultura generada continuamente por las personas en su vida cotidiana nunca se ha recopilado, y mucho menos se ha incorporado al proceso de entrenamiento de los modelos.

Por lo tanto, la IA en sí misma no es un sistema intrínsecamente inclusivo. Por el contrario, desde el mismo origen de sus fuentes de datos, ya presenta un cierto grado de exclusividad. ¿Qué tipo de datos pueden incorporarse a las bases de datos? ¿Qué tipo de datos son reconocidos por las principales empresas tecnológicas e ingenieros norteamericanos como «datos válidos»? Este proceso en sí mismo implica elecciones, y esas elecciones representan poder.

Una de las tareas clave de la gobernanza de la IA es, por lo tanto, incorporar en la medida de lo posible los datos que durante mucho tiempo han quedado excluidos de las bases de datos principales, permitiendo que más países, regiones, lenguas y grupos sociales participen en la construcción de los sistemas de conocimiento de la IA.

He observado algunos casos muy interesantes en África. Por ejemplo, en Uganda han surgido numerosas empresas emergentes locales dedicadas a la IA. En lugar de basarse en conjuntos de datos existentes procedentes de Europa y Estados Unidos, utilizan datos locales para entrenar modelos, lo que permite a la IA comprender las lenguas indígenas, la cultura y el entorno social de Uganda.

Otro ejemplo es Etiopía, que cuenta con entre 80 y 90 lenguas en todo el país. El desarrollo de las startups locales de IA en ese país se centra cada vez más en estas lenguas indígenas, en lugar de limitarse a replicar los grandes modelos lingüísticos desarrollados en el mundo anglófono.

Estas prácticas demuestran que el desarrollo de la IA no tiene por qué seguir necesariamente el camino marcado por las empresas tecnológicas norteamericanas. Las distintas regiones pueden basarse plenamente en sus propios recursos de datos, entornos lingüísticos y necesidades sociales para explorar modelos de desarrollo que se adapten mejor a sus realidades locales. Esta diversificación de las fuentes de datos es, en sí misma, una expresión indispensable de la inclusividad en la gobernanza global de la IA.

Prof. Yin Zhiguang:

Por lo tanto, no se trata únicamente de la diversidad lingüística.

Prof. Li Hansong:

Exactamente. Y lo que es más importante, se trata de datos locales y de conocimiento local. Las distintas regiones poseen experiencias históricas, entornos sociales y sistemas de conocimiento diferentes, y todo ello influye en las fuentes de datos de la IA. Datos distintos producen resultados de entrenamiento distintos para los algoritmos y, en última instancia, generan formas diferentes de conocimiento y de juicio.

Por lo tanto, no se trata meramente de una cuestión tecnológica, sino de una cuestión de justicia epistémica. ¿De quién son los datos que pueden incorporarse a los modelos? ¿De quién es el conocimiento que la IA puede aprender y expresar? ¿Y quién queda excluido de la producción de conocimiento? Estas preguntas afectan directamente a la equidad en la producción de conocimiento en la era de la IA.

Por lo tanto, el propio desarrollo de la IA encierra una forma de desigualdad e injusticia epistémicas. Los datos que se incorporan a los modelos suelen reflejar únicamente las experiencias de un reducido número de países y grupos sociales; asimismo, el diseño de los algoritmos está controlado principalmente por un pequeño número de empresas tecnológicas y élites técnicas.

Por lo tanto, la primera tarea de la gobernanza global de la IA es abordar la cuestión de la inclusividad. Debemos ampliar continuamente las fuentes de datos y conocimiento, permitiendo que más países, lenguas, culturas y grupos sociales participen en la producción de conocimiento. Solo así las perspectivas generadas por la IA —especialmente cuando implican juicios de valor y juicios normativos— podrán seguir siendo verdaderamente diversas, en lugar de convertirse en un «monólogo» controlado por un puñado de empresas y países.

La tercera dimensión se refiere a los imaginarios del futuro.

Hoy en día, ya se trate de la integración entre humanos y máquinas o del empoderamiento asistido por la IA en el que los humanos mantienen el control, estas no son, en realidad, las visiones más radicales del futuro. Algunas élites tecnológicas de Silicon Valley ya han comenzado a imaginar futuros mucho más extremos: por ejemplo, un pequeño número de personas que emigran a Marte mientras dejan que la Tierra se deteriore por sí sola; o una minúscula minoría que utiliza la inteligencia artificial, robots con cuerpo físico y otras tecnologías para controlar la gran mayoría de los recursos, dominando así —o incluso gobernando— a otros seres humanos.

Lo que estas visiones presentan es, en realidad, una visión del futuro altamente tecnocrática y jerárquica. También reflejan una forma de imaginación del futuro impregnada de elementos de la «Ilustración Oscura».

Prof. Yin Zhiguang:

En cierta medida, se trata esencialmente del mismo tipo de imaginación utópica libertaria que representa *La rebelión de Atlas*, de Ayn Rand. Sugiere que, en última instancia, solo un pequeño número de élites intelectuales y tecnológicas merecen sobrevivir, mientras que la gran mayoría de las personas, en su opinión, tienen poco valor más allá de obstaculizar el progreso tecnológico y el avance de la civilización humana. Si ese es el caso, ¿qué deberían hacer? Simplemente deberían construir su propia utopía.

En *La rebelión de Atlas*, de Rand, esa utopía es un valle aislado, separado del mundo exterior. En el tecnofuturismo representado por figuras como Musk, esta utopía se convierte en Marte. Solo unos pocos elegidos están cualificados para viajar a Marte; en cuanto a la Tierra, parece que simplemente puede abandonarse y dejarse a su propia destrucción.

Prof. Li Hansong:

Sí. Por lo tanto, creo que se trata, en realidad, de una forma muy particular de teología tecnológica. Lo que resulta aún más destacable es que esta teología tecnológica también se ha fusionado con ciertas ideas políticas schmittianas y straussianas, formando una narrativa elitista sobre el futuro de la sociedad.

Creo que esta cuestión nunca se ha abordado ni resuelto adecuadamente en el propio territorio de Estados Unidos. Y dado que el desarrollo actual de la IA se ha centrado durante mucho tiempo en América del Norte, esta visión sombría del futuro ha seguido extendiéndose a escala mundial.

Precisamente por ello, el auge de China ha creado otra posibilidad. A medida que China sigue abriendo nuevos espacios tecnológicos y vías de desarrollo, si este espacio puede seguir expandiéndose, podría contribuir a romper el monopolio de la imaginación distópica al estilo de la «Ilustración Oscura» sobre las visiones del futuro.

Prof. Yin Zhiguang:

Este punto me interesa especialmente. Acaba de plantear una cuestión muy importante: a medida que la IA se extiende a nivel mundial, ¿cuál es exactamente el mecanismo a través del cual se propaga? Anteriormente, comentamos que la diversidad debe incorporarse a la gobernanza de la IA. Esto implica tanto desarrollar grandes modelos lingüísticos capaces de abarcar múltiples idiomas como crear modelos de IA localizados que puedan integrar las condiciones reales de las diferentes regiones. Pero todo ello se sustenta en un requisito previo aún más fundamental: la base material.

En primer lugar, los propios grandes modelos lingüísticos deben ser más accesibles. Los algoritmos deben ser asequibles y más abiertos. En segundo lugar, los costes energéticos que sustentan el desarrollo de la IA —especialmente la electricidad— también deben reducirse lo suficiente.

De lo contrario, la diversidad, la inclusividad e incluso la gobernanza global de las que hemos hablado anteriormente no serían más que una «superestructura construida en el aire». Solo cuando las personas puedan permitirse la IA, tengan acceso a un suministro energético estable y económico, y cuando los propios modelos a gran escala sean lo suficientemente económicos y de código abierto, estos objetivos de gobernanza podrán alcanzarse realmente.

Y precisamente en estas condiciones fundamentales, los esfuerzos que China ha realizado en los últimos años merecen una atención especial.

Prof. Li Hansong:

Sí. Más allá del desarrollo de código abierto, lo que es aún más importante es que la IA debe integrarse verdaderamente en las actividades sociales y la producción económica. En cierto sentido, podríamos incluso ralentizar la competencia extrema en torno a los límites de capacidad de la inteligencia artificial generativa (GenAI) y los grandes modelos de lenguaje. En su lugar, deberíamos prestar más atención a lo que estas tecnologías aportan realmente a la vida de la gente corriente y al valor que crean para la sociedad. Esta es una de las direcciones.

Otra vía es la energía sostenible. El desarrollo de la IA depende en gran medida de la electricidad, lo que significa que la energía renovable y sostenible es, en sí misma, una base crucial para dicho desarrollo. En este ámbito, China ha seguido realizando importantes inversiones, mientras que Estados Unidos ha carecido en cierta medida de una estrategia a largo plazo de este tipo.

En los últimos años, los cambios en la situación internacional, incluidos acontecimientos como la crisis del estrecho de Ormuz, han puesto aún más de relieve la importancia de la seguridad energética. Países como Corea del Sur y Japón también han ido reconociendo gradualmente las vulnerabilidades que genera la dependencia a largo plazo de la energía importada y han comenzado a aumentar la inversión en energías renovables. En comparación, Estados Unidos ha logrado avances relativamente limitados en este ámbito.

Por lo tanto, el desarrollo de la IA no solo debe integrarse profundamente en la sociedad y la economía, sino que también debe basarse en un sistema energético más diversificado y sostenible.

Más allá de esto, se plantea una cuestión aún más fundamental: ¿hacia dónde quiere realmente que se dirija la IA la sociedad? Se trata, en esencia, de la cuestión de la gobernanza de la IA que hemos abordado anteriormente.

En la actualidad, Singapur está impulsando que la ASEAN explore un marco regional de gobernanza de la IA. La Unión Africana también está debatiendo cuestiones relacionadas, y países como Indonesia participan activamente en este proceso.

Por el contrario, Estados Unidos ha tendido durante mucho tiempo a dejar que la innovación avance a su antojo, como un «caballo desbocado», y solo interviene con la regulación cuando los problemas ya se han vuelto extremadamente graves.

Prof. Yin Zhiguang:

En cierto sentido, esto supone una continuación de la trayectoria de gobernanza y la inercia institucional que se formaron durante la era neoliberal en Estados Unidos. Se ha hecho más hincapié en el desarrollo autónomo de los mercados que en marcar de antemano la dirección del desarrollo tecnológico a través de la gobernanza pública.

Desde una perspectiva epistemológica, esto es, en realidad, lo que a menudo describimos como un «castillo en el aire».

Es como alguien que se come seis platos de fideos y solo se siente saciado tras el séptimo, por lo que cree erróneamente que solo el séptimo plato importaba realmente. O es como la parábola de Mencio, en la que alguien quiere construir únicamente la segunda planta, olvidando que la primera es la base de toda la estructura.

Muchas personas parecen creer que, siempre que posean las tecnologías más avanzadas, todos los demás problemas se resolverán de forma natural. Pero, en realidad, el desarrollo siempre ha sido una tarea sistémica.

Por lo tanto, volver a situar la existencia humana en el centro de los debates sobre el desarrollo tecnológico y la gobernanza global, y asentar verdaderamente la tecnología en los cimientos del desarrollo social humano, es, en mi opinión, la cuestión más fundamental.

Prof. Li Hansong:

Sí. Hoy en día, observamos una polarización tan grave en el seno de la sociedad estadounidense, y, sin embargo, rara vez se reflexiona de manera profunda sobre si esta misma polarización no es precisamente el resultado de haber construido «castillos en el aire» durante tanto tiempo, ignorando las condiciones reales de la gente corriente que se encuentra en los estratos más bajos de la sociedad.

Cuando cada vez más personas quedan excluidas del progreso tecnológico, es natural que expresen su descontento con este modelo de desarrollo. Aunque estas quejas se han transformado ahora en consecuencias políticas muy concretas, la sociedad estadounidense sigue careciendo de una reflexión política sistemática sobre la cuestión.

Creo que esto resulta profundamente decepcionante.

Prof. Yin Zhiguang:

Entonces, desde otra perspectiva, si el Sur Global ha llegado a reconocer este problema, ¿cómo deberíamos promover una forma de desarrollo tecnológico y de gobernanza global que sitúe la acción humana en el centro?

Prof. Li Hansong:

La clave reside en la gobernanza colaborativa.

Durante mucho tiempo, los recursos y el poder discursivo se han concentrado en manos de un pequeño número de países y empresas. Como resultado, muchas normas internacionales no han reflejado verdaderamente los intereses de la mayoría de los países en desarrollo.

Durante la Guerra de Independencia de Estados Unidos, se acuñó una famosa frase: «No hay tributación sin representación». Sin embargo, durante un largo período, los países occidentales han dominado las normas globales sin una amplia representación, al tiempo que permitían que otros países asumieran los costes correspondientes.

Por lo tanto, al volver a formular normas internacionales en la era de la IA y la economía del conocimiento, un principio fundamental debe ser: la formulación conjunta y la gobernanza conjunta.

Solo a través de una participación genuina en la elaboración de normas reconocerán los países la legitimidad de estas y estarán dispuestos a cumplirlas conjuntamente. De lo contrario, si las normas no se han creado con mi participación, ¿por qué debería aceptarlas o acatarlas?

Creo que este es el principio más fundamental para la futura gobernanza global de la IA.

Prof. Yin Zhiguang:

Esto, además, coincide perfectamente con los temas de la Conferencia Mundial sobre Inteligencia Artificial que se celebra actualmente en Shanghái. El énfasis de la conferencia de este año en la gobernanza colaborativa, el desarrollo inclusivo y las cuestiones relacionadas son precisamente los conceptos clave que hemos estado debatiendo.

Prof. Li Hansong:

Sí. La cuestión clave es cómo forjar una sabiduría compartida en materia de inteligencia artificial, utilizar esa sabiduría compartida para construir gradualmente un entendimiento común y, en última instancia, establecer normas que todos puedan acatar conjuntamente.

Por supuesto, estas normas no pueden ser perfectas desde el principio. Inevitablemente, se someterán a continuos ajustes y perfeccionamientos. Pero, siempre que este proceso de acumulación continúe, madurarán gradualmente y, con el tiempo, conformarán un mecanismo de gobernanza verdaderamente universal.

En el pasado, una visión hegeliana de la historia sostenía que Occidente representaba la universalidad, mientras que otras civilizaciones eran meramente locales o marginales. Podían resultar interesantes, pero, en última instancia, solo eran «interesantes» y nada más.

Hoy en día, si el Sur Global puede participar genuinamente en la construcción de normas universales, dejará de ser un mero receptor de normas. También podrá convertirse en cocreador de la universalidad.

Prof. Yin Zhiguang:

Estoy de acuerdo. Sin embargo, no creo que nuestro objetivo sea reproducir un nuevo tipo de «universalidad hegeliana». No se trata de sustituir la universalidad de otros por la nuestra, ni se trata simplemente de «incorporar al Norte Global al redil».

Lo que, en mi opinión, merece mayor atención es que, en los debates actuales sobre la gobernanza global y la gobernanza de la IA, estamos recuperando una dimensión de la filosofía moral.

Equidad, justicia, la búsqueda del bien… Estos conceptos pueden parecer abstractos, pero, en realidad, están presentes a lo largo de todo el desarrollo de la civilización humana. Independientemente de la civilización o la cultura, los seres humanos no pueden escapar de la búsqueda del bien, la equidad, la justicia y la coexistencia compartida.

Lamentablemente, desde el siglo XIX, y especialmente desde el siglo XX, las teorías del desarrollo y las prácticas de gobernanza global lideradas por Estados Unidos han hecho cada vez más hincapié en la racionalidad instrumental, intentando excluir de la consideración estas cuestiones morales —que pueden parecer vagas, pero que en realidad encarnan los valores más profundos de la humanidad—.

Hoy en día, ya sea a través de la Conferencia Mundial sobre Inteligencia Artificial o de diversas iniciativas y libros blancos sobre la gobernanza global de la IA, existe un esfuerzo por reintroducir valores como la equidad, la justicia, la libertad y la democracia en los debates sobre la gobernanza de la IA.

Prof. Li Hansong:

Precisamente por ello, la moralidad en sí misma posee universalidad.

Los seres humanos son, por naturaleza, seres que persiguen ideales morales. Nos preocupamos de forma natural por la equidad y la justicia, y nos preocupa cómo podemos convivir. Por lo tanto, el «atraer» o «incorporar» que mencionábamos anteriormente no se refiere a una inclusión coercitiva. Más bien, se refiere a una especie de atracción moral.

Para aquellos países que inicialmente se mostraban reacios a participar en una gobernanza colaborativa, cuando surja en el mundo un marco de gobernanza más inclusivo y que posea una mayor legitimidad moral, tendrán una nueva opción.

En última instancia, cada uno elegirá el sistema de gobernanza en el que esté dispuesto a participar basándose en los valores que encarnan las diferentes normas. Esto no es coacción en el sentido realista; se acerca más a lo que podríamos denominar «realismo normativo».

Prof. Yin Zhiguang:

O tal vez podríamos decir que no se trata de verse obligado a unirse, sino más bien de ser atraído gradualmente, incorporado y, en última instancia, formar un nuevo consenso a través de la práctica compartida.

Prof. Li Hansong:

Exactamente. Como dice el refrán: «Si los que están lejos no están convencidos, cultive la virtud y el refinamiento para que vengan».

Mediante la mejora continua de las propias instituciones y valores, más personas optarán voluntariamente por participar.

Prof. Yin Zhiguang:

Se trata de una especie de armonía que surge de forma natural a través de la práctica. Creo que es especialmente significativa y que también resulta muy adecuada como conclusión del debate de hoy.

Prof. Li Hansong:

Porque, en última instancia, todo se reduce a la palabra «común»: gobernanza común, desarrollo común y vida común.

Prof. Yin Zhiguang:

Y detrás de esto hay un fundamento aún más profundo: la moral.

Prof. Li Hansong:

De hecho, antes del auge de la racionalidad instrumental, la propia tradición occidental también estaba profundamente arraigada en las preocupaciones morales.

Esto incluye la tradición del derecho natural, así como los principios básicos relativos a los derechos humanos y al humanitarismo en el derecho internacional moderno. En gran medida, todas estas ideas tienen su origen en el pensamiento del derecho natural.

En última instancia, estas tradiciones abordan la misma cuestión: ¿cómo puede la humanidad convivir mejor?

Prof. Yin Zhiguang:

Este es, de hecho, un punto muy interesante.

Europa cuenta con una tradición de derecho natural, mientras que China, por su parte, también tiene su propia búsqueda de principios morales universales. Aunque China no cuenta con el concepto de «ley divina», siempre ha hecho hincapié en conceptos como el «Camino del Cielo» (tiandao) y «seguir la naturaleza» (fazi ziran), al tiempo que se preocupa por valores humanos universales como la equidad, la justicia y la sostenibilidad.

Estos valores son precisamente el mayor punto en común entre las diferentes civilizaciones.

Al mismo tiempo, siempre hemos hecho hincapié en la necesidad de comprender la relación entre libertad y unidad, conflicto y cooperación, desde una perspectiva dialéctica, y de entender el mundo a través de su total interrelación.

Creo que, aunque el debate de hoy haya podido parecer que abarcaba muchos temas diferentes, en última instancia ha girado en torno a una cuestión central:

En el marco de la estructura de desigualdad existente, ¿cómo debemos plantearnos el futuro del orden humano?