Ir al contenido principal

Etiqueta: gobernanza tecnológica

De la competencia a la sinfonía mundial

Un llamado global para una Inteligencia Artificial Humana.

Por José Rafael Quesada J.

Hoy día considero que la Inteligencia Artificial nos obliga a decidir qué clase de civilización queremos, qué queremos ser, una civilización que, perfeccione la competencia y concentre el poder, o una que aprenda a cooperar y coloque la dignidad humana y el ser humano por encima de la velocidad, la rentabilidad y el dominio tecnológico.

La encrucijada no es solamente tecnológica.

Estamos en un mundo atravesado por la fragmentación tecnológica, es lo que tenemos hoy, las guerras comerciales, la concentración de los datos y una carrera acelerada por dominar la inteligencia artificial. El discurso pronunciado por el presidente Xi Jinping en la Conferencia Mundial de Inteligencia Artificial de Shanghái de 2026 merece atención. No porque una intervención oficial resuelva por sí sola solamente las contradicciones de nuestro tiempo, no lo resuelve, sino porque pone en el centro una pregunta que ya no puede quedar confinada a laboratorios, empresas, academias o gobiernos.

¿Para quién y para qué?

Estamos construyendo esta nueva inteligencia. La cuestión es decisiva y no es cuánto podrá ser la ideal, sino que dirección humana orientará lo que haga, porque es un producto humano, es una herramienta construida por los seres humanos, es una herramienta capaz de ampliar el conocimiento, anticipar los riesgos, mejorar la salud o demostrar la educación y también puede vigilar, Puede manipular y volver más eficiente la violencia, como ya se ha demostrado en algunos capítulos de la guerra de Oriente Medio. El mismo algoritmo que acerca oportunidades puede reproducir prejuicios.

La misma infraestructura que conecta comunidades puede concentrar poder en pocas manos. La técnica no trae incorporado un destino moral. De ese destino depende de las prioridades, las instituciones, Los gobiernos y las organizaciones sociales y sobre todo de las personas que deciden.

Por eso hablar de una sinfonía de cooperación mundial o global no debería ser una metáfora decorativa. Una sinfonía existe porque voces distintas encuentran una relación sin perder su identidad, la diversidad digamos. No exige uniformidad, exige escucha, coordinación y un propósito, Que se comparte entre todos. Trasladada al campo de la inteligencia artificial, esa imagen nos invita a pasar de una competencia ciega por la supremacía a una cooperación capaz de reconocer la diversidad de pueblos, culturas y los saberes, los nuevos saberes y los saberes ancestrales.

El Ser Humano como Valor Central

Desde la perspectiva del nuevo humanismo, el punto de partida es sencillo y radical. Nada por encima del ser humano, ni ningún ser humano por encima o por debajo de otro[1]. Eso significa que la innovación no puede evaluarse únicamente por su potencia, su novedad o su rentabilidad. Debe medirse por su contribución concreta a la dignidad humana o a la dignificación de la vida, la ampliación de capacidades, la igualdad de oportunidades, la libertad de pensamiento y el fortalecimiento de las comunidades[2].

Un enfoque que está centrado en las personas[3] requiere más que buenas intenciones, exige transparencia sobre los datos y los criterios de decisión, mecanismos de rendición de cuentas, acceso equitativo, protección frente a la discriminación algorítmica y participación real de quienes sufrirán o disfrutarán sus consecuencias. El juicio y la responsabilidad humana no pueden ser delegados a una máquina. No debe apoyar la decisión, por supuesto, para eso lo programamos.

Y iluminar alternativas también, y procesar una complejidad enorme, pero no debe sustituir la conciencia moral de quienes respondan por sus actos. Aquí hacemos aparecer una distinción esencial. El control humano no consiste solamente en conservar un botón de apagado, consiste en preservar la capacidad social de discutir fines, poner límites y corregir el rumbo.

Significa que trabajadores, comunidades, universidades, organizaciones sociales, pueblos originarios, empresas y de los estados participen en la gobernanza de una tecnología que ya modifica el trabajo, la educación, la cultura y la vida cotidiana. Todo lo atraviesa, todo lo invade y en muchos casos todo lo controla. Si la conducción queda reducida a una elite técnico-financiera, la promesa del progreso común, Terminará reforzando las viejas desigualdades, que ese plan parece.

El Sur Global: de receptor a protagonista

En ese marco, el anuncio de 5000 oportunidades de formación y seminarios para países en desarrollo durante los próximos cinco años, junto con centros de cooperación y aplicaciones de inteligencia artificial para las regiones como América Latina, el Caribe, Asia, el mundo árabe y África, constituye una señal relevante muy importante. La brecha digital no es una distancia abstracta, se traduce en escuelas sin recursos, sistemas de salud sin capacidad predictiva, lenguas que desaparecen de los modelos y las economías condenadas a consumir soluciones diseñadas en otros lugares. Sin embargo, formar usuarios no basta.

La verdadera cooperación debe permitir que el Sur Global investigue, cree, regule y decida. Debe fortalecer infraestructura pública, la ciencia abierta, capacidades locales y tecnológicas apropiadas a cada realidad. También debe reconocer que en nuestras comunidades existe conocimiento valioso, experiencia, solidaridad, cuidado ambiental, convivencia, memoria y resolución colectiva de problemas que no pueden reducirse a simples bases de datos.

Democratizar la inteligencia artificial, Implica evitar una nueva dependencia. Los países y las comunidades no deberían entregar sus datos, su creatividad y su soberanía a cambio de acceso precario a plataformas ajenas. La conversación será auténtica se distribuye capacidades y poder, se reduce asimetrías y se hace posible que cada pueblo participe en el futuro tecnológico con voz propia.

Gobernanza mundial, democracia real[4]

El impulso a una Organización Mundial de Cooperación en Inteligencia Artificial abre una posibilidad, pero también plantea una exigencia. Ninguna arquitectura internacional será suficiente si reproduce la concentración que dice combatir. El multilateralismo debe ser real, con unas Naciones Unidas como espacio de legitimidad, Con representación efectiva de los países en desarrollo y con participación social más allá de los gobiernos y las grandes corporaciones. Necesitamos acuerdos globales sobre seguridad, usos militares, privacidad, trabajo, propiedad de los datos, protección ambiental y protección de la diversidad cultural.

Pero esos acuerdos deben ser o deben tener una traducción local. La democracia tecnológica comienza cuando las personas, Pueden comprender qué sistemas las evalúan, cuestionar sus decisiones y exigir una reparación, si es necesario. Comienza también cuando las instituciones, públicas o privadas, tienen capacidad para auditar, regular y cuando sea necesario, decir no.

El nuevo humanismo propone transformar la protesta espontánea y la preocupación humanitaria en acción consciente y estructural. Aplicar a la inteligencia artificial, la no violencia activa también tiene aquí un campo concreto: impedir que la inteligencia artificial se convierta en instrumento de guerra, persecución, desinformación o control social, y orientar su potencia hacia la prevención de conflictos, el cuidado de la vida y la cooperación entre los pueblos.

Abrir el futuro

Hay además una lección de humildad, ningún gobierno, empresa o experto, Puede prever por completo los efectos de los sistemas que evolucionan con rapidez y se insertan en sociedades complejas. Abrir en el futuro exige instituciones resilientes, pensamiento crítico y capacidad de adaptación. Exige reconocer los cisnes negros, escuchar las señales débiles y corregir antes de que el daño se vuelva irreversible. La prudencia no es miedo al progreso, es responsabilidad ante lo imprevisible, sobre todo cuando está en manos individuales o de personas.

La diversidad cultural no es un obstáculo para la innovación, jamás, es una reserva de futuros posibles. La pregunta es si permitiremos que los modelos homogenicen lenguajes, memorias y formas de comprender el mundo. O si nos utilizaremos para cultivar un verdadero jardín de civilizaciones. Un jardín vivo no prospera borrando diferencias, sino creando condiciones para que cada expresión se desarrolle y dialogue con los demás. La naturaleza es tan diversa que es una escuela para estos casos.

La tecnología debe servir a la vida, no la vida a la tecnología. Esta afirmación implica orientar la economía hacia el bienestar humano. Compartir los beneficios de la productividad, proteger el sentido y la dignidad del trabajo, proteger y atender el cambio y la crisis climáticas, educar no solo por usar herramientas, sino para comprenderlas, cuestionarlas y decidir colectivamente sobre ellas. La inteligencia artificial será humana, no por imitar mejor nuestra conversación, sino por contribuir a que vivamos con más libertad solidaria y sentido.

Tomar las riendas sin soltar al otro.

Como un caballo «bronco» decimos por estos lados, la inteligencia artificial corre con una fuerza que fascina y atemoriza. Pero tomar las riendas no significa dominar desde arriba ni frenar todo movimiento. Significa acordar una dirección, mantener el equilibrio y recordar que nadie debe quedar, Abandonado en el camino. No se aceptan los rezagos.

Gobiernos, empresas, religiones, universidades, organizaciones sociales y ecologistas y millones de personas tienen una responsabilidad que no puede tercerizarse. El desafío de nuestra época es pasar de la competencia a la sinfonía, de la carrera por llegar primero al compromiso de llegar juntos, de la concentración de conocimiento a su democratización,

Del algoritmo opaco a la decisión responsable, de una promesa abstracta de progreso a la mejora verificable de la vida cotidiana. Esa transición comienza en las grandes instituciones, pero también en cada elección concreta que diseñamos, que compramos, que regulamos y que enseñamos y que estamos dispuestos a defender.

Es hora de que la humanidad tome las riendas, pero que no las suelte. Y sobre todo, que no suelte la mano de quienes han sido históricamente dejados atrás. Sólo entonces la inteligencia artificial dejará de ser una nueva expresión del poder para convertirse en una herramienta de reconciliación, cooperación y esperanza. Sólo entonces podríamos decir que no estamos construyendo máquinas más capaces dentro de una sociedad inhumana, sino una civilización más humana capaz de orientar sus máquinas. Una verdadera nación humana universal.[5]

[1] Los 6 puntos del Humanismo (Movimiento Humanista. Silo

[2] Silo. (2004). Cartas a mis amigos: Sobre la crisis social y personal en el momento actual. Obras completas. Plaza y Valdés.

[3] “China considera que todos los países deben adherirse a un enfoque centrado en las personas y los principios de progreso y bondad”. Presidente Xi Jinping en la Conferencia Mundial de Inteligencia Artificial de Shanghái de 2026

[4] Documento Humanista. Cartas a mis amigos. Silo, 1993, Argentina

[5] Sullings, Guillermo. Encrucijada y Futuro del Ser Humano: Los Pasos hacia la Nación Humana Universal. Argentina, 3 Septiembre 2016

Urgen a la ONU convocar sesión especial sobre Inteligencia Artificial General ante riesgos existenciales

Carta abierta al presidente de la Asamblea General de las Naciones Unidas; al secretario general de las Naciones Unidas; al enviado especial del secretario general de las Naciones Unidas para la tecnología; y a los copresidentes del Panel Científico Internacional Independiente sobre Inteligencia Artificial

Los abajo firmantes solicitamos la convocatoria de una sesión especial de la Asamblea General de las Naciones Unidas dedicada específicamente a la Inteligencia Artificial General (IAG), con el fin de reunir a políticos, empresas, ONG y expertos en IAG para debatir cómo aprovechar los beneficios y evitar los riesgos de la IAG antes de que sea demasiado tarde.

Si bien los sistemas actuales de IA tienen fines limitados, como el diagnóstico médico o la redacción de informes, se espera que la IA general (IAG) sea capaz de abordar problemas nuevos con soluciones innovadoras a un nivel igual o superior al de la capacidad humana. Las formas más avanzadas reescribirán su propio código informático, lo que las llevará a perseguir objetivos propios más allá del control humano. Si se gestiona adecuadamente, la IA general podría impulsar avances sin precedentes en medicina, educación, economía, investigación sobre la longevidad, soluciones climáticas y paz mundial. Sin embargo, sin una supervisión adecuada, podría suponer una amenaza existencial para la civilización humana.

Felicitamos a la ONU por la creación del Panel Científico Internacional Independiente sobre IA. Aunque el mandato de este panel no refleja la urgencia de abordar la IA general (IAG), esta debería ser una prioridad fundamental en sus deliberaciones. Las grandes empresas tecnológicas prevén invertir 650 000 millones de dólares en IAG, lo que la convertiría en la mayor inversión de la historia. La revista “Nature” ya ha dado a conocer las primeras formas de IAG. Es muy probable que en esta década se logren formas más avanzadas de IAG. Recomendamos que uno de los grupos de trabajo del nuevo panel de IA se centre específicamente en la gobernanza de la IAG.

Los que más saben advierten del riesgo existencial que supone una IA general no regulada:
• Declaración sobre el riesgo: Mitigar el riesgo de extinción derivado de la IA debería ser una prioridad mundial… firmada por 100 científicos y ejecutivos del sector de la IA, entre los que se encuentran: Sam Altman, Bill Gates, Demis Hassabis, Elon Musk, Stuart Russell y Yoshua Bengio.
• Dario Amodei, cofundador y director ejecutivo de Anthropic y exvicepresidente de investigación de OpenAI: “Mi probabilidad de que algo salga realmente mal a una escala catastrófica para la civilización humana podría estar entre el 10 % y el 25 %”.
• Geoffrey Hinton, uno de los padres de la IA y ganador del Premio Nobel, dijo: “Creo que es importante que la gente entienda que no se trata solo de ciencia ficción; no es solo alarmismo: es un riesgo real en el que debemos pensar, y tenemos que averiguar de antemano cómo lidiar con él”.

Consciente de ello, el Consejo de Presidentes de la Asamblea General de las Naciones Unidas (UNCPGA) creó el Grupo de Expertos de Alto Nivel sobre la IA General (IAG). Este grupo, integrado por Yoshua Bengio, Stuart Russell y otros siete líderes en el campo de la IA General, elaboró el informe “Gobernanza de la transición hacia la Inteligencia Artificial General (IAG): consideraciones urgentes para la Asamblea General de las Naciones Unidas”. El informe concluye: “Es urgente aumentar la conciencia de los líderes nacionales e internacionales sobre los beneficios y riesgos de la futura IAG, a diferencia de las formas actuales de IA”.

El Panel Científico de la ONU sobre IA tardará varios meses en organizarse y un año entero en presentar sus primeros resultados. Para entonces, la IA ya habrá evolucionado varias generaciones. Necesitamos actuar con urgencia.

Apoyamos el informe sobre la IA general (IAG) del Panel Científico de la ONU y recomendamos su distribución inmediata a los Estados miembros de la ONU, así como la organización de una sesión informativa sobre su contenido, impulsada por la oficina de Su Excelencia, que conduzca a la celebración de una sesión especial de la Asamblea General de la ONU dedicada específicamente a la IA general.

Firmado:

Paul Shrivastava, copresidente del Club de Roma
Carlos Álvarez Pereira, secretario general del Club de Roma
Ugo Bardi, exprofesor de química de la Universidad de Florencia
Christian Berg, vicepresidente de la sección alemana del Club de Roma
Gianfranco Bologna, WWF Italia – Club de Roma – Alianza Italiana para el Desarrollo Sostenible (ASviS)
Mariana Bozesan, miembro de pleno derecho del Club de Roma y presidenta del Grupo AQAL
Gerardo del Cerro Santamaría, Academia de Ciencias de Nueva York
David F. Ciampi, Club de Roma de EE. UU.
Jude Currivan, cofundador de WholeWorld-View
Roger Cremades, Universidad de Leeds
Sandrine Dixson-Declève, presidenta honoraria del Club de Roma y presidenta ejecutiva de Earth4All
Fernande Faulkner, Asociación Canadiense del Club de Roma
Joerg Geier, director de Educación Ejecutiva de la Escuela Thunderbird de Gestión Global
Jerome Glenn, director ejecutivo del Proyecto Milenio
Andy Haines, Escuela de Higiene y Medicina Tropical de Londres
Sirka Heinonen, profesora del Centro de Investigación sobre el Futuro de Finlandia de la Universidad de Turku
Friedrich Hinterberger, del Club de Roma y de Wachstum im Wandel
Barry Hughes, Universidad de Denver
Ndubuisi Idejiora-Kalu, profesor del Instituto de Investigación en Ingeniería de Sistemas Aplicados, Nigeria; profesor visitante de la Universidad de Ciencias Aplicadas de Suiza Oriental, Rapperswil, Suiza; miembro del Centro Internacional de Estudios e Investigaciones Transdisciplinarias (CIRET), París, Francia
Ryan Jackson, miembro del Club de Roma, International Medical Consulting
Richard van der Jagt, Asociación Canadiense del Club de Roma
Tapio Kanninen, presidente de Global Crisis Information Network Inc.
Radosveta Krastanova, Universidad Nueva de Bulgaria, Sofía, Bulgaria – directora del Laboratorio de Soluciones para el Desarrollo Sostenible
Roman Krznaric, Centro para la Eudaimonia y el Florecimiento Humano, Universidad de Oxford
Hubert Landier, Centro Internacional de Investigaciones y Estudios Transdisciplinarios
David Lehrer, miembro asociado del Club de Roma y miembro de USACOR
Raymond J Leury, secretario de la Asociación Canadiense del Club de Roma
Hunter Lovins, presidente de Natural Capitalism Solutions
Edward W. Manning, miembro de pleno derecho del Club de Roma, expresidente de la Asociación Canadiense del Club de Roma
Christopher Mbanefo, miembro de la junta directiva del Club de Roma
Morne Mostert, Mindset Index
Nebojša Nešković, presidente de la sección Serbia del Club de Roma
Gabriel Peredo Albornoz – Uma Kanchariq, Doctorado en Conservación y Gestión de la Biodiversidad, Facultad de Ciencias, Universidad Santo Tomás, Chile
Cristina Popa Tache, Universidad Danubius Internațional
Franz Josef Radermacher, Instituto de Investigación para el Procesamiento del Conocimiento Orientado a la Aplicación, Ulm
Kate Raworth, Profesora Asociada Senior, Instituto de Cambio Ambiental, Universidad de Oxford
Walter R. Stahel, Instituto Product-Life de Ginebra
Anitra Thorhaug, Copresidenta, Asociación Estadounidense del Club de Roma
Andrew Welch, presidente, Asociación Canadiense del Club de Roma
Markku Wilenius, profesor de Estudios del Futuro en la Escuela de Negocios de Turku
Jinfeng Zhou, presidente de la Academia Mundial de Desarrollo Sostenible Limited
Laszlo Zsolnai, Centro de Ética Empresarial, Universidad Corvinus de Budapest
Ibon Zugasti, director, Prospektiker – Instituto Europeo de Estudios del Futuro

Imagen: https://www.palermo.edu/ingenieria/que-es-la-inteligencia-artificial.html