Etiqueta: riesgos tecnológicos

Carta abierta al presidente de la Asamblea General de las Naciones Unidas; al secretario general de las Naciones Unidas; al enviado especial del secretario general de las Naciones Unidas para la tecnología; y a los copresidentes del Panel Científico Internacional Independiente sobre Inteligencia Artificial

Los abajo firmantes solicitamos la convocatoria de una sesión especial de la Asamblea General de las Naciones Unidas dedicada específicamente a la Inteligencia Artificial General (IAG), con el fin de reunir a políticos, empresas, ONG y expertos en IAG para debatir cómo aprovechar los beneficios y evitar los riesgos de la IAG antes de que sea demasiado tarde.

Si bien los sistemas actuales de IA tienen fines limitados, como el diagnóstico médico o la redacción de informes, se espera que la IA general (IAG) sea capaz de abordar problemas nuevos con soluciones innovadoras a un nivel igual o superior al de la capacidad humana. Las formas más avanzadas reescribirán su propio código informático, lo que las llevará a perseguir objetivos propios más allá del control humano. Si se gestiona adecuadamente, la IA general podría impulsar avances sin precedentes en medicina, educación, economía, investigación sobre la longevidad, soluciones climáticas y paz mundial. Sin embargo, sin una supervisión adecuada, podría suponer una amenaza existencial para la civilización humana.

Felicitamos a la ONU por la creación del Panel Científico Internacional Independiente sobre IA. Aunque el mandato de este panel no refleja la urgencia de abordar la IA general (IAG), esta debería ser una prioridad fundamental en sus deliberaciones. Las grandes empresas tecnológicas prevén invertir 650 000 millones de dólares en IAG, lo que la convertiría en la mayor inversión de la historia. La revista “Nature” ya ha dado a conocer las primeras formas de IAG. Es muy probable que en esta década se logren formas más avanzadas de IAG. Recomendamos que uno de los grupos de trabajo del nuevo panel de IA se centre específicamente en la gobernanza de la IAG.

Los que más saben advierten del riesgo existencial que supone una IA general no regulada:
• Declaración sobre el riesgo: Mitigar el riesgo de extinción derivado de la IA debería ser una prioridad mundial… firmada por 100 científicos y ejecutivos del sector de la IA, entre los que se encuentran: Sam Altman, Bill Gates, Demis Hassabis, Elon Musk, Stuart Russell y Yoshua Bengio.
• Dario Amodei, cofundador y director ejecutivo de Anthropic y exvicepresidente de investigación de OpenAI: “Mi probabilidad de que algo salga realmente mal a una escala catastrófica para la civilización humana podría estar entre el 10 % y el 25 %”.
• Geoffrey Hinton, uno de los padres de la IA y ganador del Premio Nobel, dijo: “Creo que es importante que la gente entienda que no se trata solo de ciencia ficción; no es solo alarmismo: es un riesgo real en el que debemos pensar, y tenemos que averiguar de antemano cómo lidiar con él”.

Consciente de ello, el Consejo de Presidentes de la Asamblea General de las Naciones Unidas (UNCPGA) creó el Grupo de Expertos de Alto Nivel sobre la IA General (IAG). Este grupo, integrado por Yoshua Bengio, Stuart Russell y otros siete líderes en el campo de la IA General, elaboró el informe “Gobernanza de la transición hacia la Inteligencia Artificial General (IAG): consideraciones urgentes para la Asamblea General de las Naciones Unidas”. El informe concluye: “Es urgente aumentar la conciencia de los líderes nacionales e internacionales sobre los beneficios y riesgos de la futura IAG, a diferencia de las formas actuales de IA”.

El Panel Científico de la ONU sobre IA tardará varios meses en organizarse y un año entero en presentar sus primeros resultados. Para entonces, la IA ya habrá evolucionado varias generaciones. Necesitamos actuar con urgencia.

Apoyamos el informe sobre la IA general (IAG) del Panel Científico de la ONU y recomendamos su distribución inmediata a los Estados miembros de la ONU, así como la organización de una sesión informativa sobre su contenido, impulsada por la oficina de Su Excelencia, que conduzca a la celebración de una sesión especial de la Asamblea General de la ONU dedicada específicamente a la IA general.

Firmado:

Paul Shrivastava, copresidente del Club de Roma
Carlos Álvarez Pereira, secretario general del Club de Roma
Ugo Bardi, exprofesor de química de la Universidad de Florencia
Christian Berg, vicepresidente de la sección alemana del Club de Roma
Gianfranco Bologna, WWF Italia – Club de Roma – Alianza Italiana para el Desarrollo Sostenible (ASviS)
Mariana Bozesan, miembro de pleno derecho del Club de Roma y presidenta del Grupo AQAL
Gerardo del Cerro Santamaría, Academia de Ciencias de Nueva York
David F. Ciampi, Club de Roma de EE. UU.
Jude Currivan, cofundador de WholeWorld-View
Roger Cremades, Universidad de Leeds
Sandrine Dixson-Declève, presidenta honoraria del Club de Roma y presidenta ejecutiva de Earth4All
Fernande Faulkner, Asociación Canadiense del Club de Roma
Joerg Geier, director de Educación Ejecutiva de la Escuela Thunderbird de Gestión Global
Jerome Glenn, director ejecutivo del Proyecto Milenio
Andy Haines, Escuela de Higiene y Medicina Tropical de Londres
Sirka Heinonen, profesora del Centro de Investigación sobre el Futuro de Finlandia de la Universidad de Turku
Friedrich Hinterberger, del Club de Roma y de Wachstum im Wandel
Barry Hughes, Universidad de Denver
Ndubuisi Idejiora-Kalu, profesor del Instituto de Investigación en Ingeniería de Sistemas Aplicados, Nigeria; profesor visitante de la Universidad de Ciencias Aplicadas de Suiza Oriental, Rapperswil, Suiza; miembro del Centro Internacional de Estudios e Investigaciones Transdisciplinarias (CIRET), París, Francia
Ryan Jackson, miembro del Club de Roma, International Medical Consulting
Richard van der Jagt, Asociación Canadiense del Club de Roma
Tapio Kanninen, presidente de Global Crisis Information Network Inc.
Radosveta Krastanova, Universidad Nueva de Bulgaria, Sofía, Bulgaria – directora del Laboratorio de Soluciones para el Desarrollo Sostenible
Roman Krznaric, Centro para la Eudaimonia y el Florecimiento Humano, Universidad de Oxford
Hubert Landier, Centro Internacional de Investigaciones y Estudios Transdisciplinarios
David Lehrer, miembro asociado del Club de Roma y miembro de USACOR
Raymond J Leury, secretario de la Asociación Canadiense del Club de Roma
Hunter Lovins, presidente de Natural Capitalism Solutions
Edward W. Manning, miembro de pleno derecho del Club de Roma, expresidente de la Asociación Canadiense del Club de Roma
Christopher Mbanefo, miembro de la junta directiva del Club de Roma
Morne Mostert, Mindset Index
Nebojša Nešković, presidente de la sección Serbia del Club de Roma
Gabriel Peredo Albornoz – Uma Kanchariq, Doctorado en Conservación y Gestión de la Biodiversidad, Facultad de Ciencias, Universidad Santo Tomás, Chile
Cristina Popa Tache, Universidad Danubius Internațional
Franz Josef Radermacher, Instituto de Investigación para el Procesamiento del Conocimiento Orientado a la Aplicación, Ulm
Kate Raworth, Profesora Asociada Senior, Instituto de Cambio Ambiental, Universidad de Oxford
Walter R. Stahel, Instituto Product-Life de Ginebra
Anitra Thorhaug, Copresidenta, Asociación Estadounidense del Club de Roma
Andrew Welch, presidente, Asociación Canadiense del Club de Roma
Markku Wilenius, profesor de Estudios del Futuro en la Escuela de Negocios de Turku
Jinfeng Zhou, presidente de la Academia Mundial de Desarrollo Sostenible Limited
Laszlo Zsolnai, Centro de Ética Empresarial, Universidad Corvinus de Budapest
Ibon Zugasti, director, Prospektiker – Instituto Europeo de Estudios del Futuro

Imagen: https://www.palermo.edu/ingenieria/que-es-la-inteligencia-artificial.html