Gobiernos y líderes de la industria de la IA urgen en la ONU a regular antes de perder el control

Los principales líderes de la industria de la inteligencia artificial (IA), como OpenAI y Anthropic, y representantes de la comunidad internacional han coincidido en el Consejo de Seguridad de la ONU en la necesidad de establecer una regulación global coordinada antes de que el vertiginoso avance de la tecnología escape al control humano.

La sesión de alto nivel, convocada por Francia bajo su presidencia de turno del Consejo, se celebró ayer tras la alarma generada por varios incidentes de ciberseguridad ocurridos en verano.

Durante el debate se evocó el paralelismo con el superordenador HAL 9000 de la película 2001: A Space Odyssey de Stanley Kubrick, la máquina que dejó de obedecer a sus creadores.

Altman urge a crear estándares 

En su intervención, el director ejecutivo de OpenAI, Sam Altman, instó a los miembros del Consejo a forjar una cooperación internacional urgente que oriente a las compañías con estándares complementarios, tanto nacionales como globales.

En la misma línea, Dario Amodei, consejero delegado de Anthropic, intervino por videoconferencia para alertar de que los riesgos asociados a los modelos de frontera constituyen ya "el problema de seguridad global más importante al que se enfrenta el mundo hoy", y reclamó un marco vinculante y concertado.

Medir con rigor las consecuencias 

La presidencia francesa del Consejo recalcó que la comunidad internacional debe medir con rigor las consecuencias de esta revolución sobre la dignidad humana.

En este sentido, se señalaron tres grandes áreas de peligro: el riesgo financiero derivado de la especulación y las burbujas de inversión; el impacto social y laboral advertido por expertos independientes, susceptible de profundizar la brecha de desigualdad, y el coste medioambiental por el creciente consumo de recursos hídricos y energéticos.

China pide más código abierto 

También abogó por el código abierto, China, que hizo un llamamiento "a todos los países para que fortalezcan los intercambios y la cooperación, promuevan el código abierto y los ecosistemas abiertos, y trabajen juntos por el avance científico y tecnológico mundial".

El consenso de estos líderes contrastó con el discurso pronunciado ante la Asamblea General por el presidente de Estados Unidos, Donald Trump, quien ayer rechazó tajantemente cualquier "esquema globalista" que pretenda intervenir o regular la tecnología, y anunció que la documentación oficial estadounidense sustituirá el término inteligencia artificial por el de "superinteligencia" (SI).