La ONU insta a Estados y empresas a gobernar la IA: "Todos los derechos humanos están en riesgo"

La preocupación por el ritmo que está alcanzando el desarrollo de la inteligencia artificial (IA) ha llevado al Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, ha hecho un llamamiento a Estados y empresas para gobernar una tecnología que ofrece muchos beneficios para la sociedad pero que también pone en riesgo los derechos humanos.
  
 Türk ha pedido medidas urgentes y significativas para hacer frente a los riesgos sin precedentes de la IA en una carta abierta en la que dice que "el verdadero reto hoy en día es cómo equiparar el ritmo de una gobernanza eficaz de la IA con el ritmo de su acelerado desarrollo", ha expuesto, insistiendo en que "necesitamos medidas urgentes adaptadas a los riesgos sin precedentes que plantea la IA de frontera".

Türk ha reconocido en su escrito los beneficios que ya ha demostrado tener esta tecnología, sobre todo en lo que respecta al conocimiento científico, el acceso a la información en múltiples idiomas y la producción agrícola. Pero aborda también los daños que ya está haciendo: la discriminación, la erosión de la privacidad a gran escala, la automatización de servicios esenciales que excluyen a personas y colectivos, y las campañas de desinformación.

Los derechos humanos, en riesgo

"Todos los derechos humanos están en riesgo", afirma contundente, al tiempo que insta a los Estados y a empresas de inteligencia artificial de frontera a colaborar para comprender y reforzar los controles que ya se aplican a esta tecnología y a aplicar una supervisión interna e independiente para aumentar la transparencia y la rendición de cuentas.
  
 En los que respecta a los discurso hechos en los últimos días por los directos ejecutivos de los de los laboratorios de IA más importantes del mundo, OpenAI y Anthropic, sobre la necesidad de pausar o ralentizar el ritmo de desarrollo, Türk señala como paso importante limitar el uso de la automejora recursiva, un proceso por que una IA rediseña autónomamente su propio código para volverse más inteligente, en un bucle continuo y acelerado.
  
Un enfoque más colaborativo entre países -en referencia a la carrera de la IA que lideran Estados Unidos y China- y una corregulación de la industria sin olvidar exigir a las empresas que actúen con responsabilidad y rindan cuentas si no lo hacen, completan las propuestas con las que Türk defiende un desarrollo de la IA que no comprometa los derechos humanos.

Anthropic, OpenAI y Google estudian crear un organismo de seguridad para autorregular la IA, según TWP

Según The Washington Post, antes del respaldo y la publicación del ensayo de Amodei, Anthropic, OpenAI y Google estuvieron debatiendo la creación potencial de un nuevo organismo autorregulador independiente que se encargaría de imponer las medidas de seguridad estándar en un sector que se mueve de forma muy acelerada.

Este organismo sería similar a los de otras industrias, tal como ha citado Amodei, líder de Anthropic, poniendo como ejemplo a la Autoridad Reguladora de la Industria Financiera (FINRA) que, como organización privada y sin fines de lucro autorizada por el Congreso de Estados Unidos, se encarga de supervisar y autorregular las empresas de valores y corredurías de bolsa del país.
  
Se trataría de un organismo inédito, ideado por las propias compañías de Silicon Valley que han acelerado el progreso de una tecnología que ahora quieren frenar ellas mismas. De hecho, el propio Amodei sugirió solicitar una exención "limitada" en las leyes de competencia de Estados Unidos que les permita pactar y coordinar estos límites de seguridad.

No obstante, estos llamamientos de desaceleración y nuevas reglas para la industria harán más intensa la tormenta política a la que se enfrenta el gobierno de Estados Unidos. El propio presidente, Donald Trump, se ha mostrado contrario a frenar el desarrollo, al declarar: "Estamos superando a China en IA, somos el país más sofisticado del mundo, y francamente, quiero que siga siendo así".
  
Asimismo, hay voces críticas en la industria y entre algunos competidores, así como en la administración estadounidense, que señalan que una desaceleración acordada entre los gigantes del sector, aparte de actuar como un "cartel" para bloquear a competidores más pequeños, frenaría la ventaja estratégica del país frente a potencias rivales como China.

Trump dice que la IA no necesita más control que tenerlo a él como presidente de EE. UU.

Precisamente, este lunes el presidente de Estados Unidos, Donald Trump, ha denunciado que existe "una conspiración enfermiza contra la IA y los centros de datos y el único que está contenido con ello es China" y ha que esta tecnología no necesita más control que el hecho de que él sea el presidente del país: "El único control o mecanismo de seguridad que necesita la IA es un presidente fuerte e inteligente (¡con un alto coeficiente intelectual!), ¡y Estados Unidos lo tiene de sobra!", ha escrito Trump en su red Truth Social.

Trump ha argumentado que su Administración "ha impedido que personas de la IA hagan cosas malas o potencialmente malas" y ha asegurado que ya existe un "enorme poder penal y regulatorio sobre estas empresas", por lo que no se necesita mayor regulación.

"¡Teóricos de la conspiración, sediciosos, traidores y filtradores: cuidado!", ha advertido.