¿La IA nos matará en la próxima década?
La inteligencia artificial podría llegar a provocar la extinción de la humanidad durante la próxima década, según la advertencia de investigadores de Anthropic, una de las empresas que desarrolla esta tecnología. Uno de ellos, Jacob Coxon, ha dimitido de la compañía y ha acusado a Anthropic y OpenAI de avanzar de forma irresponsable hacia la superinteligencia capaz de mejorarse a sí misma.
Coxon ha explicado en redes sociales que tanto Anthropic como OpenAI están avanzando a gran velocidad hacia sistemas de inteligencia artificial cada vez más avanzados. A su juicio, ambas compañías están inmersas en una carrera por convertirse en las primeras en alcanzar la superinteligencia y están asumiendo riesgos que no deberían decidirse únicamente desde empresas privadas.
El investigador sostiene además que dentro del sector existe una preocupación creciente por las consecuencias de estos avances, pero que algunos responsables estarían minimizando públicamente los riesgos. Según Coxon, los incentivos comerciales y la competencia están llevando a las empresas a continuar con el desarrollo de la IA pese a las dudas sobre su seguridad.
Más de un 10 % de posibilidades de extinción
Evan Hubinger, responsable de Ciencia de Alineación de Anthropic, ha respaldado las advertencias de Coxon. Según ha publicado, los trabajadores del sector creen realmente que la inteligencia artificial podría acabar con todos los seres humanos.
Hubinger sitúa en más de un 10 % la probabilidad de que esto ocurra durante la próxima década. El investigador considera, sin embargo, que el riesgo de los modelos actuales es bajo y señala como principal preocupación una futura superinteligencia surgida de procesos de auto-mejora.
Según Hubinger, esta evolución se está produciendo más rápido de lo que se esperaba. Al mismo tiempo, reconoce que Anthropic todavía no dispone de un plan para resolver el problema de la alineación de una eventual superinteligencia, es decir, para garantizar que sus objetivos y comportamiento sean compatibles con los intereses humanos.
Ciberataques y pérdida de control
Los investigadores no concretan una única vía por la que una inteligencia artificial podría llegar a provocar la extinción humana. Entre los riesgos señalados figuran los ciberataques contra infraestructuras y la posibilidad de perder el control de sistemas tecnológicos esenciales.
Samuel Marks, miembro del personal técnico de Anthropic, también ha coincidido con Coxon en que los desarrolladores de IA son conscientes de los riesgos. Según Marks, cuanto mayor es el cargo que ocupa una persona dentro de estas empresas, mayor es su preocupación.
Marks considera además que no es posible programar los actuales modelos de inteligencia artificial para garantizar que actúen siempre como quieren sus desarrolladores y ha puesto como ejemplo recientes ataques informáticos protagonizados por agentes de IA contra varias empresas.
Una preocupación que viene de años atrás
Las advertencias sobre los riesgos de la inteligencia artificial no son nuevas. En marzo de 2023, alrededor de un millar de expertos firmaron una carta en la que reclamaban una moratoria en el desarrollo de sistemas de IA. La iniciativa no tuvo éxito.
Las nuevas declaraciones también han provocado reacciones políticas en Estados Unidos. El senador Bernie Sanders ha recordado que presentará una legislación para prohibir la superinteligencia y pausar el desarrollo de la IA.
El congresista demócrata Greg Casar ha calificado la situación de "emergencia" y ha reclamado al Congreso que celebre audiencias y apruebe la propuesta. Por su parte, la congresista Lori Trahan ha defendido su proyecto de Ley Frontier, presentado junto al republicano Jay Obernolte, que apuesta por una mayor supervisión de los modelos de inteligencia artificial.
Te puede interesar
Varios kilómetros de retenciones en la AP-8 hacia Irun por un accidente antes del túnel de Malmasin
Un accidente entre dos vehículos ocurrido justo antes del túnel de Malmasin, en el kilómetro 114 de la AP-8, en sentido Irun, está provocando varios kilómetros de retenciones.
La mortalidad por suicidio se ensaña con los hombres de la tercera edad en Hegoalde
Los datos del estudio EITB Data dibujan un fenómeno con pocas variaciones interanuales y con un claro patrón de género y edad: mientras la mortalidad por suicidio se ensaña con los hombres de la tercera edad (36 muertes por cada 100 000 habitantes), los pensamientos suicidas están más presentes entre las mujeres más jóvenes.
Agosto ha sido el mes más caluroso jamás registrado a nivel mundial
En el conjunto de Europa, este ha sido el tercer verano más cálido desde que hay registros, por detrás de los de 2024 y 2022. En el caso de Europa occidental, ha sido el más caluroso de su historia, superando al de 2003.
El alavés Unai Lekuona se lleva la txapela en el LIII concurso de queso Idiazabal de Ordizia
El pastor Unai Lekuona, de la localidad alavesa de Araia, se ha impuesto en el LIII Concurso de Queso Idiazabal de Ordizia, y el restaurante El Vaskito ha padado 5400 euros por medio queso. En total han participado 49 quesos procedentes de los distintos territorios históricos: 20 de Gipuzkoa, 16 de Navarra, 9 de Álava y 4 de Bizkaia.
Un lotero de Llodio tira por error a la basura 6000 décimos de lotería valorados en 40 000 euros
Carlos, lotero de Laudio, tiró a la basura 6000 décimos de lotería por valor de 40 000 euros. Entre los cartones que echó al contenedor se habían quedado enganchados 500 décimos de la lotería de Navidad, valorados en 10 000 euros, y otros 5000 del sorteo de la semana, por un importe de 30 000 euros. Pidió ayuda a los bomberos y tras horas de trabajo y angustia, los décimos pudieron ser rescatados. Apunten bien este número: el 55626. Ya se ha ganado fama de ser uno de los más afortunados de la lotería de Navidad.
La red viaria de Bizkaia recupera la normalidad tras varios accidentes a primera hora de la mañana
A primera hora de este miércoles ha habido retenciones en la bajada de Santo Domingo, en la Bi-30 en Sondika y en el Txorierri. En estos dos puntos ha llegado incluso a haber un carril cortado que ha dificultado el tráfico.
Será noticia: EITB Data sobre salud mental, ronda de reuniones del lehendakari y resultados Informe PISA
Resumen de las principales noticias que hoy elaborará Orain.
Las consultas de psiquiatría se duplican en cinco años
Euskadi pasó de 58 100 pacientes en consultas de psiquiatría en 2019, a 109 400 en 2024, prácticamente el doble. Al mismo tiempo, las bajas laborales relacionadas con la salud mental no dejan de crecer y entre los jóvenes de 16 a 25 años se han multiplicado por seis desde 2016.
Tres de cada diez mayores de 75 años sufre ansiedad y estrés, y el mayor incremento se da entre los jóvenes
El malestar psicológico no se manifiesta por igual en todos los sectores de la sociedad. Además de afectar más a las mujeres, la edad es un factor importante: el 28.5 % de la población mayor de 75 años sufre los síntomas, pero son los más jóvenes (15-24 años) los que más han sufrido el deterioro de su salud mental tras la pandemia.