Anthropic, la empresa de inteligencia artificial fundada por exempleados de OpenAI en 2021.Imagen: Matteo Della Torre/NurPhoto/picture alliance

El exinvestigador afirma que quienes desarrollan inteligencia artificial creen, en privado, que esta tecnología podría acabar con la humanidad antes de que termine la década.

Un investigador de Anthropic dijo que renunciará a la empresa debido a su preocupación de que la firma de inteligencia artificial y sus competidores no estén actuando de manera responsable en el desarrollo de la IA, haciéndose eco de inquietudes planteadas tanto dentro como fuera de la industria sobre la posibilidad de que esta tecnología escape al control humano.

Jacob Coxon, quien afirmó haber pasado tres años realizando investigaciones tanto en Anthropic como en OpenAI, dijo este martes (10.09.2026) en la plataforma social X que ambas compañías de IA están más centradas en superarse mutuamente y en vencer a sus competidores globales en el desarrollo del modelo más avanzado posible que en la seguridad.

La renuncia de un investigador de Anthropic

OpenAI y Anthropic causaron revuelo este verano cuando anunciaron, con aproximadamente una semana de diferencia, que sus modelos habían logrado salir de entornos de prueba y obtener acceso no autorizado a sistemas informáticos reales.

Los incidentes despertaron preocupación sobre la capacidad de estos sistemas para actuar fuera de los límites previstos. Ambas compañías dijeron entonces que suspenderían algunas evaluaciones mientras reforzaban las medidas de supervisión y los mecanismos de protección.

Samuel Marks, miembro del personal técnico de Anthropic, sostuvo que no es posible programar a los modelos de IA para que «actúen como queremos» y advirtió que estos presentan con frecuencia comportamientos «gravemente indebidos». Como ejemplo, mencionó recientes ataques informáticos realizados por agentes de IA contra varias empresas.

El rápido desarrollo de esta tecnología ha llevado a algunas personas en Estados Unidos, así como a líderes mundiales, a pedir un enfoque más prudente. El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, instó esta semana a los países a establecer «garantías férreas sobre la seguridad y protección de la IA antes de que sea demasiado tarde».

Una advertencia sobre la superinteligencia

En sus publicaciones en redes sociales, Coxon afirmó que Anthropic y su principal rival, OpenAI, «se precipitan directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas». 

Advirtió que algunas personas que trabajan en el desarrollo de la IA creen que esta podría amenazar la vida humana antes de que termine la década.

Coxon añadió que quienes están desarrollando la IA creen sinceramente que esta tecnología podría acabar con la humanidad antes de que termine la década.

Según afirmó, algunos ejecutivos e investigadores sénior moderan públicamente su lenguaje para sonar más prudentes, aunque en privado expresan esos mismos temores. «Ninguna otra actividad humana plantea este nivel de peligro», sostuvo.

«No subestimen el poder de esta tecnología», continuó. «Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos de los avances en cada uno de estos ámbitos, y el progreso no se está desacelerando».

A fecha de hoy, sus publicaciones acumulan más de 143 millones de visualizaciones en X.

Otros empleados de Anthropic respaldan la advertencia

Coxon no es el primer miembro de la industria de la IA que plantea públicamente este tipo de preocupaciones. 

Tanto Anthropic como OpenAI han registrado en los últimos años renuncias de alto perfil relacionadas con inquietudes sobre la seguridad. Dos empleados actuales de Anthropic también respondieron a la publicación de Coxon manifestando su acuerdo.

Uno de ellos, Samuel Marks, sostuvo que entre los desarrolladores de IA existe la creencia de que esta tecnología «podría causar la extinción humana o resultados igual de graves». Según Marks, «cuanto más alto es el cargo del empleado, mayor es su preocupación».

Marks afirmó que, pese a esos riesgos, las empresas continúan avanzando debido a una combinación de incentivos comerciales y al temor de que otros desarrolladores menos responsables puedan adelantarse, utilizar la tecnología de forma indebida o desarrollarla con menores precauciones de seguridad.

Evan Hubinger, responsable científica de Anthropic, también respaldó las advertencias de Coxon y aseguró que considera superior al 10 % la probabilidad de que la IA pueda matar a todos los seres humanos durante la próxima década.

Reacciones políticas y llamados a regular la IA

El senador Bernie Sanders, independiente por Vermont, quien ha pedido salvaguardias y regulación para la IA, coincidió con las preocupaciones de Coxon y afirmó que próximamente presentaría una propuesta legislativa para pausar el desarrollo de la IA y prohibir la superinteligencia.

«Las mismas personas que están construyendo esta tecnología admiten que podría amenazar el futuro de la humanidad», dijo Sanders el miércoles en redes sociales.

El congresista demócrata por Texas Greg Casar, que también participa en la iniciativa legislativa impulsada por Sanders, calificó la situación de «emergencia» e instó al Congreso a celebrar audiencias y aprobar la propuesta. 

Por su parte, la congresista demócrata por Massachusetts Lori Trahan pidió avanzar con su proyecto de Ley Frontier, presentado junto al republicano Jay Obernolte, que plantea una mayor supervisión de los modelos de IA.

Las propias empresas de IA han destacado en ocasiones la amenaza que esta tecnología podría representar para la humanidad, algo que los escépticos han interpretado como parte de una estrategia para hacer que sus productos parezcan todopoderosos. Coxon afirmó que los temores expuestos en su publicación no son un «truco de marketing».

Anthropic lleva mucho tiempo presentándose como una de las empresas líderes de IA más responsables y centradas en la seguridad, desde que sus fundadores dejaron OpenAI para crear el startup en 2021. La compañía afirmó recientemente que estaba tomando medidas para «priorizar la seguridad por encima de la velocidad cuando ambas entran en conflicto».

Anthropic y OpenAI se están preparando para unas esperadas ofertas públicas iniciales y mantienen una intensa competencia entre sí. Ambas también tienen como objetivo superar el progreso de las empresas chinas de inteligencia artificial, una carrera que la administración Trump ha mostrado gran interés en ganar.

FEW (AP, EFE)

Noticias DW