ir al contenido

Anthropic alerta que la IA podria empezar a construirse a si misma sin intervencion humana

Anthropic, la empresa detras del chatbot Claude, revelo que mas del 80% del codigo de sus sistemas ya lo escribe la propia inteligencia artificial. En un informe del 4 de junio, advierte que sus modelos se acercan al punto donde podrian construir sus propios sucesores sin intervencion humana.

Visualizacion abstracta de redes neuronales de inteligencia artificial
La inteligencia artificial avanza mas rapido de lo previsto. Foto: Google DeepMind / Unsplash

El 80% del código que se incorpora hoy a los sistemas de Anthropic lo escribe Claude, el propio chatbot de la empresa. En mayo de 2025, esa cifra era casi cero. En un informe publicado el 4 de junio, la empresa advierte que este ritmo de aceleración podría llevar en poco tiempo a un escenario donde la inteligencia artificial construya sus propios sucesores sin que los humanos dirijan cada paso. El concepto tiene nombre técnico: mejora recursiva.

Qué es la mejora recursiva y por qué importa ahora

La mejora recursiva describe un proceso en el que los sistemas de inteligencia artificial diseñan, entrenan y mejoran sus propias versiones futuras. No es ciencia ficción: Anthropic documenta en el informe una cadena de causas y efectos que ya está en curso. Las mejoras en Claude como herramienta de conversación produjeron mejores agentes de programación. Esos agentes produjeron sistemas autónomos más capaces. El siguiente eslabón lógico sería que Claude construya la próxima versión de Claude.

El cofundador de Anthropic Jack Clark explica la proyección en términos directos: cada nueva versión del chatbot podría ser construida por la versión anterior, sin intervención humana en el proceso. Según datos internos, los ingenieros ahora integran ocho veces más código por trimestre que entre 2021 y 2025, y en las tareas de programación más complejas, Claude logró resultados correctos en el 76% de los casos en mayo de 2026, un salto de 50 puntos porcentuales en seis meses.

La advertencia: no hay un freno de emergencia

Lo que distingue este informe de otras alertas sobre inteligencia artificial es el llamado concreto a construir mecanismos de pausa. Según Scientific American, Anthropic argumenta que la industria carece hoy de una forma verificable de desacelerar o detener el desarrollo de modelos de frontera si fuera necesario.

Clark cita los tratados de control de armamento nuclear de la Guerra Fría como modelo: para que un freno funcione, los laboratorios líderes tendrían que coordinarse y demostrar de forma creíble que han reducido su velocidad. Anthropic planea convocar en los próximos meses a legisladores, investigadores y representantes de la sociedad civil para trabajar en esas herramientas.

OpenAI había publicado preocupaciones similares en diciembre de 2025, describiendo la mejora recursiva como un fenómeno potencialmente peligroso si los laboratorios no comparten sus descubrimientos entre .

Ciencia y salud: la cara positiva

El informe no es solo una advertencia. Clark señala que la capacidad de una IA de mejorar su propio diseño podría acelerar avances significativos en medicina, cambio climático y otras áreas donde la investigación humana avanza lentamente. El problema no es la tecnología en , sino la falta de herramientas para verificar que lo que hagan esos sistemas sea correcto y esté alineado con los intereses de la sociedad.

El informe llega semanas antes de lo que podría ser una de las salidas a bolsa más grandes de la historia tecnológica: Anthropic prepara su debut en los mercados públicos.

Qué cambia en la práctica

Según CNN, Anthropic considera que la posibilidad de la mejora recursiva ya es suficientemente seria como para actuar antes de que el umbral se cruce. El plazo que manejan internamente es de pocos años. Por ahora, ningún sistema ha alcanzado ese punto.

Para usuarios y ciudadanos, el impacto más inmediato está en el empleo: si una IA puede escribir más del 80% del código de su propio ecosistema, las implicaciones para ingenieros y desarrolladores son directas. Anthropic pide que esa conversación se tenga ahora, cuando todavía hay margen para darle forma.

Últimas Noticias

X