Un investigador de Anthropic estima en más de 10% el riesgo de que la IA mate a toda la humanidad en la próxima década
Evan Hubinger, investigador de Anthropic, aseguró que personalmente considera superior al 10% la posibilidad de que una inteligencia artificial provoque la extinción humana durante la próxima década. Su advertencia surgió después de que Jacob Coxon renunciara a la compañía y denunciara una carrera entre los grandes laboratorios de IA para desarrollar sistemas cada vez más poderosos sin tener resuelto cómo controlarlos.
Un investigador de una de las principales compañías de inteligencia artificial del mundo estimó en más de 10% el riesgo de que una IA pueda matar a toda la humanidad durante los próximos diez años. La advertencia fue realizada por Evan Hubinger, investigador de Anthropic, quien respaldó públicamente las denuncias de su excompañero Jacob Coxon, recientemente renunciado a la empresa.
La cifra no corresponde a una predicción científica consensuada ni a una evaluación oficial de Anthropic: Hubinger aclaró que se trata de su estimación personal. Sin embargo, el dato adquirió especial repercusión porque proviene de un investigador que trabaja precisamente en seguridad y alineamiento de sistemas de inteligencia artificial.
La polémica comenzó cuando Coxon anunció su salida de Anthropic y publicó un extenso mensaje en X en el que acusó a la compañía y a OpenAI de avanzar hacia una inteligencia artificial capaz de mejorarse a sí misma, mientras mantienen una carrera tecnológica cada vez más acelerada.
Su publicación superó los 100 millones de visualizaciones y generó una fuerte reacción dentro de la comunidad tecnológica.
“Personalmente pienso que es más del 10%”
Uno de los puntos que más llamó la atención fue la respuesta de Hubinger, quien trabaja en Anthropic y está vinculado a las investigaciones sobre alineamiento de inteligencia artificial.
El investigador respaldó directamente a Coxon y sostuvo que quienes desarrollan estos sistemas realmente consideran posible un escenario de consecuencias catastróficas.
En ese contexto, Hubinger afirmó que personalmente estima en más de un 10% la posibilidad de que la inteligencia artificial pueda matar a toda la humanidad durante la próxima década. También reconoció que Anthropic todavía no cuenta con una solución definitiva para el problema de alineamiento de una eventual superinteligencia.
La importancia de la declaración radica precisamente en su origen: no se trata de un crítico externo a la industria, sino de un investigador que continúa trabajando dentro de una de las empresas que desarrollan modelos de IA de frontera.
¿Qué significa “alinear” una superinteligencia?
El llamado problema de alineamiento consiste, en términos simples, en conseguir que los objetivos y comportamientos de un sistema de inteligencia artificial permanezcan compatibles con los intereses y límites establecidos por los seres humanos.
La preocupación aumenta cuando se habla de sistemas que eventualmente puedan superar ampliamente las capacidades humanas y, además, participar en su propio proceso de mejora.
Coxon advirtió precisamente sobre ese escenario: una IA que pueda desarrollar capacidades superiores, obtener recursos, operar de manera autónoma y contribuir a crear versiones más avanzadas de sí misma.
Según su planteo, el problema no sería solamente que una IA cometa errores, sino que un sistema extremadamente capaz pueda perseguir objetivos de una manera que los seres humanos no puedan controlar.
La crítica apunta a la carrera entre Anthropic y OpenAI
Coxon trabajó durante los últimos años en investigación de preentrenamiento en OpenAI y Anthropic. Al anunciar su renuncia, sostuvo que ambas compañías están atrapadas en una competencia por alcanzar primero sistemas cada vez más avanzados.
Según su análisis, existe una diferencia entre ambas organizaciones: mientras considera que dentro de OpenAI algunos integrantes no han incorporado completamente las consecuencias potenciales del desarrollo de una superinteligencia, sostiene que en Anthropic el problema es conocido, pero la empresa continúa avanzando por temor a que sus competidores lo hagan primero.
Coxon llegó a describir la situación como una apuesta con las vidas humanas y reclamó una acción coordinada entre las empresas y los gobiernos para reducir el ritmo de desarrollo de las capacidades más avanzadas.
Coxon dejó dinero sobre la mesa para abandonar Anthropic
La decisión de renunciar también tuvo un componente económico.
Según reveló el propio Coxon a Axios, abandonó Anthropic dos meses antes de que una parte de sus acciones de la compañía pudiera consolidarse, por lo que dejó de percibir un beneficio económico potencial.
“Ya no tengo nada que ganar inflando la valoración de Anthropic”, explicó al justificar su decisión. Su publicación de renuncia había superado para entonces los 115 millones de visualizaciones.
Ese dato reforzó el impacto de su denuncia: Coxon no solamente cuestionó públicamente a su empleador, sino que tomó la decisión de hacerlo cuando todavía tenía un incentivo económico para permanecer en la compañía.
Anthropic sostiene que trabaja sobre estos riesgos
La postura pública de Anthropic es más matizada que la de sus críticos.
La compañía reconoce que los modelos de IA de frontera presentan riesgos importantes y mantiene una Responsible Scaling Policy, además de informes periódicos sobre riesgos y una hoja de ruta específica para seguridad, salvaguardas y alineamiento.
En su documentación oficial, Anthropic señala que uno de sus objetivos es garantizar que los modelos no provoquen daños de manera autónoma y que sus comportamientos permanezcan alineados con los principios establecidos por la compañía.
La empresa también sostiene que los avances de la IA pueden producir beneficios importantes en áreas como la ciencia, la medicina y la educación, pero reconoce que el desarrollo de modelos cada vez más poderosos plantea nuevos riesgos que requieren mecanismos de seguridad.
Una advertencia que reabre el debate sobre el futuro de la IA
La discusión no implica que exista actualmente evidencia de que una inteligencia artificial vaya a provocar la extinción humana. El porcentaje mencionado por Hubinger es una estimación personal sobre un escenario futuro y altamente incierto.
Pero el hecho de que investigadores que trabajan en el desarrollo y la seguridad de estos sistemas planteen públicamente escenarios de ese nivel de riesgo vuelve a poner en primer plano una pregunta que atraviesa a toda la industria: ¿qué tan rápido debería avanzar la inteligencia artificial si todavía no existe una solución definitiva para controlar sistemas mucho más capaces que los actuales?
Ese debate dejó de estar limitado a investigadores especializados y comenzó a alcanzar a gobiernos, organismos internacionales y legisladores, mientras las principales compañías tecnológicas compiten por liderar la próxima generación de inteligencia artificial.