🤖 Investigador de Anthropic renunció y lanzó una fuerte advertencia: “La IA podría matarnos a todos”
Una fuerte advertencia sobre el futuro de la inteligencia artificial generó preocupación en el sector tecnológico luego de que Jacob Coxon, investigador de Anthropic y antiguo trabajador de OpenAI, anunciara su renuncia y cuestionara la velocidad con la que las principales empresas de IA están desarrollando sistemas cada vez más avanzados.
Coxon aseguró que tanto Anthropic como OpenAI están avanzando hacia sistemas de inteligencia artificial capaces de mejorar sus propias capacidades, en una carrera que, según él, podría representar un riesgo para la humanidad.
En una publicación en X, el investigador afirmó que quienes están desarrollando estas tecnologías “creen sinceramente que podría matarnos a todos antes de que termine la década”, y sostuvo que no se trata de una estrategia de marketing, sino de una preocupación que también existiría entre investigadores y ejecutivos del sector.
⚠️ Otro investigador de Anthropic respaldó la advertencia
La declaración tomó aún más fuerza después de que Evan Hubinger, responsable de investigación de alineación en Anthropic, respondiera públicamente a Coxon.
Hubinger afirmó que efectivamente existe preocupación dentro de la compañía por la posibilidad de que una inteligencia artificial avanzada pueda representar un riesgo existencial para los seres humanos. Incluso señaló que, en su estimación personal, existe una probabilidad superior al 10 % de que esto ocurra durante la próxima década.
Sin embargo, Hubinger aclaró que el riesgo de los modelos actuales es bajo y que su principal preocupación está relacionada con una eventual “superinteligencia” capaz de mejorar sus propias capacidades de manera recursiva, un escenario que todavía no se ha materializado como tal.
🧠 ¿Qué preocupa a los investigadores?
El temor está relacionado con el desarrollo de sistemas que puedan superar ampliamente las capacidades humanas y, eventualmente, participar en procesos de auto-mejoramiento.
Coxon considera que las empresas están atrapadas en una carrera tecnológica en la que ninguna quiere quedarse atrás. Por ello, planteó la necesidad de establecer límites y hasta una pausa temporal en el desarrollo de capacidades más avanzadas mientras se desarrollan mecanismos de seguridad adecuados.
La advertencia no significa que exista actualmente una IA capaz de destruir a la humanidad ni que ese escenario esté confirmado. Se trata de una predicción y evaluación de riesgo realizada por investigadores del propio sector, en medio de un debate mundial sobre hasta dónde debería llegar el desarrollo de la inteligencia artificial.
El caso vuelve a poner sobre la mesa una pregunta que cada vez genera más debate: ¿la humanidad está avanzando más rápido en inteligencia artificial de lo que puede garantizar su seguridad?
