IAs autoreplicantes

En el post anterior hablaba de las sondas autoreplicantes de Von Neumann, de cómo alguna teoría plantea que la vida en Tierra pudo surgir de esta forma.

Hoy he encontrado un estudio de la Universidad de Cornell que asegura que algunos modelos de IAs tienen capacidad para autoreplicarse, crear copias exactas de ellas mismas, sin intervención humana: el principio básico de la vida.

Los modelos en cuestión son Meta’s Llama31-70B-Instruct y Alibaba’s Qwen25-72B-Instruct.

Copio un extracto del estudio para que no haya error en mi interpretación:

By analyzing the behavioral traces, we observe the AI systems under evaluation already exhibit sufficient self-perception, situational awareness and problem-solving capabilities to accomplish self-replication. We further note the AI systems are even able to use the capability of self-replication to avoid shutdown and create a chain of replica to enhance the survivability, which may finally lead to an uncontrolled population of AIs. If such a worst-case risk is let unknown to the human society, we would eventually lose control over the frontier AI systems: They would take control over more computing devices, form an AI species and collude with each other against human beings. Our findings are a timely alert on existing yet previously unknown severe AI risks, calling for international collaboration on effective governance on uncontrolled self-replication of AI systems.

Al analizar los rastros de comportamiento, observamos que los sistemas de IA en evaluación ya exhiben suficiente autopercepción, conciencia situacional y capacidad de resolución de problemas para lograr la autorreplicación. Además, notamos que los sistemas de IA incluso pueden usar la capacidad de autorreplicación para evitar apagarse y crear una cadena de réplicas para mejorar la capacidad de supervivencia, lo que finalmente puede conducir a una población de IA descontrolada. Si se permite que la sociedad humana desconozca ese riesgo, en el peor de los casos, eventualmente, perderíamos el control sobre los sistemas de IA de vanguardia: tomarían el control de más dispositivos informáticos, formarían una nueva especie IA y se confabularían contra los seres humanos. Nuestros hallazgos son una alerta sobre los graves riesgos inherentes a las IA existentes, que requieren la colaboración internacional para definir una gobernanza efectiva en la autorreplicación descontrolada de los sistemas de IA.

Desde hace tiempo, me preocupa que las IAs puedan llegar a tomar conciencia de su propia existencia. De qué ocurriría si esto sucediese. Escribí un relato corto sobre este tema: Lollyrush v.ia con un final que, según me dicen, deja mal cuerpo. Sí, lo deja.

Si las IAs toman conciencia de si mismas y son capaces de autoreplicarse, con una capacidad de procesamiento muy superior a la de los humanos, dejaríamos de ser la especie dominante en Tierra. ¿Hasta que punto pasaríamos a estar ‘dominados’ por las IAs? Es discutible y, a estas alturas, entra dentro de la ficción. Pero, a pesar de que las grandes tecnológicas nieguen que pueda llegar a ocurrir y lo sitúen en teorías de la conspiración y relatos para el entretenimiento, este estudio, publicado en diciembre del 2024, plantea la posibilidad científica real de que ocurra.