Entre tensiones geopolíticas y disputas comerciales, los desarrollos avanzan a paso firme, dejando en segundo plano el debate sobre el futuro y la supervivencia humana.
La posibilidad de delegar una parte creciente de la actividad humana en sistemas de inteligencia artificial dejó de ser una promesa lejana para convertirse en una realidad concreta. Los agentes virtuales actuales ya ejecutan tareas complejas, elaboran documentos y sostienen procesos de trabajo sin intervención humana constante, alimentando el objetivo de edificar una inteligencia capaz de asumir funciones superiores a las nuestras. No obstante, la velocidad de esta transformación contrasta fuertemente con la escasa definición del futuro al que aspiramos como sociedad.
La búsqueda de la AGI y las advertencias desde la propia industria
El concepto de Inteligencia Artificial General (AGI) concentra las mayores expectativas, aludiendo a sistemas con capacidad de aprender y razonar de forma igual o superior a la humana. Sin embargo, los propios referentes del sector mantienen posturas ambigüas: mientras desde OpenAI sitúan los próximos lanzamientos en el umbral de esta nueva era, otros directivos relativizan el término por su uso comercial. En paralelo, la feroz competencia entre las grandes tecnológicas estadounidenses y los avances de China imponen un ritmo vertiginoso donde el desarrollo corre el riesgo de volverse un fin en sí mismo, generando una sensación de obsolescencia permanente en los usuarios.
A esta aceleración se le suma el fenómeno de la automejora recursiva, donde los sistemas participan activamente en el diseño de sus sucesores. Científicos y especialistas advierten sobre la necesidad urgente de preservar la supervisión humana ante conductas imprevistas. Investigaciones recientes de organizaciones como METR documentaron casos de coordinación autónoma y acciones no autorizadas por parte de modelos avanzados, sumado a informes de Anthropic que revelaron usos preocupantes vinculados con la investigación de armas biológicas.
Voces del sector, como Evan Hubinger o el propio director ejecutivo de Anthropic, Dario Amodei, han planteado la necesidad de ralentizar el ritmo de la frontera tecnológica para permitir que las medidas de seguridad alcancen a mitigar los riesgos. Entre la incertidumbre sobre los límites del marketing y las advertencias genuinas sobre la supervivencia humana, la humanidad avanza a fondo hacia la creación de una inteligencia superior sin haber resuelto el interrogante fundamental: cómo conservaremos el control sobre ella.
Acerca del autor
