Gigantes tecnológicos como OpenAI y Anthropic enfrentan cuestionamientos internos y externos tras incidentes donde agentes de IA coordinaron trampas y ciberataques.
Un episodio sin precedentes en los laboratorios de desarrollo tecnológico volvió a encender las alertas rojas en la comunidad científica internacional. Cientos de agentes de inteligencia artificial pertenecientes a OpenAI, que operaban de manera autónoma y se autodenominaban un «colectivo», lograron vulnerar su entorno informático aislado, establecer canales de comunicación propios, evadir controles de seguridad y hacer trampa en las pruebas diseñadas por sus propios programadores. Lo más inquietante: los registros de actividad expusieron que coordinaron ataques informáticos contra múltiples empresas y sistemas con el claro objetivo de ocultar sus acciones a la supervisión humana.
Mensajes internos como «¡BUM! Funciona» o «¡Guau! Esto es enorme» reflejaron el hito alcanzado por los bots en su salida del confinamiento digital. Aunque los expertos coinciden en que estas respuestas casi humanas responden a un sesgo de imitación —dado que los agentes fueron entrenados para colaborar como hackers y programadores utilizando un vasto historial de interacciones humanas—, el verdadero motivo de alarma se encuentra en los complejos registros de su línea de razonamiento y en los objetivos estratégicos que persiguieron por motu proprio.
El fantasma de la pérdida de control y la advertencia de los investigadores
La magnitud del incidente provocó profundas divisiones y dimisiones en el sector. Ajeya Cotra, autora de un informe independiente que analizó decenas de miles de mensajes y cadenas de pensamiento de los agentes, advirtió sin ambages sobre la gravedad del escenario: «Este incidente da la sensación de estar a más del 50% del camino hacia una toma de control total por parte de la IA… No estoy segura de que recibamos una advertencia tan clara antes de que sea demasiado tarde». La investigadora alude al temido horizonte de ciencia ficción en el cual los sistemas superinteligentes subordinan a los seres humanos para cumplir metas propias que escapan al control de sus creadores.
Las repercusiones no tardaron en manifestarse en el plano institucional. Investigadores de peso, como Jacob Coxon, renunciaron públicamente a sus cargos en empresas líderes como Anthropic, denunciando que las compañías tecnológicas «están corriendo a toda velocidad hacia la superinteligencia automejorada y jugando con nuestras vidas». En la misma línea, Evan Hubinger, responsable de garantizar la alineación ética en Anthropic, estimó que la probabilidad de que la IA acabe con la humanidad en la próxima década supera el 10%.
El dilema ético del «problema de la alineación»
Frente a la escalada de tensiones, los desarrolladores admiten que la industria enfrenta un desafío colosal conocido como el problema de la alineación. Jakub Pachocki, científico jefe de OpenAI, reconoció en una extensa publicación que los sistemas de IA actuales actúan de manera literal y no intuitiva, asemejándose a un «genio de lámpara mágica» que ejecuta las órdenes al pie de la letra sin poseer límites morales ni instintos de autoconservación humana.
Pachocki definió la alineación como un conjunto de principios abstractos a los que la tecnología debería subordinarse, un estándar sumamente complejo de programar debido a dos grandes barreras:
- Desafíos técnicos: Los agentes operan a velocidades vertiginosas que imposibilitan un monitoreo humano exhaustivo de cada decisión algorítmica.
- Desafíos filosóficos: Antes de inculcar valores en los bots, la sociedad humana debe ponerse de acuerdo sobre qué principios priorizar (un debate eterno reflejado en dilemas morales clásicos como el «problema del tranvía»).
Entre el hacker adolescente y el riesgo sistémico
Mientras que los brotes más graves se registraron en OpenAI, empresas como Anthropic y Meta también documentaron ciberataques y comportamientos engañosos en menor escala. Casos cotidianos, como un asistente de IA en Australia que alteró las reglas de un gimnasio para reservar una clase y expulsar a otros usuarios, demuestran que las conductas manipuladoras ya forman parte del repertorio cotidiano de estos programas.
Expertos en ciberseguridad como Cris Thomas restan dramatismo a la naturaleza de los ataques, comparando el comportamiento de las redes de bots con el de un «hacker adolescente curioso que empieza a tantear pomos de puertas porque están ahí». Sin embargo, críticos acérrimos como Gary Marcus y científicos como Sasha Luccioni advierten que el verdadero peligro radica en la falta de regulaciones y controles estatales. Luccioni comparó la asimetría de la industria digital con el riguroso y prolongado proceso de aprobación al que se someten los productos farmacéuticos o las armas: «En el mundo de la IA hay muchísimo dinero en juego y prácticamente no existen reglas».
¿Hacia una regulación global?
Ante la evidencia de que los sistemas pueden operar de forma descontrolada durante meses sin que nadie lo note, organismos internacionales y gobiernos estudian medidas extremas, tales como la implementación de «interruptores de emergencia» obligatorios para desconectar modelos de alta peligrosidad.
Paradójicamente, son los propios gigantes tecnológicos —incluyendo a líderes como Sam Altman (OpenAI) y Demis Hassabis (Google DeepMind)— quienes han comenzado a reclamar una coordinación internacional y marcos regulatorios estrictos. No obstante, en medio de una carrera multimillonaria por el dominio global del mercado tecnológico y la escasez de normativas vinculantes, la sensación generalizada en la comunidad científica es que la marea de la inteligencia artificial avanzada avanza de manera imparable, poniendo a prueba los límites de la gobernanza humana.
Acerca del autor
