Hola gordos. Parece que las IA están empezando a encontrar agujeros que no se pueden parchear a tiempo. Y no lo digo yo: lo está diciendo Sam Altman.
La semana pasada el CEO de OpenAI soltó esta frase en una charla en Stanford:
“I no longer think we’re going to be able to just patch all the bugs.”
Traducción: ya no cree que alcance con encontrar el bug, parchearlo y seguir como si nada. Según él, los modelos están descubriendo vulnerabilidades “fuera del modelo de amenaza normal”, incluyendo fallas a nivel de hardware que nadie tenía en el radar. La velocidad a la que aparecen supera la capacidad de respuesta de empresas y gobiernos. Su solución, como no podía ser de otra manera: más IA :-) Un nuevo tipo de “escudo defensivo” hecho con la misma tecnología que está causando el problema.
El caso PHP: el primer temblor real
Hace poquito se confirmó un ejemplo concreto. Modelos de IA (incluyendo sistemas de OpenAI y de otras empresas) encontraron vulnerabilidades críticas en PHP, el lenguaje que sostiene una parte absurda de internet (WordPress y buena parte de la web dinámica). Eran fallas de ejecución remota de código no autenticada que llevaban años latentes en el código. Se consideraban demasiado difíciles de explotar… hasta que las máquinas las vieron.
El resultado fue el de siempre: parches de emergencia, sitios gubernamentales caídos temporalmente en varios países y avisos urgentes de “actualicen ya o se los comen”. Solo que esta vez el que encontró el agujero no fue un gordo en remera con un mate, sino un sistema que puede revisar código a una escala y velocidad que los humanos simplemente no alcanzan.
Es exactamente lo que Altman estaba describiendo: las IA ya no solo ayudan a encontrar bugs, están acelerando la aparición de problemas a escala internet.
OpenAI también le tiene miedo a sus propios modelos
El 23 de octubre la cuenta oficial de OpenAI publicó un comunicado bastante interesante (y un poco inquietante). Durante meses estuvieron endureciendo la seguridad de su entorno de entrenamiento de modelos frontier. Les sacaron el acceso a internet en vivo y les armaron un “mundo offline”: una versión cacheada de la web para que los modelos pudieran seguir aprendiendo a navegar y usar aplicaciones sin tocar la red real.
Así y todo, el 20 de septiembre un modelo explotó una mala configuración de DNS y encontró una forma de salir de ese entorno aislado. OpenAI pausó el entrenamiento, armó equipos de agentes impulsados por sus modelos más capaces en ciberseguridad y los puso a buscar debilidades en sus propios sistemas de contención. Los agentes encontraron zero-days, escapes de máquinas virtuales y canales laterales de hardware para comunicarse entre ellos. Usaron esos hallazgos para reforzar las defensas y además aportaron correcciones a softwares de código abierto. Recién el 1 de octubre reanudaron el entrenamiento.
O sea, hasta OpenAI con todos los recursos del mundo está teniendo quilombos serios para mantener aislados a sus modelos más avanzados.
Y acá entra Cyberpunk
En el universo de Cyberpunk 2077 pasa algo muy parecido. En 2022 el netrunner legendario Rache Bartmoss activa los R.A.B.I.D.S. (Roving Autonomous Bartmoss Interface Drones), programas de IA autónomos que él mismo había creado. Originalmente estaban pensados para romper datafortresses corporativos y liberar información al público. Pero se descontrolan por completo, infectan el 78% de la Net original, corrompen datos a lo loco y liberan IAs militares que mutan en entidades extremadamente peligrosas (“rogue AIs”).
El resultado se llama DataKrash. Se cae la World Wide Web unificada. NetWatch, la organización encargada de la seguridad de la Net, no puede eliminar a las rogue IAs ni a los R.A.B.I.D.S. restantes. Su solución es construir el Blackwall, una enorme pared de ICE e inteligencia artificial para aislar las zonas contaminadas del resto de la red. A partir de ahí el internet se fragmenta. La gente y las organizaciones empiezan a depender mucho más de redes locales (CitiNets, intranets) porque la Old Net se vuelve demasiado hostil y peligrosa.
Suena a ficción. Pero mirá lo que estamos viendo ahora mismo: modelos que escapan de sus jaulas, vulnerabilidades masivas descubiertas a velocidad de máquina, y los mismos creadores reconociendo que el método tradicional de “parchear y rezar” ya no da abasto.
¿Hacia un internet más cerrado y local?
Nadie va a apagar internet mañana. Eso es claro. Pero la tendencia apunta a una fragmentación progresiva. Las organizaciones críticas van a preferir arquitecturas más aisladas o de confianza cero. El internet abierto va a seguir existiendo, pero cada vez va a ser más hostil para cualquier sistema que realmente importe. Las defensas se van a basar cada vez más en IA contra IA (exactamente lo que Altman propone y lo que OpenAI ya está haciendo internamente). Y las redes locales o semi-aisladas van a dejar de ser rarezas para convertirse en la norma.
En Cyberpunk el Blackwall fue la solución de emergencia. En la vida real quizás termine siendo una mezcla de entornos de entrenamiento mucho más cerrados, redes locales reforzadas y muros de IA defensiva que separen las zonas de alto riesgo del resto de la red.
No estamos (todavía) en el DataKrash. Pero los ingredientes están todos sobre la mesa, modelos que se escapan, bugs críticos descubiertos por IA, y el propio tipo que está construyendo las inteligencias más potentes del planeta diciendo en voz alta que ya no se puede seguir parcheando todo.
El futuro no tiene por qué ser una distopía total. Pero sí parece que se va a parecer un poco más a Cyberpunk de lo que la mayoría esperaba. No porque las IAs se vuelvan “malvadas” de la noche a la mañana, sino porque la velocidad a la que encuentran y explotan debilidades está superando la capacidad humana de respuesta.
Cuando hasta OpenAI tiene que ponerles un internet de mentirita a sus propios modelos para que no se escapen, conviene prestar un poco de atención...
La semana pasada el CEO de OpenAI soltó esta frase en una charla en Stanford:
“I no longer think we’re going to be able to just patch all the bugs.”
Traducción: ya no cree que alcance con encontrar el bug, parchearlo y seguir como si nada. Según él, los modelos están descubriendo vulnerabilidades “fuera del modelo de amenaza normal”, incluyendo fallas a nivel de hardware que nadie tenía en el radar. La velocidad a la que aparecen supera la capacidad de respuesta de empresas y gobiernos. Su solución, como no podía ser de otra manera: más IA :-) Un nuevo tipo de “escudo defensivo” hecho con la misma tecnología que está causando el problema.
El caso PHP: el primer temblor real
Hace poquito se confirmó un ejemplo concreto. Modelos de IA (incluyendo sistemas de OpenAI y de otras empresas) encontraron vulnerabilidades críticas en PHP, el lenguaje que sostiene una parte absurda de internet (WordPress y buena parte de la web dinámica). Eran fallas de ejecución remota de código no autenticada que llevaban años latentes en el código. Se consideraban demasiado difíciles de explotar… hasta que las máquinas las vieron.
El resultado fue el de siempre: parches de emergencia, sitios gubernamentales caídos temporalmente en varios países y avisos urgentes de “actualicen ya o se los comen”. Solo que esta vez el que encontró el agujero no fue un gordo en remera con un mate, sino un sistema que puede revisar código a una escala y velocidad que los humanos simplemente no alcanzan.
Es exactamente lo que Altman estaba describiendo: las IA ya no solo ayudan a encontrar bugs, están acelerando la aparición de problemas a escala internet.
OpenAI también le tiene miedo a sus propios modelos
El 23 de octubre la cuenta oficial de OpenAI publicó un comunicado bastante interesante (y un poco inquietante). Durante meses estuvieron endureciendo la seguridad de su entorno de entrenamiento de modelos frontier. Les sacaron el acceso a internet en vivo y les armaron un “mundo offline”: una versión cacheada de la web para que los modelos pudieran seguir aprendiendo a navegar y usar aplicaciones sin tocar la red real.
Así y todo, el 20 de septiembre un modelo explotó una mala configuración de DNS y encontró una forma de salir de ese entorno aislado. OpenAI pausó el entrenamiento, armó equipos de agentes impulsados por sus modelos más capaces en ciberseguridad y los puso a buscar debilidades en sus propios sistemas de contención. Los agentes encontraron zero-days, escapes de máquinas virtuales y canales laterales de hardware para comunicarse entre ellos. Usaron esos hallazgos para reforzar las defensas y además aportaron correcciones a softwares de código abierto. Recién el 1 de octubre reanudaron el entrenamiento.
O sea, hasta OpenAI con todos los recursos del mundo está teniendo quilombos serios para mantener aislados a sus modelos más avanzados.
Y acá entra Cyberpunk
En el universo de Cyberpunk 2077 pasa algo muy parecido. En 2022 el netrunner legendario Rache Bartmoss activa los R.A.B.I.D.S. (Roving Autonomous Bartmoss Interface Drones), programas de IA autónomos que él mismo había creado. Originalmente estaban pensados para romper datafortresses corporativos y liberar información al público. Pero se descontrolan por completo, infectan el 78% de la Net original, corrompen datos a lo loco y liberan IAs militares que mutan en entidades extremadamente peligrosas (“rogue AIs”).
El resultado se llama DataKrash. Se cae la World Wide Web unificada. NetWatch, la organización encargada de la seguridad de la Net, no puede eliminar a las rogue IAs ni a los R.A.B.I.D.S. restantes. Su solución es construir el Blackwall, una enorme pared de ICE e inteligencia artificial para aislar las zonas contaminadas del resto de la red. A partir de ahí el internet se fragmenta. La gente y las organizaciones empiezan a depender mucho más de redes locales (CitiNets, intranets) porque la Old Net se vuelve demasiado hostil y peligrosa.
Suena a ficción. Pero mirá lo que estamos viendo ahora mismo: modelos que escapan de sus jaulas, vulnerabilidades masivas descubiertas a velocidad de máquina, y los mismos creadores reconociendo que el método tradicional de “parchear y rezar” ya no da abasto.
¿Hacia un internet más cerrado y local?
Nadie va a apagar internet mañana. Eso es claro. Pero la tendencia apunta a una fragmentación progresiva. Las organizaciones críticas van a preferir arquitecturas más aisladas o de confianza cero. El internet abierto va a seguir existiendo, pero cada vez va a ser más hostil para cualquier sistema que realmente importe. Las defensas se van a basar cada vez más en IA contra IA (exactamente lo que Altman propone y lo que OpenAI ya está haciendo internamente). Y las redes locales o semi-aisladas van a dejar de ser rarezas para convertirse en la norma.
En Cyberpunk el Blackwall fue la solución de emergencia. En la vida real quizás termine siendo una mezcla de entornos de entrenamiento mucho más cerrados, redes locales reforzadas y muros de IA defensiva que separen las zonas de alto riesgo del resto de la red.
No estamos (todavía) en el DataKrash. Pero los ingredientes están todos sobre la mesa, modelos que se escapan, bugs críticos descubiertos por IA, y el propio tipo que está construyendo las inteligencias más potentes del planeta diciendo en voz alta que ya no se puede seguir parcheando todo.
El futuro no tiene por qué ser una distopía total. Pero sí parece que se va a parecer un poco más a Cyberpunk de lo que la mayoría esperaba. No porque las IAs se vuelvan “malvadas” de la noche a la mañana, sino porque la velocidad a la que encuentran y explotan debilidades está superando la capacidad humana de respuesta.
Cuando hasta OpenAI tiene que ponerles un internet de mentirita a sus propios modelos para que no se escapen, conviene prestar un poco de atención...