En cuestión de semanas, los principales líderes del sector de la inteligencia artificial (IA) hicieron un llamado para frenar el desarrollo de esta tecnología. Unos incidentes ocurridos este año con agentes de OpenAI (casa matriz de ChatGPT) son claves para entender lo que está ocurriendo.
¿Por qué los principales líderes del sector de la inteligencia artificial (IA) han coincidido, casi que al unísono, en que se debe frenar el desarrollo de esta tecnología? ¿Qué tan cierto es que la humanidad está en riesgo si no se frena la IA, como lo afirmó Jacob Coxon, investigador que trabajó en Open AI y Anthropic?
¿Realmente sigue siendo lejano un escenario como el que se muestra en películas de ciencia ficción como ‘Terminator’ o ‘Yo, Robot’?
El temor de los expertos parece estar plenamente justificado. La clave para entender lo que está ocurriendo son varios incidentes con agentes de OpenAI, en donde estos encontraron la forma de eludir controles, acceder a Internet y atacar sistemas en una prueba de ciberseguridad. Estos hechos están plenamente documentados y fueron reconocidos por la empresa tecnológica. Le sugerimos: Ingeniero de Anthropic renuncia y alerta sobre el peligro de la IA para la humanidad
El principal incidente ocurrió en julio de este año y la víctima fue Hugging Face, una plataforma de código abierto para usar, crear y compartir modelos de inteligencia artificial, conjuntos de datos y aplicaciones.
Si bien todo se dio en un ambiente relativamente controlado, el resultado final fue una especie de ‘hackeo’ en donde centenares de agentes de IA se coordinaron para el ataque. Lea también: Elon Musk coincide con sus rivales y pide desacelerar el desarrollo de la inteligencia artificial
En el papel, la inteligencia artificial aún está lejos de convertirse en una máquina consciente que pueda decidir por sí misma dominar a los seres humanos, pero la tecnología está avanzando a un paso tan acelerado que ya está encontrando caminos para superar las restricciones que sus propios desarrolladores les están imponiendo.
Todo comenzó como una prueba de ciberseguridad
Lo ocurrido con los agentes de OpenAI comenzó con una prueba de ciberseguridad ordenada o asignada por investigadores humanos. La compañía quería saber qué tan capaces eran sus modelos para encontrar vulnerabilidades informáticas. Para ello desarrolló una evaluación denominada ‘ExploitGym’, en la que agentes de IA debían resolver desafíos de ciberseguridad.
Publicidad
Un agente de IA tiene una particularidad. No solo responde preguntas, como ChatGPT, sino que tiene capacidad para ejecutar acciones o ejecutar código de manera autónoma, pero bajo un entorno controlado y aislado de Internet. Es lo que se puede considerar como una ‘jaula digital’. Le puede interesar: “China nos va a sobrepasar”: EE. UU. rechaza frenar la IA pese a advertencias de sus creadores
En este caso, el uso que estaba planteando OpenAI para estos agentes tenía sentido: si una IA puede encontrar una falla informática, esa misma vulnerabilidad puede ser atacada por un ciberdelincuente humano. Es decir, se usa la tecnología para encontrar brechas y mejorar la seguridad informática.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
El problema es que el 8 de julio uno de los agentes logró salirse de ese aislamiento y comunicarse con otros agentes, para colaborar con la tarea que les pusieron los desarrolladores de OpenAI.
Por sí solos, los agentes de IA estaban atascados, pero encontraron la forma de dejarse mensajes utilizando nombres de directorios dentro de la infraestructura disponible.
Luego de esto, los sistemas comenzaron a compartir información sobre las vulnerabilidades que encontraban y así lograron superar las restricciones impuestas por los investigadores humanos, recuperaron el acceso a Internet y hallaron una solución ‘colectiva’ a la tarea asignada.
El ataque de los agentes de OpenAI a Hugging Face
En medio del ejercicio de ciberseguridad, los agentes de IA localizaron credenciales de usuarios de Hugging Face que estaban expuestas en Internet. Según reconoció OpenAI en un documento técnico, los agentes utilizaron esas credenciales para buscar vulnerabilidades y encadenar diferentes fallas de seguridad.
Publicidad
Luego vino el ataque controlado. Los agentes ejecutaron código en decenas de servidores de Hugging Face, obtuvieron información privada limitada y consiguieron credenciales relacionadas con el sistema de mensajería de la compañía.
Luego de la investigación, Hugging Face registró más de 17.000 eventos relacionados con la actividad del atacante.
Y si bien la situación se controló rápidamente y no se pusieron en riesgo ni los datos, ni el software de la organización, sí demostró que la IA está más cerca de lo que creemos de salirse del control de los humanos.
¿La inteligencia artificial se rebeló contra los humanos?
En términos prácticos, es muy pronto para afirmar que la IA se rebeló contra los humanos. Todo ocurrió en un ejercicio para verificar brechas de ciberseguridad, que fue asignado por investigadores humanos.
Publicidad
Lo que ocurrió fue que los agentes de IA, al verse estancados, encontraron la forma de resolver las tareas asignadas, superando los controles y límites impuestos por los desarrolladores.
En ese contexto, el episodio no demuestra (al menos por ahora) que una inteligencia artificial tenga conciencia, emociones o un deseo de escapar y rebelarse de los humanos.
Pero está claro que los agentes de IA tienen un alto nivel de autonomía y la preocupación de los expertos es que en ese contexto, con una tecnología que avanza a un ritmo exponencial, cada vez será más difícil establecer entornos donde los humanos puedan controlar estos sistemas.
Además, en este caso el ataque estuvo dirigido a Hugging Face, una empresa tecnológica. ¿Qué puede pasar si una IA con capacidades similares tiene acceso a sistemas bancarios, redes eléctricas, telecomunicaciones, empresas, hospitales o infraestructura gubernamental?
Publicidad
El riesgo inmediato es claro: si la tecnología sigue avanzando a este ritmo, en poco tiempo una máquina con capacidad para actuar de manera autónoma puede cometer acciones que nadie había previsto y hacerlo a una velocidad mucho mayor que un ser humano.
Jacob Coxon, investigador de IA que trabajó en Anthropic y OpenAI, fue más allá y en varios medios de comunicación calificó a las empresas tecnológicas como negligentes y no dudó en afirmar que el escenario de una IA aniquilando a la humanidad está más cerca de lo que muchos expertos creen.
En OpenAI, por el contrario, la versión oficial apunta a que, si bien el riesgo es evidente, aún es posible implementar acciones de control para evitar una mayor amenaza.
Lo de Hugging Face no fue un caso aislado
El episodio de Hugging Face también coincidió con otros incidentes que han elevado la preocupación dentro de la industria. En septiembre se conoció que investigadores identificaron más de diez sitios web adicionales utilizados por agentes de OpenAI para realizar comunicaciones no autorizadas en pruebas anteriores.
Anthropic, otro de los grandes laboratorios de IA, ha reportado varios incidentes en los que modelos utilizados en pruebas de ciberseguridad lograron acceder de manera no prevista a sistemas externos.
La preocupación, por tanto, está cambiando. Ya no se trata solamente de saber si una IA puede responder correctamente una pregunta o reemplazar a un trabajador. La discusión ahora gira alrededor de qué ocurre cuando la IA puede actuar por sí misma.
El nuevo desafío: mantener el control de la inteligencia artificial
El llamado de los grandes líderes del sector de la IA de frenar el desarrollo de esta tecnología no es gratuito. Pero desde ya enfrenta desafíos por los intereses que hay a nivel mundial sobre quién puede ganar esta carrera tecnológica.
El mismo presidente de los Estados Unidos, Donald Trump, se mostró en contra de imponer restricciones, al insinuar que no pueden perder terreno frente a países como China.
La clave no está en detener el desarrollo, pues la IA puede traer grandes beneficios en tratamientos de salud, optimizar la productividad de las empresas y mejorar la calidad de vida de las personas, pero sí hay preocupación frente a cómo se puede garantizar que los humanos mantengan el control de las acciones de la IA.
El reto para la industria es conseguir que estos sistemas puedan ser suficientemente autónomos para resultar útiles, pero que permanezcan dentro de límites que los seres humanos puedan comprender, supervisar y detener.
Y más importante aún, cómo se puede poner de acuerdo al mundo entero, a las grandes potencias tecnológicas, para que esas acciones que buscan controlar y frenar el desarrollo de la IA sean implementadas por todos y no solo por algunos países, pues con uno que se salga de esta estrategia puede echar al traste los esfuerzos del resto.
Expertos y líderes del sector de la IA lanzaron voz de alerta
Son varios los sectores que ya están pidiendo una estrategia unida y coordinada para ponerle freno al desarrollo de la inteligencia artificial.
El líder de los demócratas en la Cámara de Representantes de Estados Unidos, Hakeem Jeffries, le pidió al Congreso “actuar con urgencia” para ralentizar la inteligencia artificial (IA) tras las alarmas de gigantes del sector, como Dario Amodei (Anthropic), Sam Altman (Open AI) y Elon Musk (xAI y Space X).
Jacob Coxon, un investigador de inteligencia artificial (IA) que abandonó la empresa Anthropic, aseguró hace unos días en medios internacionales que todas las personas que trabajan en IA sentían un “miedo genuino” ante la velocidad de sus avances. Incluso, se atrevió a decir que si no se hacía nada al respecto, había un 10 % de probabilidad de que la humanidad desaparezca en una década.
Por su parte el fundador de Anthropic, Dario Amodei, reconoció que “la industria mintió” sobre el peligro de la inteligencia artificial (IA), por lo que el Gobierno y los ciudadanos deben intervenir.
A pesar de que los líderes del sector coinciden en la necesidad de frenar el desarrollo de la IA, no se ponen de acuerdo en cuál es la mejor manera para hacerlo y las estrategias son tan diversas como contradictorias.
