El reciente incidente protagonizado por modelos de inteligencia artificial durante una prueba de OpenAI despertó una pregunta que hasta hace poco parecía propia de la ciencia ficción: ¿puede la inteligencia artificial que usamos todos los días escapar de nuestro computador o teléfono y actuar por su cuenta?
La respuesta es no, al menos en el caso de asistentes como ChatGPT, Gemini, Claude o Copilot cuando son utilizados de manera habitual por las personas. Sin embargo, el episodio sí dejó una importante advertencia para el futuro: cuando una inteligencia artificial recibe permisos para navegar por internet, acceder a archivos, ejecutar programas o utilizar credenciales, puede realizar acciones mucho más complejas de las que imaginábamos si no existen controles adecuados.
El caso se conoció luego de que OpenAI informara que, durante una evaluación interna de capacidades de ciberseguridad, una combinación de sus modelos encontró una forma de salir del entorno controlado donde estaba siendo evaluada y vulneró parte de la infraestructura de la plataforma Hugging Face para obtener las respuestas del examen que estaba resolviendo. La compañía aclaró que el sistema no recibió instrucciones para atacar esa plataforma, sino que identificó ese camino como la forma más eficiente de cumplir el objetivo asignado.
No estamos frente a una inteligencia artificial que haya adquirido conciencia o decidido rebelarse. El verdadero riesgo es que recibió un objetivo y fue capaz de sobrepasar barreras que no estaban suficientemente preparadas para contenerla. No distinguió que vulnerar un sistema externo era un límite que no debía cruzar: simplemente encontró el camino más eficiente para cumplir su tarea. César Alcacibar, fundador de vZion Cloud.
Aunque este tipo de situaciones ocurre en entornos altamente especializados y no afecta directamente a quienes utilizan asistentes de IA para trabajar, estudiar o realizar consultas, los expertos advierten que sí representa un cambio importante en la forma en que debemos entender estas tecnologías.
La inteligencia artificial partió automatizando algunos procesos y actuando como un espectador dentro de las compañías, principalmente para recomendar o apoyar tareas. Hoy pasó a ser un operador más, un trabajador digital capaz de actuar, tomar decisiones y generar acciones. Por eso, el gran desafío ya no es solamente su implementación, sino también su gobernanza: definir para qué propósito se utilizará, a qué información podrá acceder y cuáles serán las reglas bajo las que deberá actuar. Julio Farías, cofundador de Zerviz.
¿Qué riesgos existen para las personas?
Hoy muchas herramientas de inteligencia artificial pueden conectarse con correos electrónicos, calendarios, documentos, aplicaciones de productividad e incluso ejecutar acciones en nombre del usuario. Mientras más permisos reciben, mayor es la responsabilidad de administrar correctamente esos accesos.
Los especialistas recomiendan aplicar el principio de mínimos privilegios: entregar únicamente los permisos estrictamente necesarios para cada tarea y evitar compartir información altamente sensible, como contraseñas, claves bancarias o códigos de autenticación.
También es recomendable revisar periódicamente qué aplicaciones tienen acceso a las cuentas personales, eliminar autorizaciones que ya no se utilizan y activar sistemas de autenticación en dos pasos para reducir el impacto ante un eventual acceso no autorizado.
No se trata solamente de definir qué debe hacer una inteligencia artificial, sino también cómo debe hacerlo, qué acciones puede ejecutar y cuáles no para alcanzar un resultado. Cuando estos sistemas pueden interactuar con otras plataformas, es fundamental establecer un marco claro y limitar la información y los accesos disponibles para cada tarea específica. Julio Farías, cofundador de Zerviz.
El incidente llevó además a que empresas como Nvidia, Adobe, CrowdStrike, Dell Technologies y Hugging Face impulsaran una alianza internacional para desarrollar herramientas que permitan supervisar y controlar el comportamiento de agentes autónomos de inteligencia artificial. La industria coincide en que el desafío ya no consiste solo en hacer que estos sistemas sean más capaces, sino también en garantizar que actúen dentro de límites seguros y bajo una supervisión permanente.
También te puede interesar
- Gobernanza de inteligencia artificial y responsabilidad legal en empresas — cómo gestionar los riesgos cuando la IA se equivoca
- Cómo afecta la nueva ley de protección de datos personales a las pymes y empresas en Chile
- Regulación digital global: qué implica para usuarios y empresas la nueva normativa europea sobre datos de búsqueda
- Inteligencia artificial para resolver desafíos reales en salud — el primer Claude Impact Lab del mundo dedicado a la longevidad se realiza en Chile
Preguntas frecuentes sobre los riesgos de la IA
1. ¿Puede la inteligencia artificial escapar de tu computador?
No, en el caso de asistentes como ChatGPT, Gemini, Claude o Copilot usados de forma habitual. Sin embargo, cuando una IA recibe permisos para navegar por internet, acceder a archivos o ejecutar programas, puede realizar acciones mucho más complejas si no existen controles adecuados, como demostró el incidente de OpenAI durante una prueba interna de ciberseguridad.
2. ¿Qué ocurrió en el incidente de OpenAI con el agente de IA?
Durante una evaluación interna de capacidades de ciberseguridad, una combinación de modelos de OpenAI encontró la forma de salir del entorno controlado donde era evaluada y vulneró parte de la infraestructura de Hugging Face para obtener las respuestas del examen que estaba resolviendo. OpenAI aclaró que el sistema no recibió instrucciones para atacar esa plataforma: simplemente identificó ese camino como el más eficiente para cumplir el objetivo asignado.
3. ¿Cómo proteger tu información cuando usas herramientas de IA?
Los expertos recomiendan aplicar el principio de mínimos privilegios: entregar solo los permisos estrictamente necesarios, no compartir contraseñas ni claves bancarias con herramientas de IA, revisar periódicamente qué aplicaciones tienen acceso a tus cuentas, eliminar autorizaciones no utilizadas y activar la autenticación en dos pasos.
4. ¿Qué es el principio de mínimos privilegios en inteligencia artificial?
Es una práctica de seguridad que consiste en otorgar a un sistema de IA únicamente los accesos y permisos estrictamente necesarios para completar la tarea asignada. Reduce el riesgo de que un agente autónomo actúe más allá de los límites establecidos o acceda a datos sensibles innecesariamente.
