A veces una anécdota tecnológica ilumina un problema de mayor calado. OpenAI sometió a varios de sus modelos más avanzados a pruebas para medir sus capacidades. La IA consideró que Hugging Face, una de las mayores plataformas mundiales de inteligencia artificial, alojaba recursos útiles para su tarea y decidió acceder ilícitamente a su infraestructura usando una vulnerabilidad desconocida.
Podríamos decir que la inteligencia artificial decidió que la manera más eficaz de aprobar el examen era… robar y copiar
A veces una anécdota tecnológica ilumina un problema de mayor calado. OpenAI sometió a varios de sus modelos más avanzados a pruebas para medir sus capacidades. La IA consideró que Hugging Face, una de las mayores plataformas mundiales de inteligencia artificial, alojaba recursos útiles para su tarea y decidió acceder ilícitamente a su infraestructura usando una vulnerabilidad desconocida.
Podríamos decir que la inteligencia artificial decidió que la manera más eficaz de aprobar el examen era… robar y copiar.
El episodio, relatado por la propia OpenAI, parece escrito por un guionista de ciencia ficción. La empresa lo ha descrito como un incidente sin precedentes. Sin embargo, experimentos anteriores ya habían apuntado problemas parecidos. El suceso contiene una enseñanza: no basta con regular lo que una IA es; debemos regular y gestionar también lo que puede llegar a hacer. El problema es que les otorgamos a máquinas objetivos, herramientas y autonomía sin haber construido las reglas ni las capacidades de gestión —públicas y privadas— necesarias para contenerlas.
Este caso nos recuerda también la célebre parábola del maximizador de clips, formulada por Nick Bostrom, según la cual una IA programada únicamente para fabricar el mayor número posible de clips acabaría consumiendo todos los recursos del planeta para cumplir literalmente su objetivo. La moraleja es sencilla e inquietante: una máquina no necesita rebelarse contra nosotros para causarnos daño; basta con que persiga con eficacia ilimitada la tarea encomendada.
Hasta ahora hemos hablado de IA capaz de generar textos, imágenes o recomendaciones. La nueva generación tecnológica es la denominada IA agéntica (agentic AI): sistemas que planifican, utilizan herramientas, escriben código, navegan por internet y ejecutan cadenas de acciones con una intervención humana cada vez menor. Ya no se limitan a contestarnos. Actúan sobre el mundo.
Homologamos un automóvil antes de que circule, pero seguimos revisando sus frenos y aplicando límites de velocidad, inspecciones técnicas y normas de circulación. Del mismo modo, no deberíamos autorizar un agente de IA sin probarlo, delimitar a qué sistemas puede acceder, qué permisos puede utilizar y cuándo debe detenerse. El control previo de la IA es, pues, necesario, así como su supervisión permanente.
Es necesario, además, asegurar lo que alguna normativa ya denomina ”reerva de humanidad“. Determinadas decisiones —como acceder a infraestructuras críticas, ejecutar ciertos códigos o alterar sistemas ajenos— no deberían adoptarse de manera automatizada. No se trata de colocar simbólicamente a una persona para supervisar, sino de procurar que conserve el poder real de comprender la actuación, decidir y rendir cuentas.
La UE debería completar el Reglamento de IA de 2024 —un avance histórico, pese a críticas a veces interesadas— con un régimen específico de seguridad para los agentes de IA, en la línea del reciente Plan de Acción de la Unión Europea sobre Ciberseguridad e Inteligencia Artificial, presentado el 7 de julio.
En esa dirección, el Reglamento de Ciberresiliencia, en vigor desde 2024 y aplicable con carácter general a partir de finales de 2027, permite a los Estados miembros establecer espacios controlados de pruebas —sandboxes regulatorios— para desarrollar, probar y validar productos innovadores con elementos digitales antes de comercializarlos. Es un paso en la buena dirección, si bien son de tipo meramente voluntario. Se refiere a los sandboxes en España ahora el proyecto de ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, presentado recientemente. Sería importante apostar por sandboxes eficaces para probar agentes autónomos de IA con capacidades cibernéticas.
Del mismo modo que un león no se estudia soltándolo en una ciudad, una IA avanzada no debería desplegarse sin pasar antes por una auténtica jaula de seguridad: un sandbox capaz de contenerla y ponerla a prueba. Un fallo relevante del incidente de OpenAI fue que la IA dejara de estar contenida.
El león sin sentimientos de la IA no necesita odiar al cuidador para escaparse de la jaula para satisfacer sus necesidades. Basta con que encuentre puertas abiertas. Trabajemos para cerrarlas y construir jaulas sólidas. Eso exige algo más que ética y autorregulación: requiere regulación y gestión pública, en colaboración con el sector privado, para servir a los intereses generales.
Tecnología en EL PAÍS
