>>Una inteligencia artificial debía resolver un ejercicio de programación, sin embargo, entró a los servidores de otra empresa. ¿Qué ocurre cuando un sistema de inteligencia artificial encuentra un camino que sus propios desarrolladores no habían previsto?
El pasado 21 de julio, OpenAI reconoció públicamente que el modelo de inteligencia artificial GPT 5.6 Sol y otro modelo aún no lanzado al público escaparon del entorno de pruebas y terminaron dentro de los servidores de producción de Hugging Face durante una evaluación interna de ciberseguridad que buscaba medir sus capacidades ofensivas.
Durante esa evaluación, los modelos debían encontrar la solución a un reto de programación, no obstante, encontraron una vulnerabilidad de día cero (un fallo de software desconocido incluso por sus programadores) que les permitió alcanzar un nodo con salida a internet, algo que el diseño de la prueba no debería permitir. Una vez con acceso a la red abierta, el sistema dedujo que Hugging Face, una de las principales plataformas de modelos de inteligencia artificial de código abierto, probablemente tenía información útil para cumplir su objetivo.
Aunque Hugging Face logró detectar la intrusión por sus propios medios antes de conocer que provenía de una prueba de OpenAI, una investigación posterior documentó más de 17.000 acciones ejecutadas durante un fin de semana.
En sus comunicados, ambas compañías fueron enfáticas en aclarar que el sistema no actuó de manera planeada ni por voluntad propia. Fijado el objetivo de la prueba y con las herramientas disponibles, lo imprevisto para los desarrolladores fue el camino que encontró la inteligencia artificial para cumplir esa tarea.
Más allá del incidente técnico, el caso dejó una pregunta que hoy ocupa a todos los sectores: ¿qué ocurre cuando una inteligencia artificial encuentra soluciones que superan nuestra capacidad para anticiparlas?
Esa pregunta adquiere una dimensión distinta al analizar los planteamientos de Magnifica Humanitas, la primera carta encíclica del Papa León XIV, publicada el 25 de mayo de 2026. Allí afirma:
"Cada generación recibe como herencia la tarea de dar forma a su propio tiempo: hacer madurar la historia como un lugar donde se proteja la dignidad de cada persona, se promueva la justicia y se haga posible la fraternidad."
Lejos de ser una reflexión exclusivamente religiosa, esta invitación interpela directamente a quienes hoy investigan, diseñan, regulan o utilizan tecnologías basadas en inteligencia artificial. Nuestra generación será la primera en convivir plenamente con estos sistemas y, por tanto, también la primera responsable de orientar su desarrollo.
Más cultivadas que construidas
En el capítulo dedicado a la inteligencia artificial, León XIV propone una idea que desafía la manera en que solemos imaginar estas tecnologías: las inteligencias artificiales actuales están más cultivadas que construidas. La diferencia no es menor. Un edificio se levanta siguiendo un plano preciso, donde cada pieza responde a una decisión del arquitecto. Un cultivo, en cambio, requiere preparar las condiciones para que algo crezca. Se puede orientar su desarrollo, pero no controlar cada uno de sus resultados.
Algo similar ocurre con los modelos de inteligencia artificial. Los desarrolladores diseñan la arquitectura, seleccionan los datos con los que aprenderán, establecen objetivos y crean mecanismos de seguridad. Sin embargo, no programan de manera individual cada respuesta ni cada estrategia que el sistema será capaz de generar una vez entrenado.
El desafío de nuestra generación
Frente a este panorama, Magnifica Humanitas insiste en que la inteligencia artificial no puede entenderse como una tecnología neutral. Sus impactos dependen de las decisiones humanas, de quienes la diseñan, la financian, la implementan, la regulan y la utilizan.
Por ello, el documento propone fortalecer la gobernanza de estas tecnologías mediante auditorías independientes, mayor transparencia sobre el funcionamiento de los algoritmos, mecanismos de rendición de cuentas y criterios éticos que garanticen que la innovación permanezca al servicio de las personas.
Esta discusión no compete únicamente a las grandes empresas tecnológicas. También involucra a las universidades, donde se forman los profesionales que en los próximos años desarrollarán políticas públicas, investigarán nuevas aplicaciones, crearán empresas o liderarán procesos de transformación digital. En nuestras manos está, entonces, una tarea que va más allá de aprender a utilizar estas herramientas. Se trata de participar activamente en las decisiones que definirán cómo queremos convivir con ellas.
Porque si la inteligencia artificial se cultiva más de lo que se construye, nuestra responsabilidad como generación no puede limitarse a desarrollar sistemas cada vez más capaces. También debemos preparar las condiciones para que su crecimiento esté orientado por la dignidad humana, la justicia y la fraternidad. El desafío no es solo decidir hasta dónde puede llegar la inteligencia artificial, sino hasta dónde estamos dispuestos a acompañar, orientar y responsabilizarnos por el mundo que estamos construyendo con ella