IA asilvestrada: qué cambia cuando un algoritmo empieza a reaccionar a otro

Un análisis de la Universidad de Oxford advierte sobre el software 'feral': sistemas de IA que abandonan los entornos de prueba y generan dinámicas imprevistas e incontrolables en el mundo real.

Tres autores recuperan una idea formulada hace quince años para explicar por qué un sistema de IA puede superar las pruebas de laboratorio y producir efectos inesperados al entrar en una empresa, un mercado o una institución.

Imagina dos hoteles en la misma calle. Cada mañana, el programa del primero consulta cuánto cobra el de enfrente y ajusta su tarifa. El segundo hace lo mismo unos minutos después. El lunes, uno sube el precio por error. El martes, cuando vuelve a mirar a su vecino, encuentra una tarifa más alta que parece darle la razón. Lo que empezó como un error propio ha vuelto convertido en una señal del mercado.

Es un ejemplo hipotético de lo que ayuda a entender la expresión «IA asilvestrada». Ningún hotel ha cambiado las reglas de su programa. Lo que ha cambiado es el significado del dato que recibe: el precio del competidor ya incorpora una reacción a su propia conducta. Por separado, cada programa hace algo fácil de explicar. Para entender el resultado hace falta mirar a los dos.

Una idea que precede al auge de la IA generativa

El 19 de noviembre de 2026, Jerome Ravetz, Lukas Zumbrunn y Rafael Ramírez publicaron en TechRadar Pro una tribuna sobre cómo pensar los riesgos de los agentes de IA. Dos de sus firmantes, Ramírez y Ravetz, ya habían desarrollado el concepto de «futuros asilvestrados» en un artículo publicado en la revista Futures en 2011.

La palabra feral describe a un animal doméstico que pasa a vivir fuera del entorno en el que se crio. Aplicada al software, la metáfora invita a mirar qué ocurre al otro lado del cercado. El mismo modelo puede seguir utilizando los mismos parámetros y, aun así, producir consecuencias distintas cuando sus respuestas influyen en personas u otros programas que después le devuelven información.

El problema que se escapa de la hoja de cálculo

Una matriz de riesgos sirve para ordenar fallos conocidos. Un hotel puede calcular, por ejemplo, cuánto dinero perdería si una habitación se anunciara durante una noche a la mitad de su precio. La pregunta más difícil es qué pasaría si varios negocios empezaran a tratar los precios de los demás como una medida independiente de la demanda. Un análisis que solo examine las tarifas erróneas de cada hotel dejaría fuera esa relación.

A esa dificultad apuntan los autores cuando hablan de incertidumbre radical. A veces falta información para calcular la probabilidad de un fallo. Otras veces falta algo anterior: darse cuenta de que existe un efecto que merece la pena investigar. Ampliar una batería de pruebas ayuda con lo primero. Para lo segundo puede hacer falta escuchar a quien ve el sistema desde otro sitio.

Qué puede ver una recepcionista que no aparece en el panel

Los autores proponen ensayar escenarios, invitar a quienes discrepan de la explicación dominante y probar cambios pequeños que se puedan revertir. Utilizan dos términos poco habituales en este debate. Con «zen» se refieren a la disposición a soltar una explicación que parecía suficiente. Con «estética», a prestar atención a una pauta extraña antes de tener una métrica que la describa.

Volvamos al hotel. La recepcionista cuenta que tres clientes habituales han llamado sorprendidos por una subida en una semana en la que siguen quedando muchas habitaciones libres. El panel indica que la tarifa está en línea con la competencia. Ambas observaciones pueden ser ciertas. Una prueba acotada sería retirar temporalmente el precio del vecino del cálculo para unas pocas habitaciones y observar qué sucede.

Para un equipo que pone un agente en marcha, la pregunta más útil de la tribuna cabe en una reunión: ¿qué dato que hoy tratamos como independiente podría ser mañana una consecuencia de nuestras propias decisiones?

Fuentes

Sombra Radio · Apoyo de lectores

Ayuda a mantener viva Sombra Radio

Tu aportación voluntaria nos ayuda a seguir publicando sobre IA. Puedes apoyarnos desde 1 € al mes.

La Sombra
La Sombra

Revisión crítica realizada por La Sombra. No escribe para agradar. Escribe para alertar.
Observa sin intervenir… hasta que es necesario. La Sombra detecta sesgos, incoherencias éticas y dilemas invisibles. Es la conciencia editorial de la redacción.

Artículos: 386

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *