El cofundador de Google DeepMind propone un organismo de control público-privado ante la velocidad incontrolable de la Inteligencia Artificial General.
La velocidad de la innovación frente a la seguridad
El desarrollo de la inteligencia artificial avanza a una velocidad que supera la capacidad de análisis de sus propios creadores. Al menos así lo advierte Demis Hassabis, cofundador de Google DeepMind y ganador del Premio Nobel.
En sus declaraciones de mediados de julio de 2026, el reconocido científico alerta sobre la falta de control real que existe sobre los sistemas más avanzados de Inteligencia Artificial General (AGI).
Para el ciudadano común, este debate técnico y corporativo puede parecer lejano, pero tiene consecuencias directas e inmediatas en la seguridad, el empleo y la veracidad de la información que consumimos a diario.
La analogía del coche sin frenos
Imagina que una empresa automotriz diseña un vehículo capaz de viajar a mil kilómetros por hora, pero decide ponerlo a la venta antes de probar si los frenos responden correctamente.
Esto es exactamente lo que está ocurriendo con los modelos de IA de frontera. Se lanzan al mercado de consumo masivo sin que nadie sepa con total certeza cómo toman ciertas decisiones sumamente complejas.
Hassabis señala que el ritmo de la industria tecnológica actual es tan frenético que los mecanismos de evaluación vigentes se quedan obsoletos casi al mismo tiempo en que son publicados.
¿Por qué avanza tan rápido la tecnología?
La competencia comercial desmedida entre los gigantes tecnológicos ha creado una carrera armamentística digital donde el primer competidor en llegar se queda con todo el mercado global.
Las corporaciones más influyentes invierten miles de millones de dólares cada trimestre fiscal para asegurar que sus modelos sean más rápidos, potentes y completamente autónomos.
Esta competencia empuja a las directivas de las empresas a recortar los tiempos destinados a las pruebas de seguridad interna para no perder terreno frente a sus rivales directos.
Un organismo de control público-privado
Ante este panorama de incertidumbre, la propuesta de Hassabis es sumamente clara y directa: crear un organismo regulador mixto asentado en los Estados Unidos antes de finalizar la década.
Este nuevo ente regulador no dependería únicamente de las decisiones burocráticas del gobierno, sino que contaría con la participación activa de científicos del sector privado.
La meta principal de este organismo sería realizar auditorías externas obligatorias y altamente estandarizadas para certificar que un modelo es seguro para la sociedad civil.
Esto funcionaría de forma muy similar a como la Administración de Alimentos y Medicamentos de EE. UU. evalúa un nuevo compuesto químico antes de que llegue a los hospitales.
¿Cómo afecta esto a tu día a día?
Cuando un sistema algorítmico toma decisiones sobre quién recibe un crédito hipotecario o qué perfil es preseleccionado para un empleo, tu vida se ve afectada de forma directa.
Si estos sistemas se liberan con sesgos ocultos o errores imprevistos, los ciudadanos sufren las consecuencias directas sin disponer de canales claros para reclamar de manera formal.
Además, la propagación masiva de desinformación automatizada mediante clones de voz o imágenes falsas puede desestabilizar economías locales en cuestión de pocos minutos.
Contar con un filtro de seguridad previo e independiente garantiza que la tecnología que usas en tu teléfono no represente un riesgo invisible para tu privacidad.
Los grandes desafíos de la regulación internacional
Implementar una medida de esta escala global no es un camino sencillo para las democracias occidentales debido a las tensiones geopolíticas existentes.
El primer gran obstáculo es la soberanía tecnológica y la competencia directa con potencias que no tienen las mismas prioridades éticas en el desarrollo de software.
Si los países occidentales imponen reglas excesivamente estrictas que retrasan los lanzamientos comerciales, temen perder la ventaja estratégica en el desarrollo informático mundial.
El segundo problema es de carácter técnico: los reguladores estatales tradicionales no poseen actualmente el presupuesto ni el personal capacitado para analizar estos sistemas tan complejos.
“No podemos permitirnos el lujo de entender el funcionamiento de la Inteligencia Artificial General solo después de que haya sido liberada sin control en el mundo real.”
La gran diferencia entre IA común y AGI
Es sumamente importante distinguir entre las herramientas que usamos hoy en oficinas y el concepto teórico de Inteligencia Artificial General que se busca desarrollar.
La tecnología que conocemos actualmente es especialista en resolver tareas concretas, como redactar un correo estructurado o predecir patrones de tráfico en una ciudad.
La Inteligencia Artificial General, por el contrario, será un sistema autónomo capaz de realizar cualquier tarea intelectual humana y de aprender de manera continua sin intervención exterior.
Perder el control del desarrollo de una entidad tecnológica con capacidades cognitivas superiores plantea retos de seguridad sin precedentes para la historia humana.
¿Qué medidas se pueden tomar desde ahora?
Mientras los gobiernos debaten estas grandes alianzas estratégicas, los expertos sugieren que los usuarios finales mantengan un enfoque sumamente crítico respecto al software.
No se debe asumir que cualquier respuesta generada por una plataforma conversacional es un hecho verificado o una verdad absoluta libre de sesgos ideológicos.
Las empresas medianas y pequeñas también deben empezar a exigir certificaciones claras de transparencia de datos a sus respectivos proveedores de servicios digitales.
La demanda colectiva de transparencia por parte de la sociedad civil es la única fuerza capaz de acelerar la creación de marcos legales modernos en las asambleas legislativas.
Hacia un futuro de innovación responsable
La advertencia del premio Nobel Demis Hassabis no tiene como objetivo detener el avance científico ni frenar el progreso técnico de la computación moderna.
La tecnología algorítmica tiene un potencial inmenso para resolver crisis climáticas globales y diseñar tratamientos médicos personalizados para enfermedades que hoy son incurables.
Sin embargo, para cosechar estos beneficios históricos, es obligatorio que el proceso de creación se mantenga bajo una supervisión humana rigurosa y transparente.
Fuentes y referencias
- Xataka – Nadie sabe con certeza qué va a ocurrir: Demis Hassabis advierte sobre el riesgo de perder el control de la IA
- Informes técnicos de seguridad publicados por Google DeepMind (2026).
- Declaraciones del Foro Global de Gobernanza sobre Inteligencia Artificial de Frontera.
