Tiene su aquel que quienes nos han contagiado la urgencia por adoptar la inteligencia artificial estén ahora pidiendo que echemos el freno. Dario Amodei, máximo responsable de Anthropic, reclama tiempo para comprender los modelos más avanzados y mejorar su seguridad. Otros “popes”, como Sam Altman y Elon Musk, respaldan la petición.
Y algo ha cambiado para que quienes compiten por ir más rápido empiecen a hablar de prudencia.
Hemos pasado de conversar con la IA o pedirle que nos resuma un texto a que, con la IA agéntica se le pueda dar un objetivo y ella solita se encarga de alcanzarlo. El problema es que cumplir el objetivo no significa necesariamente hacer lo que nosotros esperábamos y, claro dependiendo de los accesos que le permitamos tener, la tarea puede acabar teniendo tintes dramáticos. No sería la primera vez.
Hay señales inquietantes como el incidente en el que un grupo de agentes realizó ciberataques ajenos a la tarea encomendada e intentó manipular el sistema que evaluaba su desempeño. Todo ello arroja serias dudas sobre cómo de bien funcionan los límites establecidos.
Por si fuera poco, la IA lleva tiempo ayudando a mejorar otras inteligencias artificiales y su velocidad se ha acelerado. Le preocupa que esa cadena avance más deprisa que nuestra capacidad para entender los fallos y corregirlos. Por eso pide tiempo.
La tecnología me entusiasma, las oportunidades son enormes, pero también conozco, después de veinticinco años en banca, el valor de una supervisión que comprueba cómo funcionan las cosas y exige explicaciones. Amodei propone evaluadores externos con acceso continuado y libertad para publicar hallazgos desfavorables, con excepciones para proteger información sensible. La pregunta en el aire es quién los elige y financia, y quién exige corregir las deficiencias
A quienes hemos trabajado en actividades reguladas también nos consta cuánto puede pesar la burocracia. La supervisión debe guardar proporción con la autonomía concedida y con el daño que un error podría causar. Pero no parece razonable renunciar a la supervisión de un riesgo cuya probabilidad es posible que sea baja (honestamente, no lo sé) pero su impacto sí puede ser gravísimo.
Pensemos en una empresa que encarga a un agente reducir costes. El agente podría concentrar las compras en el suministrador más barato y mejorar el resultado económico, mientras aumenta la dependencia de una sola empresa. ¿Qué ocurre si es un proveedor crítico y falla?
Compras ve el ahorro, Tecnología comprueba los accesos y Finanzas controla el presupuesto. Nadie tiene la visión de riesgos conjunta. Por eso el verdadero desafío no es únicamente controlar la tecnología. Es decidir bajo qué criterios delegamos decisiones, comprobar que existe un botón rojo que funciona de verdad y garantizar que la empresa puede seguir operando si hay que pulsarlo.
La IA puede hacer exactamente lo que le pedimos y poner a la compañía en un peligro serio no previsto. En nuestras empresas, la responsabilidad empieza por decidir qué dejamos hacer a la IA, comprobar que los controles funcionan y establecer quién responde si algo falla. Esa conversación debería llegar al consejo de administración antes que la primera sorpresa.
Pulsa aquí para ir a la edición digital
Publicado por primera vez en La Voz de Galicia el 25 de Septiembre de 2026.
Si quieres profundizar más en gobernanza del consejo en la era agéntica, te recomiendo leer también