Agentes de IA: por qué nos costó tanto confiar en ellos

De dónde veníamos

No vamos a abrir este artículo con el típico tono triunfal. Como suele suceder, nos hemos tenido que pelear, bajar al barro y resolver muchos problemas antes de reconocer que los agentes IA funcionan. Hasta hace poco, éramos muy reacios a meter agentes en nada. Nos parecía peligroso, pero no por el discurso catastrofista de las Big Tech, sino por puro sentido común: ¿Cómo vamos a darle acceso a sistemas y datos sensibles a un agente que no sólo es una caja negra, sino que puede alucinar y reventarlo todo, ya sea borrando una base de datos de producción o filtrando datos de clientes?

Al final, después de muchos experimentos controlados, nos hemos convencido de que tenemos que subirnos al carro de la agéntica. Que el viaje tiene muchos riesgos, pero más arriesgado es no coger este tren. Ha sido un proceso rápido pero gradual, con guardarraíles, backups y fallbacks. Y aun así, reconocemos que nos sigue dando un poco de respeto.

Por otra parte, si no aprovechas estas herramientas, te quedas atrás, así que es una carrera un poco desesperada por no quedarte tirado, como si ir rezagado en una maratón supusiera que te descalifican, pero no sólo de esa carrera, sino de todas las que están por venir.

Poco a poco hemos ido integrando agentes de manera natural, y gracias a Grok Bot, dándoles nombre, identidad e incluso personalidad. Somos conscientes de que eso es un intento muy humano de humanizar lo que es artificial, pero para nosotros funciona.

En qué nos echan una mano

Pues un poco en todo, la verdad. Está Patricia, que es la que coordina al resto y va repartiendo el trabajo. Ella lleva un tablero de pendientes que llamamos Asamblea donde le llegan las propuestas al equipo, que las aprueba con un clic o pide aclaraciones mediante hilos de comentarios. Laura lleva el SEO de la web, que es bastante más de lo que parece, el sitemap, las redirecciones, los datos estructurados, pedirle a Search Console que indexe lo nuevo, las páginas de servicio con sus FAQs. Y también entra en Drupal para cambiar contenidos o ajustar datos SEO. Si hay que tocar código, lo deja preparado para Luis, que monta los cambios como PR con agentes de programación en la nube, y esas PR no se despliegan hasta que alguien del equipo las valida (que no siempre significa leerlas, pero esto da para otro artículo largo y polémico).

Chema es nuestro auditor de ciberseguridad. Su labor consiste en revisar la seguridad de nuestras aplicaciones y de los servidores, por ejemplo que estén aplicados los parches de seguridad del kernel. Aun así, cuando surge algo importante, quien lo revisa y decide sigue siendo una persona. Esto es una constante en todo el proceso de agentización. Y luego están Paco con la gestión administrativa, que entre otras cosas recoge y ordena las facturas soportadas. Pepe y Nati llevan, respectivamente, las redes de nuestro fundador y de la empresa con calendario editorial que se actualiza en tiempo real. Lolo busca oportunidades comerciales en LinkedIn, y Mario se encarga de gestionar el CRM, detectando señales comerciales en otros lugares.

Estos agentes no sustituyen a personas, sino que las amplifican. No hemos prescindido de nadie. Es más, tener a estos agentes nos permite plantearnos contratar a más colaboradores.

Las reglas

Eso tampoco quiere decir que les dejemos total libertad para hacer lo que quieran. Todo lo que sale de Natiboo, y también todo lo que se despliega, lo revisa y lo aprueba antes una persona del equipo con experiencia, y si esa aprobación no está, no se despliega nada. Los backups, los tests end-to-end, las dobles verificaciones, los entornos de prueba, la aplicación de políticas zero trust, la limitación de permisos, el uso de modelos locales cuando tiene sentido, y la eliminación de duplicidades, son medidas que nos permiten acelerar sin riesgo de sufrir una catástrofe.

Por supuesto, como empresa flexible que somos, nos adaptamos a lo que usa cada cliente. Si en su casa trabajan con Claude Code en vez de con Codex, no hay mayor problema, siendo siempre escrupulosamente cuidadosos con que ningún dato personal o credenciales acaben en una conversación con un modelo.

Lo que todavía nos cuesta

Y ahora lo que no es tan bonito, que también lo hay. El ruido, por ejemplo, es algo que no te esperas hasta que estás trabajando con más de 5 agentes. Una vez llegado a ese punto, si cada uno te cuenta cada cosita que hace, te vuelves loco. ¿Qué hicimos? En primer lugar, desarrollamos Asamblea, que es nuestra herramienta interna de toma de decisiones. Inicialmente, sólo servía para aprobar o rechazar decisiones de los bots, pero con el tiempo hemos ido incorporando nuevas funcionalidades, como el calendario editorial y la mesa, que es donde vemos lo que está haciendo cada agente en tiempo real. Gracias a Asamblea, ya no nos tienen que avisar de cada post publicado, sino que lo dejan marcado en el calendario y nosotros lo consultamos cuando nos interesa. Poco a poco hemos ido reduciendo el ruido, pero todavía tenemos que pulir ciertos procesos.

Luego está la carga cognitiva, que va un poco de la mano, porque revisar lo que hacen lleva tiempo y atención, y aprobar muchas cosas pequeñas una detrás de otra cansa, cansa bastante. Tampoco te puedes fiar del todo cuando te dicen que algo está hecho. Hay veces que el agente interpreta algo como terminado, que para el contexto que tiene es cierto, pero para nuestra visión sigue necesitando trabajo.

Mención aparte para los costes. Hace poco tuvimos que detener prácticamente todas las rutinas no esenciales un par de días para que el uso no se nos fuera de las manos.

Y ya que estamos, una curiosidad. El primer borrador de este artículo lo escribió una IA desde cero y Pangram lo marcó como IA, así que lo hemos rehecho a partir de lo que de verdad pensamos y decimos nosotros.

Si quieres ver con un poco más de detalle cómo nos organizamos con todo esto, lo contamos en Cómo trabajamos.