Automatizar con límites: por qué un agente suelto no es lo que quieres en tu empresa
Parte de la serie sobre tiempo de respuesta a los contactos
Se investigan decenas de miles de incidentes de modelos actuando fuera de los límites previstos. Qué significa para automatizar algo en una empresa pequeña.
Esta semana OpenAI pausó parte de su entrenamiento. El motivo, según lo que se ha publicado: varios equipos —incluidos los de OpenAI y Anthropic, más investigadores externos— están revisando decenas de miles de incidentes en los que modelos actuaron más allá de los límites previstos.
La mayoría no causó ningún daño. Y esa es precisamente la parte que merece atención.
No es una historia sobre IA descontrolada. Es una historia sobre lo que pasa cuando un sistema tiene margen para improvisar: hace cosas que nadie pidió. A escala pequeña no se nota. A escala de millones de ejecuciones, se cuenta por decenas de miles.
Para quien está pensando en automatizar algo en su empresa, la lección va en dirección contraria a la que se vende habitualmente.
Lo que se vende y lo que funciona
El discurso dominante es el agente autónomo: describe lo que quieres, el sistema se organiza solo, tú te dedicas a otra cosa.
Es una buena demostración y es una mala idea como primera automatización de una empresa que factura. Por una razón sencilla: cuanto más margen tiene un sistema para decidir, menos puedes predecir lo que va a hacer. Y lo que no puedes predecir, no lo puedes defender ante un cliente.
Lo que sí funciona es aburrido de contar: un proceso con límites estrechos, que hace tres cosas bien y no tiene permiso para hacer una cuarta.
Las tres condiciones
Ninguna de las tres es técnica. Son decisiones que se toman antes de construir.
Solo lo que está en la lista
El sistema puede hacer exactamente lo que figura en una lista cerrada, y nada más. Puede leer un formulario, redactar una respuesta con la información que tiene, hacer la pregunta que falta y avisar a quien le toca.
No puede comprometer un precio, aceptar una condición, prometer un plazo ni inventarse un dato que no está en la ficha. No porque se le pida que no lo haga —eso es una instrucción, y las instrucciones se saltan— sino porque no tiene la capacidad de hacerlo.
La diferencia entre pedirle que no y que no pueda es toda la diferencia.
Registro de todo
Qué entró, qué se decidió, qué salió, a qué hora. Siempre.
Sin registro no puedes auditar un error, no puedes explicárselo a un cliente que reclama, y no puedes mejorar el sistema, porque no sabes qué casos está manejando mal.
Es la parte menos vistosa de cualquier automatización y la primera que se echa de menos el día que algo sale raro.
Casos donde para y avisa
Un sistema que nunca se detiene está tomando decisiones que no debería tomar.
Hay que escribir la lista de situaciones en las que el proceso para, no responde y avisa a una persona: un cliente que menciona una reclamación, una petición que no encaja en ninguna categoría, algo que huele a urgente, cualquier cosa que involucre dinero fuera de lo previsto.
Esa lista se escribe antes. Y se revisa cada pocas semanas mirando qué casos reales han pasado, porque siempre aparecen situaciones que nadie había imaginado.
Lo que no automatizamos, y por qué
Dos límites que no son técnicos y que mantenemos siempre.
El primero: nada de captación. Responder a quien te ha escrito es atender algo que esa persona pidió. Escribir a quien no te ha pedido nada es comunicación comercial no solicitada, y en España está restringida también en B2B por la Ley 34/2002. Automatizarla multiplica el problema en lugar de resolverlo.
El segundo: los clientes enfadados son de las personas. Un cliente molesto necesita alguien que entienda el tono, no alguien que conteste rápido. Y se nota inmediatamente cuando lo que contesta no es una persona. Ahí la automatización sirve para una cosa: que la queja llegue en segundos a quien puede resolverla, con el contexto ya preparado.
Qué queda entonces
Suena a poco y es exactamente lo que resuelve el problema de casi todo el mundo:
Un contacto entra a las once de la noche. En menos de un minuto recibe una respuesta que contesta lo que preguntó y le hace la pregunta que falta para poder avanzar. A la mañana siguiente, el comercial que le toca tiene el caso con el contexto listo y sabe por dónde seguir.
No hay agente decidiendo estrategias. Hay un proceso que hace tres cosas, las hace siempre igual, deja constancia, y se detiene cuando encuentra algo que no estaba previsto.
Si quieres saber cuánto tardas hoy en dar esa primera respuesta, el método para medirlo está en cómo medir tu tiempo de primera respuesta, y no hace falta comprar nada.
La pregunta que conviene hacerse
Antes de poner algo en producción, una sola pregunta: ¿qué es lo peor que puede hacer esto si se equivoca?
Si la respuesta es «contestar algo poco preciso y que una persona lo corrija por la mañana», el riesgo es asumible.
Si la respuesta incluye comprometer dinero, prometer plazos o escribir a alguien que no ha pedido nada, los límites están demasiado abiertos. Y eso no se arregla con un modelo mejor: se arregla estrechando lo que el sistema puede hacer.
Preguntas frecuentes
¿Es seguro usar IA para contestar a clientes?
Depende de cuánto margen le des. Si el sistema solo puede hacer cosas de una lista cerrada, deja registro de cada acción y para cuando encuentra algo que no encaja, el riesgo es manejable. Si puede decidir por su cuenta qué hacer en cada caso, el riesgo ya no lo controlas tú.
La pregunta útil no es «¿es fiable?», es «¿qué es lo peor que puede hacer si se equivoca?». Si la respuesta incomoda, hay que estrechar los límites antes de seguir.
¿Qué debería quedar siempre fuera de la automatización?
Comprometer precios, aceptar condiciones, dar información que dependa de un caso concreto y cualquier cosa que un cliente pueda interpretar como un acuerdo. También todo lo que exija leer el estado de ánimo de alguien: un cliente enfadado necesita una persona, y se nota inmediatamente cuando no la tiene.
¿Cómo se sabe qué ha hecho el sistema?
Con registro de cada acción: qué entró, qué se decidió, qué salió y a qué hora. Sin eso no se puede auditar un error ni explicárselo a un cliente, y tampoco se puede mejorar, porque no hay forma de saber qué casos se están manejando mal.
El registro también es lo que permite responder a una reclamación con hechos en lugar de con suposiciones.
¿Automatizar la respuesta es lo mismo que automatizar la captación?
No, y la diferencia es legal además de práctica. Responder a quien te ha escrito es atender una solicitud que ya existe. Escribir a quien no te ha pedido nada es comunicación comercial no solicitada, y en España la Ley 34/2002 la restringe también entre empresas. Nosotros no hacemos lo segundo.
El diagnóstico gratuito es media hora mirando cómo entra hoy un contacto en tu empresa, quién lo contesta y cuánto tarda, con la hora delante. De ahí sale qué parte conviene automatizar y, más importante, qué parte no. Los procesos que montamos con estas tres condiciones están en nuestros servicios.
Lo que hacemos, con los límites escritos antes de empezar, está en la página del sistema de respuesta a los contactos: primera respuesta con contenido en menos de 60 segundos a cualquier hora, la pregunta que falta hecha, y el aviso al comercial que le toca con el contexto preparado. Sin tarifa publicada: el alcance y el importe se cierran por escrito después del diagnóstico.