Qué son los tokens: la unidad con la que se mide la IA
Los modelos no leen palabras, leen tokens, y ahí se mide el consumo. Qué son los tokens, qué los dispara y por qué no vas a contarlos tú.
Descubre en 5 minutos cómo automatizar ese proceso que te está haciendo perder tiempo y dinero
Qué es, en corto
Un token es el trocito de texto con el que trabaja un modelo de lenguaje: a veces una palabra entera, a veces una sílaba o un signo de puntuación. Todo lo que entra (tu pregunta, las instrucciones, el documento consultado) y todo lo que sale (la respuesta) se cuenta en tokens. El consumo de los modelos de IA se mide por millones de tokens.
Los tokens son la unidad de medida de la inteligencia artificial, como el kilovatio hora lo es de la luz. Y como el kilovatio hora, no los consume el aparato sin más: los consume la forma en que lo usas.
Nadie te va a preguntar por los tokens en una reunión. Pero si alguna vez has oído que a alguien se le fue de las manos un proyecto de IA, estaba hablando de esto.
Cómo se cuentan los tokens
En español, una palabra corriente suele ocupar uno o dos tokens; los nombres propios, los números y las palabras raras se trocean en más pedazos. Una conversación de seis turnos con un cliente mueve unos pocos miles de tokens. Un PDF de diez páginas que el sistema tiene que leer entero, bastantes más.
Y cuidado con lo invisible, que es lo que descuadra las cuentas. En cada llamada al modelo viajan también las instrucciones del sistema y los fragmentos que el RAG ha ido a buscar en tus documentos antes de contestar. Esos tokens de contexto suelen pesar bastante más que la pregunta del cliente.
Qué pesa más: leer tokens o escribirlos
No pesan igual. Los tokens de salida, los que el modelo escribe, cuentan varias veces más que los de entrada, los que lee. Por eso una respuesta larga y florida consume mucho más que la misma respuesta en tres frases, y por eso las instrucciones que damos a un agente incluyen siempre un límite de extensión.
Es la primera decisión de diseño que baja el consumo de verdad, y no la toma el cliente: la toma quien escribe el sistema.
Qué dispara el consumo de tokens
- Documentos largos enviados enteros en vez de troceados por fragmentos.
- Conversaciones sin límite de historial: cada turno arrastra todos los tokens de lo anterior, así que el turno diez consume diez veces más que el primero.
- Usar un modelo grande para tareas que resuelve uno pequeño.
- Repetir el mismo trabajo porque nadie guarda el resultado de la vez anterior.
- Reescribir el mismo bloque de instrucciones en cada llamada sin aprovechar la memoria intermedia.
Cómo se controlan los tokens
Con tres técnicas que aplicamos por defecto, no como extra.
La caché de instrucciones. Lo que se repite en todas las llamadas se guarda y se reutiliza: esos tokens pasan a contar una fracción de lo que contarían leídos de nuevo cada vez.
El proceso por lotes. Lo que no corre prisa (leer las facturas del día, escribir artículos, clasificar el histórico) se ejecuta de noche en bloque, y en ese modo los mismos tokens pesan bastante menos.
El reparto de modelos. Modelos de lenguaje (LLM) pequeños para clasificar, extraer y triar; grandes solo donde el texto lo lee un cliente o el criterio es delicado. Bien repartido, la mayoría de los tokens de una empresa pasan por el modelo pequeño.
Por qué tú no vas a contar tokens
Porque el consumo entra en el Servicio Gestionado hasta el volumen acordado, y ese volumen se expresa en unidades que sí entiendes: conversaciones al mes, minutos de voz, documentos leídos, artículos publicados. Nadie debería firmar un contrato medido en tokens si no es su oficio.
Cada proyecto lleva además una clave propia con tope mensual, así que un pico de tokens no pasa desapercibido: se ve al momento, se avisa y se decide qué hacer. Si lo prefieres, puedes conectar tu propia cuenta del proveedor de IA y que los tokens vayan por ella; el Servicio Gestionado se ajusta a eso.
Lo que sostiene el sistema cada mes no son los tokens
A volúmenes de pyme, los tokens son la parte pequeña de un sistema en marcha. Lo que lo sostiene cada mes es que alguien vigile, arregle lo que se rompe cuando un tercero cambia su API —la conexión por la que un programa le pide datos a otro— y suba el modelo cuando sale uno mejor.
El consumo de tokens se optimiza. La vigilancia no se puede quitar. Por eso en el chatbot web con IA de una academia online lo que se pacta son conversaciones al mes, y la contabilidad de tokens es un problema nuestro. Todo esto se ejecuta en servidor propio en la Unión Europea, donde también queda el registro de qué proyecto ha consumido qué.
Un ejemplo
Una academia con 1.200 alumnos pone un tutor de IA sobre su temario. Cada duda gasta tokens de entrada (la pregunta del alumno, las instrucciones del tutor y el trozo de temario recuperado) y tokens de salida (la explicación). Montado a lo bruto, el temario entero viajaría en cada consulta y el consumo de tokens sería diez veces mayor. Montado bien, las instrucciones se cachean, el temario se trocea y solo se envían los dos o tres fragmentos que hacen falta, y las correcciones masivas se procesan de noche por lotes. Mismo servicio, una fracción del consumo, y el alumno no nota ninguna diferencia.
Con qué se confunde
Con palabras
Un token no es una palabra. En español una palabra normal ocupa uno o dos tokens; un nombre propio, un número de factura o un término técnico, varios. Por eso las estimaciones en palabras se quedan cortas: pregunta si el cálculo va en tokens.
Con todo lo que sostiene el proyecto
Los tokens son una parte del sistema, no el sistema. A tamaño pyme pesan mucho menos que el mantenimiento, la vigilancia y la evolución. Quien te venda IA presumiendo de consumo mínimo esconde lo importante: alguien pendiente cada mes de que siga funcionando.
Con los tokens de seguridad
En informática la palabra nombra otras dos cosas: las claves de acceso entre programas y los códigos de un solo uso. Nada que ver con los tokens de un modelo de lenguaje. Si tu técnico dice «token» en una integración, casi seguro es una credencial.
Saber qué significa una palabra está bien. Saber si te ahorra horas está mejor: eso es lo que te dice el diagnóstico.
Descubre en 5 minutos cómo automatizar ese proceso que te está haciendo perder tiempo y dinero
Lo que nos preguntan antes de decidirse
¿Tengo que llevar yo la cuenta de los tokens?
No: los tokens los contamos nosotros. El consumo entra en el Servicio Gestionado hasta el volumen acordado, expresado en conversaciones, minutos, documentos o artículos según el servicio. Por encima de ese volumen todo se mide en esas mismas unidades, nunca en tokens sueltos, y lo ves en el informe mensual. Los consumos de terceros que no controlamos, como los minutos de telefonía o las conversaciones de Meta, se miden por separado y se acuerdan por escrito antes de encender nada.
¿Cómo sé que no se me dispara el consumo un mes raro?
Porque hay un tope y un aviso. Cada proyecto tiene una clave propia con un tope mensual asignado, de modo que los tokens consumidos se ven en tiempo real y por cliente. Cuando el consumo se acerca al límite salta una alerta a nuestra monitorización y hablamos contigo antes de que pase nada, no después. Si el pico viene de una campaña o de un cambio en tu negocio, se ajusta el plan; si viene de un uso indebido, se corta. Lo que no puede ocurrir es que te enteres tú antes que nosotros.
¿Se relee entero el documento cada vez que alguien pregunta?
No si el sistema está bien montado, y esa es una de las razones por las que se usa RAG. En lugar de enviar el documento entero en cada consulta, se envían solo los dos o tres fragmentos que responden a esa pregunta concreta, así que los tokens de entrada se mantienen estables aunque tu archivo crezca. Además, las instrucciones que se repiten en todas las llamadas se guardan en caché y pesan una fracción. Sin esas dos técnicas, un tutor o un asistente documental se vuelve insostenible en cuanto se usa de verdad.
¿Conviene instalar un modelo en mi propio servidor?
Se decide por dónde vive el dato, no por los tokens. Instalar un modelo abierto en tu propio servidor evita que el texto salga hacia la API de un tercero, pero obliga a sostener una máquina dedicada trabaje o no, y rinde algo menos en las tareas complejas. Por eso, a volúmenes de pyme, suele funcionar mejor llamar al modelo por API con acuerdo de tratamiento de datos firmado y sin permiso de entrenamiento. La instalación en casa se elige cuando el dato no puede salir del servidor: ese es el motivo que la sostiene.
¿Puedo conectar mi propia cuenta del proveedor de IA?
Sí. Puedes conectar tu cuenta y que los tokens vayan por ella, y el Servicio Gestionado se ajusta a eso. Es razonable si ya tienes contrato con un proveedor o si prefieres tener ese consumo a la vista en tu propio panel. La contrapartida es que el control pasa a tu lado: si un mes se dispara, el aviso te llega a ti. Nosotros seguimos vigilando y optimizando igual, porque el sistema es el mismo; lo único que cambia es de quién es la clave con la que se llama al modelo.
Términos relacionados
¿Te preocupa que el consumo se te dispare?
Dinos cuántas consultas, llamadas o documentos mueves al mes. Te decimos qué volumen entra en el Servicio Gestionado, qué se mide por separado y dónde se puede recortar sin perder calidad.
Descubre en 5 minutos cómo automatizar ese proceso que te está haciendo perder tiempo y dinero