¿Cómo ver cuántos tokens gasta cada clave y cada modelo de IA?

Guía corta para saber qué app, entorno o función gasta tu saldo de IA y con qué modelo: una clave por app, consumo en el área de cliente de Dongee AI Router y registro de usage en tus propios logs.

Para ver cuántos tokens gasta cada clave y cada modelo de IA, crea una clave distinta para cada app o entorno y revisa en el área de cliente de Dongee AI Router el consumo por modelo, por clave y el detalle de cada petición. Si además quieres saber qué función de tu código gasta más, guarda en tus propios logs el objeto usage cuando la respuesta lo incluya, junto con el entorno y el modelo.

Esta guía te sirve para responder una pregunta concreta: ¿qué app, qué entorno o qué función se está gastando tu saldo de IA, y con qué modelo? Son cinco pasos cortos.

Paso 1: usa una clave distinta por app o entorno

El consumo por clave solo te dice algo útil si cada clave tiene un único dueño. Si producción, pruebas y tres clientes comparten la misma clave, verás un total, pero no sabrás quién lo generó.

  • Una clave para producción y otra para pruebas.
  • Una clave por cliente, si haces proyectos para terceros.
  • Una clave por app o automatización (por ejemplo, un flujo de n8n o un backend en Node.js).

En AI Router puedes crear todas las claves que necesites por cuenta, así que separarlas es sencillo. Si además quieres que cada clave solo pueda usar ciertos modelos, sigue la guía para limitar una clave API a ciertos modelos de IA. Guarda siempre las claves en el servidor, nunca en el navegador.

Paso 2: revisa el consumo en el área de cliente

En el área de cliente de Dongee AI Router tienes tres vistas del consumo:

  • Por modelo: qué modelos concentran el gasto.
  • Por clave: qué app, entorno o cliente consume más.
  • Detalle de cada petición: los datos de facturación de cada llamada, útiles para encontrar picos o peticiones anómalas.

Con el paso 1 bien hecho, cruzar «clave» y «modelo» ya te dice, por ejemplo, que el entorno de pruebas está usando un modelo más caro de lo necesario.

Paso 3: registra el consumo también en tu app

El área de cliente te muestra el gasto por clave, pero no sabe qué función de tu código hizo cada petición. Para eso necesitas tus propios logs. En el estándar de OpenAI, muchas respuestas incluyen un objeto usage con prompt_tokens, completion_tokens y total_tokens. Si la respuesta lo incluye, guárdalo junto con el entorno, la función y el modelo. Si no viene, tu código debe seguir funcionando igual.

Un ejemplo en Node.js (ESM) con el SDK de OpenAI:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: process.env.AI_ROUTER_BASE_URL,
  apiKey: process.env.AI_ROUTER_API_KEY,
});

const model = process.env.AI_MODEL;
const entorno = process.env.APP_ENV ?? "pruebas";

export async function preguntar(texto, funcion) {
  const respuesta = await client.chat.completions.create({
    model,
    messages: [{ role: "user", content: texto }],
  });

  // Solo registra si la respuesta incluye usage
  if (respuesta.usage) {
    console.log(JSON.stringify({
      fecha: new Date().toISOString(),
      entorno,
      funcion,
      modelo: model,
      prompt_tokens: respuesta.usage.prompt_tokens,
      completion_tokens: respuesta.usage.completion_tokens,
      total_tokens: respuesta.usage.total_tokens,
    }));
  }

  return respuesta.choices[0].message.content;
}

Nunca escribas la clave en los logs; basta con el nombre del entorno. Si todavía no tienes el SDK configurado, revisa cómo usar el SDK de OpenAI en Node.js con una API compatible. La URL base y la lista de modelos están en tu área de cliente.

Paso 4: compara y actúa

Con los datos delante, busca patrones como estos:

  1. Un modelo caro haciendo tareas fáciles (clasificar, resumir textos cortos, extraer campos). Cámbialo por uno más ligero en esa función.
  2. Un entorno de pruebas que gasta casi tanto como producción. Revisa bucles, reintentos o pruebas automáticas que llaman a la IA sin necesidad.
  3. Peticiones con muchos prompt_tokens. Recorta el contexto que envías en cada llamada.

El enrutamiento entre modelos lo programas tú. Para decidir qué modelo usar en cada tarea, sigue la guía para optimizar el consumo de tokens con enrutadores de IA.

Paso 5: controla el gasto

AI Router funciona con prepago desde 3 USD, sin mensualidad. Si se acaba el saldo, las peticiones se detienen y no se genera deuda. Junto con una clave por app, ese es tu control principal: sabes cuánto puedes gastar como máximo y quién lo está gastando.

Dónde mirar cada dato

Pregunta que quieres responderDónde mirarla
¿Qué app, entorno o cliente gasta más?Área de cliente, consumo por clave
¿Qué modelo concentra el gasto?Área de cliente, consumo por modelo
¿Hubo una petición anómala o un pico?Área de cliente, detalle de cada petición
¿Qué función de mi código gasta más tokens?Tus logs, con usage si la respuesta lo incluye

Privacidad: AI Router no guarda el contenido de tus conversaciones. Solo conserva los datos de facturación de cada petición.

Cuándo te basta el área de cliente y cuándo no

Te basta el área de cliente si tienes pocas apps, usas una clave por app o entorno y solo necesitas saber cuánto gasta cada una y con qué modelo.

Conviene añadir tus logs o un gateway propio tipo LiteLLM si necesitas atribuir el gasto a funciones o usuarios finales dentro de una misma app, cruzarlo con tus métricas de negocio o centralizar varios proveedores en un solo punto. AI Router se puede usar detrás de un gateway así. A cambio, ese gateway lo tienes que mantener tú. Tampoco esperes que Dongee haga fallback automático entre modelos: esa lógica va en tu código o en tu gateway.

Preguntas frecuentes

¿Puedo ver el texto de las peticiones en el área de cliente?

No. AI Router no guarda el contenido de las conversaciones, solo los datos de facturación de cada petición. Si necesitas el texto para depurar, guárdalo tú en tus sistemas y con tus propias reglas de privacidad.

¿Hay alertas de gasto?

El control principal es el prepago: cuando se acaba el saldo, las peticiones se detienen sin generar deuda. Combínalo con una clave por app para saber siempre quién consume.

¿Cuánto cuesta cada token?

Esta guía no da tarifas. Lo que gasta cada clave y cada modelo lo ves en el consumo del área de cliente; para conocer las tarifas vigentes, consulta la página de Dongee AI Router o escribe al soporte, que atiende 24/7 también antes de contratar.

¿Puedo ver el consumo de una sola función de mi app?

No desde el área de cliente, porque allí se ve por clave y por modelo. Para verlo por función, regístralo en tus logs como en el paso 3 o usa una clave distinta para esa función.

¿Necesito ser cliente de Dongee para usar AI Router?

Sí. Se activa desde el área de cliente. Las cuentas nuevas reciben un crédito de bienvenida para empezar a probar.

En resumen

Usa una clave por app o entorno, revisa el consumo por clave y por modelo en el área de cliente y, si necesitas más detalle, guarda usage en tus logs. Con eso sabrás quién gasta tu saldo de IA y podrás decidir qué modelo cambiar.

Comenta lo que quieras

Unete a la charla
Solo ingresa tu email