Como ver quantos tokens cada chave e cada modelo de IA consomem?

Crie uma chave por app ou ambiente e confira na área do cliente do Dongee AI Router o consumo por chave, por modelo e por requisição. Para detalhar por função, registre o objeto usage nos seus logs.

Para ver o consumo de tokens por chave API, crie uma chave diferente para cada app ou ambiente e confira na área do cliente do Dongee AI Router o consumo por modelo, por chave e por requisição. O Dongee AI Router é o gateway pré-pago de IA da Dongee. Por função, registre o objeto usage nos seus logs.

Este guia ajuda você a responder uma pergunta concreta: qual app, qual ambiente ou qual função está gastando o seu saldo de IA, e com qual modelo? São cinco passos curtos.

Passo 1: use uma chave diferente por app ou ambiente

O consumo por chave só diz algo útil se cada chave tiver um único dono. Se produção, testes e três clientes compartilham a mesma chave, você vai ver um total, mas não vai saber quem o gerou.

  • Uma chave para produção e outra para testes.
  • Uma chave por cliente, se você faz projetos para terceiros.
  • Uma chave por app ou automação (por exemplo, um fluxo do n8n ou um backend em Node.js).

No AI Router você pode criar quantas chaves precisar por conta, então separá-las é simples. Se também quiser que cada chave só possa usar certos modelos, siga o guia para limitar uma chave API a certos modelos de IA. Guarde as chaves sempre no servidor, nunca no navegador.

Passo 2: confira o consumo na área do cliente

Na área do cliente do Dongee AI Router você tem três visões do consumo:

  • Por modelo: quais modelos concentram o gasto.
  • Por chave: qual app, ambiente ou cliente consome mais.
  • Detalhe de cada requisição: os dados de faturamento de cada chamada, úteis para encontrar picos ou requisições anômalas.

Com o passo 1 bem feito, cruzar “chave” e “modelo” já mostra, por exemplo, que o ambiente de testes está usando um modelo mais caro do que o necessário.

Passo 3: registre o consumo também no seu app

A área do cliente mostra o gasto por chave, mas não sabe qual função do seu código fez cada requisição. Para isso, você precisa dos seus próprios logs. No padrão da OpenAI, muitas respostas incluem um objeto usage com prompt_tokens, completion_tokens e total_tokens. Se a resposta incluir esse objeto, guarde-o junto com o ambiente, a função e o modelo. Se ele não vier, o seu código deve continuar funcionando normalmente.

Um exemplo em Node.js (ESM) com o SDK da OpenAI:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: process.env.AI_ROUTER_BASE_URL,
  apiKey: process.env.AI_ROUTER_API_KEY,
});

const model = process.env.AI_MODEL;
const entorno = process.env.APP_ENV ?? "pruebas";

export async function preguntar(texto, funcion) {
  const respuesta = await client.chat.completions.create({
    model,
    messages: [{ role: "user", content: texto }],
  });

  // Só registra se a resposta incluir usage
  if (respuesta.usage) {
    console.log(JSON.stringify({
      fecha: new Date().toISOString(),
      entorno,
      funcion,
      modelo: model,
      prompt_tokens: respuesta.usage.prompt_tokens,
      completion_tokens: respuesta.usage.completion_tokens,
      total_tokens: respuesta.usage.total_tokens,
    }));
  }

  return respuesta.choices[0].message.content;
}

Nunca escreva a chave nos logs. O nome do ambiente basta. Se você ainda não configurou o SDK, veja como usar o SDK da OpenAI em Node.js com uma API compatível. A URL base e a lista de modelos estão na sua área do cliente.

Passo 4: compare e aja

Com os dados em mãos, procure padrões como estes:

  1. Um modelo caro fazendo tarefas fáceis (classificar, resumir textos curtos, extrair campos). Troque-o por um modelo mais leve nessa função.
  2. Um ambiente de testes que gasta quase tanto quanto a produção. Revise loops, novas tentativas ou testes automatizados que chamam a IA sem necessidade.
  3. Requisições com muitos prompt_tokens. Reduza o contexto que você envia em cada chamada.

Quem programa o roteamento entre modelos é você. Para decidir qual modelo usar em cada tarefa, siga o guia para otimizar o consumo de tokens com roteadores de IA.

Passo 5: controle o gasto

O AI Router funciona no modelo pré-pago, a partir de 3 USD e sem mensalidade. Se o saldo acabar, as requisições param e você não fica com dívida. Junto com uma chave por app, esse é o seu controle principal: você sabe quanto pode gastar no máximo e quem está gastando.

Onde ver cada dado

Pergunta que você quer responderOnde ver
Qual app, ambiente ou cliente gasta mais?Área do cliente, consumo por chave
Qual modelo concentra o gasto?Área do cliente, consumo por modelo
Houve uma requisição anômala ou um pico?Área do cliente, detalhe de cada requisição
Qual função do meu código gasta mais tokens?Seus logs, com usage se a resposta incluir esse objeto

Privacidade: o AI Router não guarda o conteúdo das suas conversas. Ele só mantém os dados de faturamento de cada requisição.

Quando a área do cliente basta e quando não

A área do cliente basta se você tem poucos apps, usa uma chave por app ou ambiente e só precisa saber quanto cada um gasta e com qual modelo.

Vale acrescentar seus próprios logs ou um gateway próprio, como o LiteLLM, se você precisa atribuir o gasto a funções ou usuários finais dentro do mesmo app, cruzá-lo com suas métricas de negócio ou centralizar vários provedores em um só lugar. O AI Router pode ser usado atrás de um gateway assim. Em troca, a manutenção desse gateway fica com você. E não espere que a Dongee faça fallback automático entre modelos: essa lógica fica no seu código ou no seu gateway.

Perguntas frequentes

Posso ver o texto das requisições na área do cliente?

Não. O AI Router não guarda o conteúdo das conversas, só os dados de faturamento de cada requisição. Se você precisa do texto para depurar, guarde-o nos seus próprios sistemas, com as suas próprias regras de privacidade.

Existem alertas de gasto?

O controle principal é o pré-pago: quando o saldo acaba, as requisições param e você não fica com dívida. Combine isso com uma chave por app para saber sempre quem está consumindo.

Quanto custa cada token?

Este guia não traz tarifas. Quanto cada chave e cada modelo gasta você vê no consumo da área do cliente. Para conhecer as tarifas vigentes, consulte a página do Dongee AI Router ou fale com o suporte humano 24/7 em português, com tradução em tempo real da plataforma. O suporte também atende antes da contratação.

Posso ver o consumo de uma única função do meu app?

Não pela área do cliente, que mostra o consumo por chave e por modelo. Para ver por função, registre o consumo nos seus logs como no passo 3 ou use uma chave diferente para essa função.

Preciso ser cliente da Dongee para usar o AI Router?

Sim. Ele é ativado pela área do cliente. As contas novas recebem um crédito de boas-vindas para começar a testar.

Em resumo

Use uma chave por app ou ambiente e confira na área do cliente o consumo por chave e por modelo. Se precisar de mais detalhe, guarde o usage nos seus logs. Assim você sabe quem gasta o seu saldo de IA e pode decidir qual modelo trocar.

Comenta lo que quieras

Unete a la charla
Solo ingresa tu email