Rastreamento de Uso de Tokens e Custo de LLM para Faturamento do Cliente - Fluxo de trabalho n8n

Provedores de Serviços de IA: Empresas que oferecem APIs ou serviços baseados em IA para múltiplos clientes. Desenvolvedores que usam n8n: Usuários que procuram exemplos avançados de como se integrar ao ciclo de vida do LLM para métricas personalizadas. Equipes de Finanças: Organizações que precisam de atribuição granular de custos para o uso de IA generativa. Usuários de n8n Auto-hospedado: Este modelo específico do n8n usa o nó 'Langchain Code' do n8n, que é otimizado para ambientes n8n auto-hospedados.

Gerenciar os custos associados a Modelos de Linguagem Grande (LLMs) é crucial, especialmente ao atender vários clientes. Este fluxo de trabalho abrangente do n8n aborda o desafio de rastrear e atribuir com precisão o uso de tokens e o custo financeiro a clientes individuais.

A essência desta automação do n8n é o uso de um subnó LLM personalizado construído com o nó 'Langchain Code' do n8n. Isso permite que o fluxo de trabalho acesse os metadados de resposta do LLM antes que os dados sejam passados para a próxima etapa, garantindo que cada token usado seja capturado. As métricas capturadas—incluindo tokens de entrada, tokens de saída e custo calculado—são imediatamente registradas no Google Sheets usando uma conexão de 'ferramenta' especializada. Este log forma a base para uma cobrança mensal precisa e automatizada, que é tratada em uma segunda parte agendada do fluxo de trabalho do n8n que recupera os logs, agrega totais e usa o nó 'Gmail' do n8n para enviar uma fatura finalizada.

Este poderoso fluxo de trabalho do n8n é dividido em duas correntes lógicas principais: o serviço de rastreamento de uso e o processo de faturamento agendado.

Corrente de Rastreamento de Uso

1. Gatilho de Formulário: O fluxo de trabalho do n8n começa com o gatilho 'Em envio de formulário' do n8n quando um cliente carrega um arquivo PDF (ex: um currículo) solicitando extração de dados. Este é o ponto de entrada para o serviço de IA.


2. Preparação de Dados: O nó 'Analisar Envio de PDF' do n8n extrai o conteúdo de texto do arquivo binário. O nó 'Atributos de Registro' do n8n define então variáveis cruciais de contexto do cliente (como clientid, workflowid e executionid).


3. Execução Personalizada do LLM: O nó 'Extrair Dados do Currículo', um Extrator de Informações, é configurado para usar um LLM personalizado em vez de uma conexão padrão da OpenAI. Este LLM personalizado é definido pelo 'Subnó LLM Personalizado'.


4. Registro de Tokens (A Lógica Central): O 'Subnó LLM Personalizado' é um nó 'Langchain Code' do n8n. Este nó personalizado do n8n intercepta a resposta de conclusão do LLM usando um callback handleLLMEnd. Dentro deste código personalizado, os usagemetadata (contendo contagens de tokens) são acessados, os custos são calculados usando taxas predefinidas, e o registro de transação completo é anexado ao 'Log de Uso do Cliente' do Google Sheets usando a Ferramenta do Google Sheets conectada ao subnó.


5. Entrega do Resultado: A saída JSON estruturada final do extrator de dados é exibida de volta ao cliente usando o nó de formulário 'Exibir Documento JSON' do n8n.

Corrente de Faturamento Agendado

1. Gatilho de Agendamento: O gatilho 'Todo Fim de Mês' do n8n inicia o processo de faturamento no último dia do mês.


2. Recuperação de Dados: O nó do Google Sheets 'Obter Logs do Cliente' do n8n recupera todas as entradas de log para o ID de cliente especificado.


3. Filtragem: O nó 'Filtrar Mês Anterior' do n8n restringe os registros apenas àqueles criados no ciclo de faturamento atual.


4. Agregação: O nó 'Calcular Totais' do n8n resume os dados, fornecendo uma contagem total de tokens (sumtotaltokens) e custo total (sumtotalcost).


5. Faturamento: Finalmente, o nó 'Enviar Fatura' do Gmail usa os dados de custo agregados para gerar dinamicamente e enviar uma fatura mensal detalhada.

Para implantar este fluxo de trabalho do n8n de rastreamento de custo de tokens, siga estas etapas:

1. Importar o Fluxo de Trabalho do n8n: Copie os dados JSON fornecidos e cole-os diretamente em sua instância do n8n usando o botão 'Novo' e selecionando 'Importar de JSON'.


2. Requisito de Auto-Hospedagem: Observe que o nó crucial 'Langchain Code' do n8n está atualmente disponível apenas em versões auto-hospedadas do n8n.


3. Configuração do Google Sheets:

1. Configuração do Gmail: Configure uma credencial do Gmail e conecte-a ao nó 'Enviar Fatura' do n8n. Atualize o parâmetro 'sendTo' com o endereço de e-mail correto do cliente.


2. Ativar: Salve e ative o fluxo de trabalho do n8n.

Em envio de formulário (gatilho do n8n):
Função: Serve como a interface voltada para o cliente, permitindo o upload de arquivos para acionar o serviço.
Configuração Chave: Configurado para aceitar um upload de arquivo PDF obrigatório e uma caixa de seleção de confirmação.
Subnó LLM Personalizado (nó Langchain Code do n8n):
Função: Atua como o provedor LLM personalizado para o extrator de dados. Contém lógica Javascript para escutar o evento de conclusão da resposta do LLM (handleLLMEnd) e extrair metadados de uso de token.
Configuração Chave: Calcula os custos com base em taxas por milhão de tokens codificadas e chama a ferramenta Google Sheets conectada para registrar os dados da transação.
Log de Uso do Cliente (nó Ferramenta do Google Sheets do n8n):
Função: Usado como uma conexão de 'ferramenta' para o subnó LLM personalizado, permitindo que o código personalizado anexe dados de uso a uma planilha específica instantaneamente.
Configuração Chave: Operação definida como 'anexar'; visa a planilha '89. Langchain Code Node - Log de Uso do Cliente'.
Extrair Dados do Currículo (nó Extrator de Informações do n8n):
Função: Usa o LLM personalizado para converter texto bruto (do PDF) em um esquema JSON estruturado (para dados de CV/Currículo).
Configuração Chave: Usa um esquema JSON detalhado definindo campos como name, email, histórico de work (trabalho) e skills (habilidades).
Todo Fim de Mês (gatilho de Agendamento do n8n):
Função: Inicia a agregação financeira e o processo de faturamento mensalmente.
Configuração Chave: Agendado para rodar no dia 31 do mês às 18:00.
Calcular Totais (nó Resumir do n8n):
Função: Agrega os custos e tokens dos logs do cliente recuperados.
Configuração Chave: Soma o sumtotalcost (custo total) e sumtotaltokens (total de tokens).
Enviar Fatura (nó Gmail do n8n):
Função: Redige e envia o e-mail de cobrança final para o cliente.
* Configuração Chave: Corpo do e-mail construído dinamicamente usando os totais agregados do nó n8n anterior, incluindo cálculos de impostos.