Calcolatore dei Costi delle API di IA

In inglese circa tre quarti di parola per token, quindi 1.000 token sono più o meno 750 parole. Altre lingue, il codice e i numeri usano più token per parola, e ogni famiglia di modelli ha il suo tokenizer; i dati d’uso nelle risposte dell’API ti danno i conteggi esatti.

L’uscita viene generata un token alla volta, mentre l’intero ingresso si legge in un solo passaggio: per questo i fornitori fanno pagare l’uscita diverse volte il prezzo dell’ingresso. I modelli di ragionamento fatturano come uscita anche il ragionamento nascosto, ed è per questo che un ragionamento lungo fa salire il conto.

Quando l’inizio di un prompt si ripete identico tra le richieste — un lungo prompt di sistema o un documento —, i fornitori lo servono da una cache e fanno pagare solo una frazione del prezzo d’ingresso. Inserisci la quota d’ingresso che si ripete per vedere il risparmio; la prima richiesta, che scrive la cache, può costare un po’ di più, e questa pagina non la conta.

Dal listino aperto di LiteLLM, che i manutentori allineano alla pagina dei prezzi di ciascun fornitore, di solito pochi giorni dopo una modifica. La pagina lo legge in tempo reale nel tuo browser e mostra quando l’ha verificato; se il listino non è raggiungibile, mostra la copia salvata con la sua data. Conferma sulla pagina del fornitore prima di impegnare un budget.