AI-API-kostencalculator

In het Engels ongeveer driekwart woord per token, dus 1.000 tokens is zo’n 750 woorden. Andere talen, ook het Nederlands, code en getallen gebruiken meer tokens per woord, en elke modelfamilie heeft een eigen tokenizer; de gebruikscijfers in de API-antwoorden geven je exacte aantallen.

Output wordt token voor token gegenereerd, terwijl de hele input in één keer wordt gelezen; daarom rekenen aanbieders voor output een veelvoud van de inputprijs. Redeneermodellen rekenen hun verborgen redenering ook als output, en daarom maakt lang redeneren de rekening hoger.

Als het begin van een prompt zich tussen verzoeken precies herhaalt — een lange systeemprompt of een document —, leveren aanbieders het uit een cache en rekenen ze maar een fractie van de inputprijs. Vul het deel van de input in dat zich herhaalt om de besparing te zien; het eerste verzoek, dat de cache vult, kan iets meer kosten, en dat laat deze pagina weg.

Uit de open prijslijst van LiteLLM, die de beheerders gelijk houden met de prijspagina van elke aanbieder, meestal binnen een paar dagen na een wijziging. De pagina leest hem live in je browser en toont wanneer ze voor het laatst controleerde; is de lijst onbereikbaar, dan zie je de opgeslagen kopie met datum. Controleer de pagina van de aanbieder zelf voordat je een budget vastlegt.