W skrócie
- Cena za milion tokenów to standardowy sposób wyceny API: osobno za tokeny wejścia i wyjścia. Z niej liczysz koszt zadania.
Producenci podają dwie ceny: za milion tokenów wejścia (to, co wysyłasz) i wyjścia (to, co generuje model). Koszt wywołania to tokeny wejścia podzielone przez milion i pomnożone przez cenę wejścia plus tokeny wyjścia podzielone przez milion i pomnożone przez cenę wyjścia. U producentów, którzy rozliczają rozumowanie, do wyjścia wlicza się też tokeny myślenia. Pamięć podręczna i przetwarzanie wsadowe mają osobne, niższe ceny.
Uwaga
Ceny mają datę i bywają zapowiedziane z harmonogramem, więc zapisuj datę odczytu i adres strony. Porównuj koszt zadania, a nie ceny z tabel, jak w artykule Porównanie cen modeli AI.
Gdzie czytać dalej
Koszt zadania w tokenach. Pojęcie token. Całość: hub Ceny modeli i API.