Obmedzte, čo môže API token spustiť
Dajte tokenu strop na náklady, požiadavky alebo súbežné ťahy, aby pokazený skript neminul denný rozpočet za hodinu.
Nastavte limit
- Otvorte Účet → API tokeny.
- V riadku tokenu zvoľte Limity. Otvorí sa dialóg Limity.
- Nastavte limity a zvoľte Uložiť. Každý limit má aj prepínač Bez obmedzenia, ktorý ho vypne.
Riadok tokenu ukazuje posledné použitie, platnosť, prefix a tlačidlá Kopírovať, Limity a Odstrániť. Otvorte riadok a uvidíte ťahy, odpovedané a zlyhané ťahy aj náklady za deň za obdobie, ktoré zvolíte pri grafe; toto obdobie potom platí pre všetky tokeny. Dni sa počítajú v UTC.
Čo ktorý limit zastaví
| Limit | Čo sa stane, keď ho token dosiahne |
|---|---|
| Náklady za deň | Ďalšie behy sa odmietnu až do ďalšieho dňa v UTC. |
| Náklady za mesiac | Ďalšie behy sa odmietnu až do ďalšieho kalendárneho mesiaca v UTC. |
| Požiadaviek za minútu | Každá požiadavka s týmto tokenom sa odmietne, kým minúta neskončí. |
| Súbežných behov | Nový beh sa odmietne, kým toľko behov stále beží. |
Odmietnutý beh nič nestojí a nezapočíta sa do ťahov tokenu. Odpoveď uvádza dôvod aj čas čakania, takže skript môže počkať a skúsiť to znova: pozrite si Chyby API agenta.
Keď nie je cena známa
Ťah môže spotrebovať tokeny, ktoré nikto neocení: poskytovateľ nehlásil žiadnu cenu a Chetty pre model nemá katalógovú cenu ani cenu nastavenú pre daný model. Náklady toho dňa potom nie sú známe, nie nulové.
Token ukazuje Cena neznáma. Token s denným limitom nákladov sa odmieta do konca toho dňa v UTC, token s mesačným limitom do konca toho mesiaca v UTC. Chetty nikdy nepovažuje neznámu cenu za nulu, pretože limit, ktorý nemožno overiť, nie je limit.
Limit nákladov počíta to, čo ťahy už spotrebovali. Behy, ktoré bežia vo chvíli, keď začína nový, preto môžu deň alebo mesiac mierne prekročiť.
Keď Chetty reštartuje počas behu
Beh prerušený reštartom sa počíta ako zlyhaný a jeho útratu už nemožno tokenu pripísať. Deň, keď začal, a deň reštartu sa potom počítajú ako neznáme náklady.
Token s denným limitom nákladov sa odmieta do konca týchto dní v UTC. Token s mesačným limitom sa odmieta do konca mesiacov, do ktorých tieto dni spadajú.
Súvisiace návody
Vytváranie, kopírovanie a mazanie tokenov popisuje Vytvorenie a správa osobného API tokenu; čo spotrebuje celá inštancia, Údaje o spotrebe a nákladoch.