Výpadek mezipaměti promptu

Poskytovatel drží začátek Vaší konverzace v mezipaměti, takže další požadavek ho znovu použije, místo aby všechno četl znovu. Chetty Vás upozorní, když odpověď mezipaměť minula a zaplatila za to znatelně víc.

Proč na mezipaměti záleží

Při výchozím dlouhém uchování zůstává mezipaměť teplá asi hodinu klidu; při krátkém uchování asi pět minut.

Požadavek po delší pauze přečte celou historii znovu. Stojí to víc a je to normální.

Co upozornění říká

Výpadek v teplém okně znamená, že požadavek znovu použil méně uloženého textu, než měl. Když jeden krok stojí navíc aspoň 0,25 USD, Chetty zobrazí upozornění na zvonku Upozornění v horní liště, nejvýše jedno na odpověď.

Upozornění jmenuje konverzaci, u delegované práce sub-agenta, a uvádí pravděpodobnou příčinu. Vypisuje také Ztraceno z mezipaměti, Znovu zapsáno, Znovu zpracováno, Náklady navíc, Cena volání a Model a odkazuje zpět do konverzace.

Co výpadek způsobuje

Chetty porovnává požadavek s předchozím, takže umí pojmenovat obvyklé důvody:

• Změnil se systémový prompt. Změnily se instrukce Chettyho nebo soubory instrukcí Vašeho Projektu.
• Změnila se sada dostupných nástrojů. Plugin nebo změna oprávnění změnily nástroje, které tah mohl použít.
• Změnila se dřívější historie konverzace. Zpráva byla upravena, odstraněna nebo přepsána.

Když je začátek nezměněný, upozornění řekne, že příčina není jasná a že poskytovatel mezipaměť pravděpodobně uvolnil, nebo že krok mohl posunout dřívější zápis z dosahu. Přepnutí mezi Plánováním, Realizací a Postupem nemění ani instrukce, ani nástroje, takže výpadek nevysvětlí.

Co udělat

Většina výpadků nevyžaduje nic. Přečtěte příčinu a rozhodněte se:

• Když upozornění jmenuje skutečnou změnu, není co dělat; další požadavek začne nový, stabilní začátek.
• Když se stejné upozornění v jedné dlouhé konverzaci opakuje, zkrácení kontextu nebo nová konverzace často stojí méně než nesení historie dál.
• Zavřením upozornění se příčina nemění; zmizí jen oznámení.

Tip: Pracující konverzace ukazuje podíl z mezipaměti vedle živé rychlosti a panel spotřeby označuje stejný údaj jako Podíl načtený z mezipaměti.

Související návody

Pokračujte s Zkrácení kontextu, Údaje o spotřebě a nákladech a Co v konverzaci uvidíte.