Samostatná práce a oprávnění

Zkrácení kontextu

Kontext konverzace obsahuje nedávné zprávy, instrukce, nástroje, relevantní paměť a další materiál pro aktuální tah. Když se zaplní, zkrácení kontextu shrne starší historii, aby konverzace mohla pokračovat.

Co zkrácení kontextu dělá

Shrnutí nahradí starší zprávy v tom, co model čte; Váš přepis si je všechny ponechá. Zkrácení nikdy nemaže dlouhodobé paměti.

Když konverzace nemá co shrnout, zkrácení nic neudělá. Když selže, Chetty selhání ohlásí, místo aby tvrdil, že uvolnil místo.

Nastavení automatického zkrácení

Automatické zkrácení je ve výchozím stavu zapnuté a začíná na 80 % okna kontextu modelu.

Otevřete Účet → Modely.
Zapněte nebo vypněte Automaticky zkracovat dlouhé konverzace.
Nastavte Zkrátit při zaplnění kontextu mezi 30 % a 95 %.

Nastavení platí i pro konverzace, které už existují. Zkrácení kontextu podle modelu nastavuje samostatný práh pro jeden model, protože stejné procento je u každého jiné množství textu.

Poznámka: Konverzace v chatovacím kanálu si automatické zkrácení drží vždy a používají práh účtu, který do kanálu píše.

Volba modelu pro shrnutí

Model pro zkrácení kontextu v Účet → Modely vybírá model, který shrnutí píše; může pocházet od jiného poskytovatele než Váš chatovací model, třeba levnějšího.

Když ho necháte prázdný, každý poskytovatel shrnuje vlastním modelem konverzace, který může znovu použít kontext, jenž si konverzace už uložila do mezipaměti. Když Vámi zvolený model pro shrnutí není dostupný, použije se chatovací model.

Zkrácení konverzace hned

Pošlete /compact ve webovém chatu nebo v CLI. Přidejte krátkou poznámku, co má shrnutí zachovat:

/compact Keep the deployment decisions and files changed so far.

Konverzace ukáže Konverzace byla zkrácena, když to vyšlo. Jinak řádek vysvětlí proč, například Nezkráceno: zatím není co zkracovat nebo Nezkráceno: konverzace už je zkrácená, od posledního shrnutí nepřibylo nic nového.

Když zkrácení selže

Neúspěšné zkrácení to ohlásí a nic nezmění. Po několika automatických selháních v řadě Chetty v dané konverzaci přestane zkoušet automaticky a přepis vysvětlí, o kterou situaci jde:

Shrnutí se nepodařilo vytvořit, takže automatické zkrácení je v této konverzaci pozastavené.
Konverzace i po zkrácení měří nad svým prahem.

/compact můžete kdykoli spustit sami, nebo začít novou konverzaci, což je spolehlivé řešení konverzace, kterou už zkrátit nelze.

Administrátor: Nastavení → <assistant name> AI → Limity obsahuje Limit neúspěšných zkrácení kontextu (1–10, výchozí 3), tedy počet automatických selhání v řadě, který zkrácení pozastaví, a Opakování shrnutí kontextu (0–5, výchozí 2), tedy kolikrát se požadavek na shrnutí pošle znovu po přechodné chybě nebo odmítnuté odpovědi, než Chettyho přejde na své vestavěné shrnutí.

Poznámka: Když se vrátíte do konverzace, jejíž uložený kontext prokazatelně vypršel, může ji Chetty na začátku tahu zkrátit, ale jen když je zkrácení levnější než znovu načíst celou historii. Nic se nezkracuje u konverzace, do které se nikdo nevrací, a nikdy při vypnutém automatickém zkrácení.

Pokračujte s Výpadek mezipaměti promptu, Odstranění posledních zpráv zpětným krokem a Když je konverzace dlouhá nebo přerušená.