Samostatná práca a oprávnenia

Skrátenie kontextu

Kontext konverzácie obsahuje nedávne správy, inštrukcie, nástroje, relevantnú pamäť a ďalší materiál pre aktuálny ťah. Keď sa zaplní, skrátenie kontextu zhrnie staršiu históriu, aby konverzácia mohla pokračovať.

Čo skrátenie kontextu robí

Zhrnutie nahradí staršie správy v tom, čo model číta; Váš prepis si ich všetky ponechá. Skrátenie nikdy nemaže dlhodobé pamäte.

Keď konverzácia nemá čo zhrnúť, skrátenie nič neurobí. Keď zlyhá, Chetty zlyhanie ohlási namiesto toho, aby tvrdil, že uvoľnil miesto.

Nastavenie automatického skrátenia

Automatické skrátenie je v predvolenom stave zapnuté a začína na 80 % okna kontextu modelu.

Otvorte Účet → Modely.
Zapnite alebo vypnite Automaticky skracovať dlhé konverzácie.
Nastavte Skrátiť pri naplnení kontextu medzi 30 % a 95 %.

Nastavenie platí aj pre konverzácie, ktoré už existujú. Skrátenie kontextu podľa modelu nastavuje samostatný prah pre jeden model, pretože rovnaké percento je pri každom iné množstvo textu.

Poznámka: Konverzácie v chatovom kanáli si automatické skrátenie držia vždy a používajú prah účtu, ktorý do kanála píše.

Voľba modelu na zhrnutie

Model na skrátenie kontextu v Účet → Modely vyberá model, ktorý zhrnutie píše; môže pochádzať od iného poskytovateľa než Váš chatový model, napríklad lacnejšieho.

Keď ho necháte prázdny, každý poskytovateľ zhrnie vlastným modelom konverzácie, ktorý môže znova použiť kontext, ktorý si konverzácia už uložila do vyrovnávacej pamäte. Keď Vami zvolený model na zhrnutie nie je dostupný, použije sa chatový model.

Skrátenie konverzácie hneď

Pošlite /compact vo webovom chate alebo v CLI. Pridajte krátku poznámku, čo má zhrnutie zachovať:

/compact Keep the deployment decisions and files changed so far.

Konverzácia ukáže Konverzácia bola skrátená, keď to vyšlo. Inak riadok vysvetlí prečo, napríklad Neskrátené: zatiaľ nie je čo skracovať alebo Neskrátené: konverzácia už je skrátená, od posledného zhrnutia nepribudlo nič nové.

Keď skrátenie zlyhá

Neúspešné skrátenie to ohlási a nič nezmení. Po niekoľkých automatických zlyhaniach za sebou Chetty v danej konverzácii prestane skúšať automaticky a prepis vysvetlí, o ktorú situáciu ide:

Zhrnutie sa nepodarilo vytvoriť, takže automatické skrátenie je v tejto konverzácii pozastavené.
Konverzácia aj po skrátení meria nad svojím prahom.

/compact môžete kedykoľvek spustiť sami, alebo začať novú konverzáciu, čo je spoľahlivé riešenie konverzácie, ktorú už skrátiť nemožno.

Administrátor: Nastavenia → <assistant name> AI → Limity obsahuje Limit neúspešných skrátení kontextu (1–10, predvolené 3), teda počet automatických zlyhaní za sebou, ktorý skrátenie pozastaví, a Opakovanie zhrnutia kontextu (0–5, predvolené 2), teda koľkokrát sa požiadavka na zhrnutie pošle znova po prechodnej chybe alebo odmietnutej odpovedi, kým Chetty prejde na svoje vstavané zhrnutie.

Poznámka: Keď sa vrátite do konverzácie, ktorej uložený kontext preukázateľne vypršal, môže ju Chetty na začiatku ťahu skrátiť, ale iba keď je skrátenie lacnejšie než znova načítať celú históriu. Nič sa neskracuje pri konverzácii, do ktorej sa nikto nevracia, a nikdy pri vypnutom automatickom skrátení.

Pokračujte s Výpadok vyrovnávacej pamäte promptu, Odstránenie posledných správ krokom späť a Keď je konverzácia dlhá alebo prerušená.