Výber predvolených modelov
Nastavte model, úsilie a záložné voľby, s ktorými začínajú Vaše konverzácie, bez toho, aby ste menili to, čo používa niekto iný.
Hlavný model
- Otvorte Účet → Modely.
- Zvoľte model pri Hlavný model. Voľbou Zdedené namiesto toho preberiete predvolený model inštancie.
- Otvorte inú konverzáciu a pošlite správu. Nová konverzácia použije Vašu voľbu.
Každá konverzácia bez vlastného modelu začína týmto modelom. Konverzácia si zvolený model drží aj pri opätovnom pripojení a prepnutie modelu vnútri konverzácie pomocou výberu alebo /model platí len pre ňu.
Nová voľba sa do bežiacej konverzácie dostane pri jej ďalšom spustení, takže už prebiehajúci ťah dokončí model, s ktorým začal.
Ak model prepnete pri práci v Git projekte, Chetty si voľbu pre tento projekt zapamätá a použije ju v ďalších konverzáciách tam. Zrušením voľby projektu sa vrátite k hlavnému modelu.
Poznámka: Model, ktorý nie je dostupný alebo už nie je povolený, nahradí vhodný predvolený model projektu, účtu alebo servera. Chetty neohlási model, na ktorý sa nedostane.
Úroveň uvažovania
Úroveň uvažovania určuje, koľko práce model pred odpoveďou urobí. Ponúkané úrovne závisia od zvoleného modelu a Predvolené necháva voľbu na modeli.
Vyššie úsilie môže trvať dlhšie a spotrebovať viac tokenov. Uloženú úroveň, ktorú nový model nepodporuje, Chetty pri zmene modelu vymaže, takže nikdy nezostanete na nastavení, ktoré model nevie splniť.
Záložný model pre obrázky
Záložný model pre obrázky spracuje správy s obrázkami, keď ich Váš chatový model nevie prečítať. Ponechajte zdedenú voľbu, aby sa použil hlavný model; keď tento model obrázky čítať nevie, Chetty to pri voľbe napíše a obrázok sa nespracuje.
Ťah s obrázkom použije záložný model a ďalší ťah len s textom sa vráti k bežnému modelu.
Rýchly režim
Rýchly režim žiada poskytovateľa o prioritné spracovanie a volí sa pre každý model, nie pre celý účet. Ponúkajú sa len modely, ktorých poskytovateľ ho podporuje:
- Prihlásenie ChatGPT, API kľúče OpenAI a Azure OpenAI a API kľúče Anthropic.
- Pre modely, ktoré katalóg označuje ako podporujúce Fast.
- Nikdy modely na predplatnom Claude.
Zoznam sleduje katalóg modelov, takže novo pridaný model sa objaví po obnovení katalógu. Model, ktorý ste nezvolili, Fast nikdy nepoužije.
Stavový riadok zobrazuje FAST len vtedy, keď ho má zapnutý model aktuálnej konverzácie. /fast ho prepína len pre model aktuálnej konverzácie a povie, keď ho tento model nepodporuje. Bežiace konverzácie preberú zmenenú voľbu pri ďalšej požiadavke na poskytovateľa.
Keď žiadny z Vašich modelov nevyhovuje, riadok uvádza, že rýchly režim nie je pre Vaše modely dostupný, a vymenúva typy pripojení, ktoré by ho sprístupnili.
Automatické skracovanie kontextu
Keď sa konverzácia blíži limitu kontextu, Chetty zhrnie starší kontext, aby uvoľnil miesto.
- Automaticky skracovať kontext je v predvolenom nastavení zapnuté.
- Skrátiť pri naplnení kontextu nastavuje prah v percentách. Predvolený je 80 % a prijímajú sa hodnoty 30–95 %.
- Skrátenie kontextu podľa modelu dá vybraným modelom vlastný prah, pretože rovnaké percento je pre každý model iné množstvo textu.
- Model na skrátenie kontextu volí model, ktorý píše zhrnutia, vrátane
/compact.
Nechajte Model na skrátenie kontextu prázdny a každý poskytovateľ použije model konverzácie, vrátane prihlásenia ChatGPT, takže zhrnutie môže znova použiť už uložený kontext. Nedostupná alebo odvolaná voľba sa tiež vráti k modelu konverzácie.
Skracovanie platí pre existujúce aj nové konverzácie. Konverzácia v kanáli má automatické skracovanie zapnuté a používa prah účtu, za ktorý vystupuje. Čo skrátenie zachová a čo vypustí, opisuje návod Mozog a chat.
Keď model zmizne
Odpojený poskytovateľ, skončené predplatné alebo model odstránený z katalógu môžu Vašu voľbu vyprázdniť. Chetty sa potom vráti k predvolenému modelu, ako je opísané vyššie, a ostatné nastavenia zachová; keď si to všimnete, zvoľte nový predvolený model.