Výběr výchozích modelů
Nastavte model, úsilí a záložní volby, se kterými začínají Vaše konverzace, aniž byste měnili to, co používá někdo jiný.
Hlavní model
- Otevřete Účet → Modely.
- Zvolte model u Hlavní model. Volbou Zděděno místo toho převezmete výchozí model instance.
- Otevřete jinou konverzaci a pošlete zprávu. Nová konverzace použije Vaši volbu.
Každá konverzace bez vlastního modelu začíná tímto modelem. Konverzace si zvolený model drží i při opětovném připojení a přepnutí modelu uvnitř konverzace pomocí výběru nebo /model platí jen pro ni.
Nová volba se do běžící konverzace dostane při jejím dalším spuštění, takže už probíhající tah dokončí model, se kterým začal.
Pokud model přepnete při práci v Git projektu, Chetty si volbu pro tento projekt zapamatuje a použije ji v dalších konverzacích tam. Zrušením volby projektu se vrátíte k hlavnímu modelu.
Poznámka: Model, který není dostupný nebo už není povolený, nahradí vhodný výchozí model projektu, účtu nebo serveru. Chetty neohlásí model, na který se nedostane.
Úroveň uvažování
Úroveň uvažování určuje, kolik práce model před odpovědí udělá. Nabízené úrovně závisí na zvoleném modelu a Výchozí nechává volbu na modelu.
Vyšší úsilí může trvat déle a spotřebovat více tokenů. Uloženou úroveň, kterou nový model nepodporuje, Chetty při změně modelu vymaže, takže nikdy nezůstanete na nastavení, které model neumí splnit.
Záložní model pro obrázky
Záložní model pro obrázky zpracuje zprávy s obrázky, když je Váš chatový model přečíst neumí. Ponechte zděděnou volbu, aby se použil hlavní model; když tento model obrázky číst neumí, Chetty to u volby napíše a obrázek se nezpracuje.
Tah s obrázkem použije záložní model a další tah jen s textem se vrátí k běžnému modelu.
Rychlý režim
Rychlý režim žádá poskytovatele o prioritní zpracování a volí se pro každý model, ne pro celý účet. Nabízejí se jen modely, jejichž poskytovatel ho podporuje:
- Přihlášení ChatGPT, API klíče OpenAI a Azure OpenAI a API klíče Anthropic.
- Pro modely, které katalog označuje jako podporující Fast.
- Nikdy modely na předplatném Claude.
Seznam sleduje katalog modelů, takže nově přidaný model se objeví po obnovení katalogu. Model, který jste nezvolili, Fast nikdy nepoužije.
Stavový řádek zobrazuje FAST jen tehdy, když ho má zapnutý model aktuální konverzace. /fast ho přepíná jen pro model aktuální konverzace a řekne, když ho tento model nepodporuje. Běžící konverzace převezmou změněnou volbu při dalším požadavku na poskytovatele.
Když žádný z Vašich modelů nevyhovuje, řádek uvádí, že rychlý režim není pro Vaše modely dostupný, a jmenuje typy připojení, které by ho zpřístupnily.
Automatické zkracování kontextu
Když se konverzace blíží limitu kontextu, Chetty shrne starší kontext, aby uvolnil místo.
- Automaticky zkracovat kontext je ve výchozím nastavení zapnuté.
- Zkrátit při zaplnění kontextu nastavuje práh v procentech. Výchozí je 80 % a přijímají se hodnoty 30–95 %.
- Zkrácení kontextu podle modelu dá vybraným modelům vlastní práh, protože stejné procento je pro každý model jiné množství textu.
- Model pro zkrácení kontextu volí model, který píše shrnutí, včetně
/compact.
Nechte Model pro zkrácení kontextu prázdný a každý poskytovatel použije model konverzace, včetně přihlášení ChatGPT, takže shrnutí může znovu použít už uložený kontext. Nedostupná nebo odvolaná volba se také vrátí k modelu konverzace.
Zkracování platí pro existující i nové konverzace. Konverzace v kanálu má automatické zkracování zapnuté a používá práh účtu, za který vystupuje. Co zkrácení zachová a co vypustí, popisuje návod Mozek a chat.
Když model zmizí
Odpojený poskytovatel, skončené předplatné nebo model odstraněný z katalogu mohou Vaši volbu vyprázdnit. Chetty se pak vrátí k výchozímu modelu, jak je popsáno výše, a ostatní nastavení zachová; až si toho všimnete, zvolte nový výchozí model.