Voľba a nastavenia modelov
Určte, ktorý model odpovedá v predvolenom stave, ktorý sa stará o prevádzkové úlohy, a čo si jednotlivé účty smú vybrať.
Voľba a prepínanie modelov
Model je určený poskytovateľom a ID modelu v tvare <provider>/<model>. Uložená voľba sa obnoví, kým je táto dvojica nastavená a povolená.
Ak dvojica prestane byť dostupná, Chetty použije predvolenú hodnotu platnú pre Projekt, účet alebo server. Ticho neprejde na rovnaké ID modelu u iného poskytovateľa.
Voľba modelu nemení Váš Projekt, nástroje, pluginy, identitu pamäte ani oprávnenia.
Nastavenie rolí inštancie
Nastavenia → Modely → Roly modelov určuje, ktorý model čo robí pre celú inštanciu.
| Rola | Čo robí |
|---|---|
| Predvolený model konverzácie | Čím konverzácia začína, keď účet nemá vlastnú voľbu. Ukladá sa nezávisle od poskytovateľa a poradia katalógu a oprávnenia účtu stále platia. |
| Pomocný model | Píše názvy konverzácií a spracúva dlhodobé pamäte. |
| Model denného prehľadu | Píše denné zhrnutie na Prehľad. Dedicuje pomocný model, ak nenastavíte iný. |
Ak uložený predvolený model prestane byť dostupný, riadok ho zobrazuje ako nedostupný a konverzácie použijú existujúci záložný povolený model. Opätovné pripojenie poskytovateľa Vašu voľbu neprepíše.
Správa katalógu
Nastavenia → Modely obsahuje katalóg: ktoré modely existujú, prepisy veľkosti kontextu a limity výstupu jednotlivých modelov. Obnoviť katalóg ho znova načíta z poskytovateľov.
- Automaticky zistený katalóg ponechá len modely hlásené s textovým výstupom a vynechá bezplatné varianty
:freeod OpenRoutera. - Model, ktorý administrátor vypíše ručne, zostáva bez ohľadu na hlásený druh.
Veľkosť kontextu pochádza z informácií poskytovateľa alebo z prepisu administrátora. Vstup a výstup zdieľajú okno; Chetty necháva miesto pre prompt a používa 8 192 výstupných tokenov, keď nie je limit zadaný.
Osobné nastavenia modelov
Každý účet si v Účet → Modely nastavuje vlastné modely pre chat, obrázky a skracovanie kontextu a jeho predvolená voľba tam určuje, čím nové konverzácie začínajú. Administrátori môžu používať katalóg inštancie; ostatné účty smú voliť len modely, ktoré administrátor povolí a ktoré dovoľuje ich vlastná politika.
- Vo webovom chate použite prepínač modelu v stavovom riadku.
- V
elowen chatotvorí/modelprepínač a/model <model>prepne priamo. Ctrl+P vnútri prepínača otvorí správu poskytovateľov. - Účet → Modely tiež nastavuje prah skrátenia pre jednotlivé modely vedľa globálneho.
Tip: Rovnaký prepínač nastavuje úroveň uvažovania a rýchly režim. Prečítajte si Model a úroveň uvažovania.