Výběr AI modelu
Kanbu umožňuje zvolit AI model který agent používá pro generování odpovědí. Různé modely se liší přesností, rychlostí a náklady. Nastavení je dostupné v sekci Pokročilé nastavení v Konfiguraci.
Změna modelu je pokročilé nastavení. Výchozí model je nastavený tak aby fungoval dobře pro většinu případů — měňte ho pouze pokud máte konkrétní důvod.
1. Jak na to
- V levém menu pod vybraným agentem klikněte na Konfigurace.
- Rozbalte sekci Pokročilé nastavení.
- Ve výběru Model zvolte požadovaný model.
- Volitelně nastavte také Malý model — ten se používá pro jednodušší dotazy a pomáhá snižovat náklady.
- Klikněte na Uložit.
- Ověřte v Playgroundu — vyzkoušejte reálné dotazy.
2. Jak vybrat model
Aktuální přehled dostupných modelů včetně jejich vlastností a cen najdete přímo v aplikaci — klikněte na odkaz Přehled cen a benchmarků otevřených modelů v sekci Pokročilé nastavení.
Obecná doporučení:
- Potřebujete vyšší přesnost nebo komplexnější odpovědi — zvolte výkonnější model (typicky GPT-4 nebo ekvivalent).
- Potřebujete rychlejší odpovědi nebo nižší náklady — zvolte lehčí model (typicky Gemini Flash nebo ekvivalent) jako hlavní nebo malý model.
- E-commerce agent s velkým katalogem produktů — výkonnější model zvládá lépe porovnávání a filtrování produktů.
Časté otázky
-
Co je malý model?
Malý model se používá pro jednodušší dotazy kde není potřeba plný výkon hlavního modelu. Snižuje náklady bez výrazného dopadu na kvalitu odpovědí u rutinních otázek.
-
Ovlivní změna modelu zpětně historické konverzace?
Ne, změna modelu se projeví pouze na nových konverzacích.