OpenAI radí, jak vybrat GPT-6 a ušetřit na API
Nejdražší model nemusí být tím správným pro každou úlohu. Tuto myšlenku rozvádí průvodce, v němž OpenAI vysvětluje, jak z rodiny GPT-6 vybrat model pro konkrétní práci.
Nejdražší model nemusí být tím správným pro každou úlohu. Tuto myšlenku rozvádí průvodce, v němž OpenAI vysvětluje, jak z rodiny GPT-6 vybrat model pro konkrétní práci.
Nejlepší model na žebříčku nemusí být tím správným pro váš provoz. OpenRouter ve svém návodu doporučuje položit jinou otázku: ne který model dosahuje nejvyššího skóre, ale který je nejlevnější a pro daný úkol ještě dost dobrý.
Claude Desktop běžící na Amazon Bedrock umí odpovídat jen z toho, co se naučil při trénování. Podle AWS si proto nedokáže sám zjistit nové aktualizace dokumentace, živé ceny ani počasí.
Agent, který volá nástroje, v jádru není nic magického: je to cyklus. Podle návodu OpenRouteru smyčka znovu a znovu posílá modelu konverzaci i seznam dostupných nástrojů, provádí volání, která si model vyžádal, přidává výsledky do historie a ptá se, co dál.
Tým AWS Machine Learning Blog v technickém návodu předvádí, jak postavit konverzačního asistenta pro pojistná plnění nad službou Amazon Bedrock Knowledge Bases. Asistent odpovídá na dotazy v přirozeném jazyce a ke každé odpovědi přikládá citace.
Agent, který má volat nástroje, může selhat nenápadně. Vybere špatný nástroj, nebo vybere správný a předá mu chybné argumenty.
Blog AWS popisuje, jak použít Amazon S3 Vectors jako vrstvu trvalé paměti v NVIDIA NeMo Agent Toolkitu (NAT), který běží na Amazon EKS. Podle autorů tak provozní tým získá plnou kontrolu nad provozem.
Agent může projít všemi deterministickými testy a přesto dát špatnou odpověď. Podle návodu OpenRouter například zavolá správný nástroj pro vyhledání objednávky, načte správnou politiku vrácení peněz a ve finální zprávě pak vynechá lhůtu, na které zákazníkovi nejvíc záleží.