Když vyjde nový jazykový model, firmy se ho obvykle nemohou hned dotknout. Musí ho připojit, otestovat a teprve pak zjistí, jestli se vyplatí.

Jazykový model, který umí nejen psát, ale i spouštět příkazy, potřebuje bezpečné prostředí, kde se nic nepokazí. Takovému prostředí se říká sandbox: oddělený kontejner, ve kterém může příkaz běžet, aniž by sahal na zbytek systému.

Nejlepší model na žebříčku nemusí být tím správným pro váš provoz. OpenRouter ve svém návodu doporučuje položit jinou otázku: ne který model dosahuje nejvyššího skóre, ale který je nejlevnější a pro daný úkol ještě dost dobrý.

Agent, který volá nástroje, v jádru není nic magického: je to cyklus. Podle návodu OpenRouteru smyčka znovu a znovu posílá modelu konverzaci i seznam dostupných nástrojů, provádí volání, která si model vyžádal, přidává výsledky do historie a ptá se, co dál.

Agent, který má volat nástroje, může selhat nenápadně. Vybere špatný nástroj, nebo vybere správný a předá mu chybné argumenty.

Většina práce AI agentů není hluboké přemýšlení. Jsou to desítky drobných kroků: vybrat nástroj, sestavit argumenty, zkontrolovat výsledek, upravit soubor nebo rozhodnout, co dál.

Agent může projít všemi deterministickými testy a přesto dát špatnou odpověď. Podle návodu OpenRouter například zavolá správný nástroj pro vyhledání objednávky, načte správnou politiku vrácení peněz a ve finální zprávě pak vynechá lhůtu, na které zákazníkovi nejvíc záleží.