Zlatá evalační sada je kurátorovaný soubor vstupů z reálného provozu, které jsou spárovány s ověřenými očekávanými výstupy. Sada je verzována v systému Git a spouští se před každým nasazením jako regresní test chování modelu.
Microsoftův nástroj ThinkingBox hodnotí agenty umělé inteligence podle záznamů, které po sobě zanechají v backendu, tedy v datech podnikového systému. Věty, kterými agent oznámí hotovou práci, jsou pro hodnocení druhořadé.
Chatbot může odpovědět plynule a přesto selhat. U AI agentů, kteří sami volí nástroje a spouštějí vícekrokové postupy, je to ještě důležitější, protože chyba se může skrýt v kterémkoli kroku.
Když vyjde nový jazykový model, firmy se ho obvykle nemohou hned dotknout. Musí ho připojit, otestovat a teprve pak zjistí, jestli se vyplatí.
Nejlepší model na žebříčku nemusí být tím správným pro váš provoz. OpenRouter ve svém návodu doporučuje položit jinou otázku: ne který model dosahuje nejvyššího skóre, ale který je nejlevnější a pro daný úkol ještě dost dobrý.
Agent, který má volat nástroje, může selhat nenápadně. Vybere špatný nástroj, nebo vybere správný a předá mu chybné argumenty.
Agent může projít všemi deterministickými testy a přesto dát špatnou odpověď. Podle návodu OpenRouter například zavolá správný nástroj pro vyhledání objednávky, načte správnou politiku vrácení peněz a ve finální zprávě pak vynechá lhůtu, na které zákazníkovi nejvíc záleží.
NVIDIA zveřejnila na GitHubu sadu nazvanou DOCA AI agent skills. Podle firmy má AI agentům při vývoji na platformě DOCA poskytnout ověřené podpisy API, požadavky na hardwarové schopnosti a omezení při sestavování kódu.
Hodnocení agentů umělé inteligence se podle autorů blogu NVIDIA muselo posunout od posuzování jednoho volání funkce k posuzování celého úkolu. Při nasazení agenta je podle nich klíčové, zda zvládne řetěz práce přes desítky po sobě jdoucích volání nástrojů v živém prostředí.
Podle autorů NeMo Relay poskytuje jednotný způsob, jak zaznamenávat podklady pro vyhodnocení změn v agentním harnessu. ATOF uchovává uspořádané události životního cyklu a ATIF zobrazuje stejný běh jako čitelnou trajektorii.
