Amazon Web Services rozšířil službu SageMaker AI optimized generative AI inference o dovednost nazvanou aws-ai-ml. Podle AWS je dostupná přes Agent Toolkit for AWS a míří na vývojáře, kteří už používají kódovacího agenta, tedy program s umělou inteligencí, který za ně píše a spouští kód.
Chatbot může odpovědět plynule a přesto selhat. U AI agentů, kteří sami volí nástroje a spouštějí vícekrokové postupy, je to ještě důležitější, protože chyba se může skrýt v kterémkoli kroku.
Autonomní AI agenti mohou překročit meze, které jim někdo určil. NVIDIA na to reaguje platformou Open Agent Safety Platform, otevřeným souborem vrstev pro bezpečnost agentů.
Když vyjde nový jazykový model, firmy se ho obvykle nemohou hned dotknout. Musí ho připojit, otestovat a teprve pak zjistí, jestli se vyplatí.
Služba Engram od Weaviate má agentům dávat dlouhodobou paměť. Weaviate o ní tvrdí, že po úvodním nastavení funguje i s výchozími hodnotami.
Jazykový model, který umí nejen psát, ale i spouštět příkazy, potřebuje bezpečné prostředí, kde se nic nepokazí. Takovému prostředí se říká sandbox: oddělený kontejner, ve kterém může příkaz běžet, aniž by sahal na zbytek systému.
Firmy, které ve vývojovém účtu odladí agenty, konektory a znalostní báze v Amazon Quick, je dosud musely do dalšího účtu přenášet ručně. AWS proto představilo ukázkový server Quick Resource Migrator.
Zdánlivě jednoduchý požadavek na podpůrného asistenta, třeba porovnání dvou produktů ve třech ohledech, v sobě skrývá šest samostatných otázek. Právě tady podle autorů z AWS narážejí aplikace postavené na generování doplněném vyhledáváním (RAG), tedy na kombinaci vyhledávače a jazykového modelu.
Tým ServiceNow CoreAI vyvinul nástroj AutoSynthData, který mění mezery ve schopnostech agenta v konkrétním podnikovém prostředí na trénovací data. K tomu využívá selhání cílového modelu a zároveň úspěchy silnějšího učitelského modelu.
Nejlepší model na žebříčku nemusí být tím správným pro váš provoz. OpenRouter ve svém návodu doporučuje položit jinou otázku: ne který model dosahuje nejvyššího skóre, ale který je nejlevnější a pro daný úkol ještě dost dobrý.
