Přejít na obsah

AWS

Novinky 7 min čtení

Ray LLM DLC nasadí model na dvou GPU uzlech v EKS

Amazon Web Services zveřejnilo na svém blogu o umělé inteligenci návod, jak provozovat velký jazykový model (LLM) rozložený na více výpočetních uzlech. Příspěvek ukazuje nasazení jednoho takového modelu na dvou GPU uzlech ve službě Amazon EKS, tedy v řízeném prostředí Kubernetes od AWS.

Nástroje 5 min čtení

Hlasový asistent pro aerolinky na AWS a Nova Sonic

Společnost AWS představila způsob, jak do aplikací leteckých společností integrovat pokročilého hlasového cestovního asistenta. Tento systém využívá kombinaci tří spravovaných služeb, konkrétně Amazon Bedrock AgentCore, Amazon Nova Sonic a Amazon Bedrock Knowledge Bases, což umožňuje vytvořit komplexní vrstvu pro hlasové interakce přímo v mobilním rozhraní c1.

Nástroje 7 min čtení

AWS učí kódovací agenty testovat inferenci

Amazon Web Services rozšířil službu SageMaker AI optimized generative AI inference o dovednost nazvanou aws-ai-ml. Podle AWS je dostupná přes Agent Toolkit for AWS a míří na vývojáře, kteří už používají kódovacího agenta, tedy program s umělou inteligencí, který za ně píše a spouští kód.