Na summitu AI in Finance Summit společnost Broadcom představila základy agentů platformy VMware Tanzu a pozicionovala ji jako zabezpečený běhový modul pro vytváření a provoz autonomních aplikací s umělou inteligencí na platformě VMware Cloud Foundation (VCF). Tato verze rozšiřuje zavedený model Tanzu „code-to-production“ na agenty s umělou inteligencí a cílí na podnikové týmy, které chtějí přejít od izolovaných experimentů s umělou inteligencí k řízeným nasazením v produkčním měřítku.
Přesun agentů umělé inteligence do podnikových operací
S tím, jak agenti umělé inteligence přebírají role v provádění a rozhodování, se provozní požadavky posouvají směrem k řízení, zabezpečení a integraci s podnikovými systémy. Mnoho organizací stále provozuje úlohy umělé inteligence v izolovaných prostředích, která nemají přístup k základním datům a standardizovaným kontrolním mechanismům.
Agentské základy platformy Tanzu řeší tuto mezeru tím, že poskytují předpřipravenou vrstvu platformy jako služby (PAT) pro úlohy agentů, postavenou přímo na VCF. To umožňuje týmům vývojářů platformy spravovat služby umělé inteligence vedle tradičních aplikací se známými nástroji a procesy, aniž by bylo nutné hluboce specializovat se na infrastrukturu umělé inteligence.
Běhové prostředí agenta Deny-by-Default
Agentní běhové prostředí zavádí sadu ovládacích prvků, které omezují chování agentů a snižují provozní riziko.
Dodavatelský řetězec softwaru je spravován pomocí důvěryhodných balíčků Buildpack, nikoli uživatelem definovaných souborů Dockerfile. Kontejnery jsou automaticky sestavovány, opravovány a ověřovány, což snižuje riziko vnořených zranitelností nebo škodlivých komponent.
Správa tajných údajů je vynucována na strukturální úrovni, což brání agentům v přístupu k přihlašovacím údajům mimo jejich oblast působnosti. Tuto izolaci posiluje VMware vDefend, který rozšiřuje ochranu napříč infrastrukturními službami a externími integracemi SaaS, čímž omezuje laterální pohyb.
Síťování používá model nulové důvěryhodnosti. Agenti pracují v rámci předem definovaných hranic zdrojů a konektivity a nemají žádný výchozí přístup k interním systémům nebo modelům. Přístup je explicitně udělen prostřednictvím zabezpečených vazeb služeb, což zajišťuje, že agenti interagují pouze s autorizovanými zdroji dat a službami.
Nástup vývojářů a integrované datové služby
Platforma obsahuje předpřipravené šablony agentů pro urychlení zavádění. Vývojáři mohou agentům poskytnout řízený přístup k modelům, serverům Model Context Protocol a spravovaným službám tržiště definovaným IT oddělením.
Do platformy jsou integrovány datové služby, včetně Tanzu pro Postgres s pgvector, a také služby pro ukládání do mezipaměti, streamování a tok dat. Podpora paměťových služeb Spring AI umožňuje chování stavových agentů, které je v souladu se vzory podnikových aplikací.
Provozní škálování na VMware Cloud Foundation
Agentské základy platformy Tanzu se integrují s API infrastruktury VCF, což umožňuje abstrahovat přidělování zdrojů a správu životního cyklu. To zajišťuje, že úlohy agentů a jejich závislosti obdrží potřebné výpočetní, úložné a síťové zdroje bez přímé interakce s infrastrukturou.
Elastické škálování umožňuje prostředím škálovat se nahoru nebo dolů na základě požadavků na pracovní zátěž, a podporuje tak krátkodobé i trvalé agenty a zároveň optimalizuje náklady a využití.
Vysoké dostupnosti je dosaženo díky více vrstvám redundance a automatizované nápravy. Platforma nepřetržitě monitoruje a samoopravuje podkladovou infrastrukturu, aby byla zachována kontinuita služeb pro autonomní aplikace, které jsou klíčové.
Integrovaná brána umělé inteligence poskytuje centralizovanou kontrolu přístupu k modelům a nástrojům. Spravuje dostupnost, zásady použití, kontrolu nákladů a bezpečnostní filtrování pro veřejné i soukromé modely na VCF.
Podle Purnimy Padmanabhan, generální ředitelky divize Tanzu ve společnosti Broadcom, rychlý vývoj agentních aplikací podporuje spolupráci se zákazníky a urychluje inovace. Zdůrazňuje, že agentní základy platformy Tanzu umožňují rychlé nasazení agentních nápadů v moderních privátních cloudech, konkrétně s využitím VMware Cloud Foundation 9.
Díky agentovým základům společnost Broadcom slaďuje platformu Tanzu s nově vznikajícími požadavky podniků na umělou inteligenci se zaměřením na správu, bezpečnost a provozní konzistenci. Tento přístup staví na stávajících investicích do infrastruktury VMware a zavádí standardizované běhové prostředí pro aplikace založené na agentech, díky čemuž je nasazení umělé inteligence ve velkém měřítku předvídatelnější a spravovatelnější.
Amazon