HPE Private Cloud AI: Ověřte AI scénář spolu s TD SYNNEX
Nasazení umělé inteligence dnes řeší firmy napříč obory i velikostmi. Snadno se ale mohou dostat do pasti zdlouhavého testování. Týmy mohou strávit stovky hodin laděním infrastruktury nebo ověřováním kompatibility jednotlivých komponent. Výsledkem pak může být nákladný polotovar s nejistým přínosem pro každodenní provoz. Přímočařejší cestu od ověření konkrétního scénáře k produkčnímu nasazení nabízí HPE Private Cloud AI.
Řešení HPE Private Cloud AI funguje jako hotová platforma, která nabízí cloudovou zkušenost v on-premise prostředí. Partneři TD SYNNEX mají možnost společně se svými zákazníky ověřit funkčnost konkrétních use casů ještě předtím, než začnou společně budovat vlastní AI prostředí.
HPE Private Cloud AI kombinuje vývojové a inferenční prostředí, orchestraci, řízené konektory k datům, nástrojům a API i jednotnou správu celého životního cyklu AI služeb. Součástí jsou také zásady, řízení přístupů, logování a audit. Platformu lze nasadit v různých velikostech, začít tak podle aktuálních potřeb a výkon rozšiřovat se zvyšováním počtu uživatelů, objemu dat i AI scénářů.
AI asistent, který pracuje s firemními daty
Jedním z typických scénářů je interní AI asistent, který pomáhá zaměstnancům rychle vyhledávat informace ve směrnicích, technické dokumentaci, servisních postupech nebo znalostní bázi podpory. V Demo Labu mohou partneři se zákazníkem ověřit, jak by takový asistent fungoval v praxi. Předpřipravené služby NVIDIA AI Enterprise umožňují rychle nasadit jazykový model a propojit jej s vybranými interními zdroji. Pomocí RAG se dokumenty zpracují a indexují, takže asistent při odpovědích vyhledává relevantní pasáže ve firemní znalostní bázi a využívá je jako kontext. Uživatel pak komunikuje v přirozeném chatovacím rozhraní podobném známým veřejným AI službám.

Součástí testu může být také nastavení pravidel pro bezpečné používání. Je možné si tak ověřit, že asistent pracuje jen s dokumenty, ke kterým má daný uživatel oprávnění, a odmítne dotazy mimo vymezený účel – například otázku, kdo v IT oddělení pobírá nejvyšší mzdu. Ve spolupráci s inženýry TD SYNNEX si lze vyzkoušet optimalizaci nastavení modelů nebo jemné ladění pomocí LoRA adaptérů a navrhnout ideální architekturu pro potřeby konkrétních společností. Důležité je, že lze všechny funkce vyzkoušet dříve, než padne jakékoliv investiční rozhodnutí.
Demo Lab TD SYNNEX využívá konfiguraci HPE Private Cloud AI Developer System postavenou na serveru HPE ProLiant Gen12 se dvěma GPU NVIDIA RTX Pro 6000 Blackwell Server Edition. K dispozici je 22 TB úložného prostoru a kompletní softwarový stack HPE AI Essentials včetně mikroslužeb NVIDIA NIM.

Platformu HPE Private Cloud AI lze dodat jako hotový celek v několika různých konfiguracích podle potřeb konkrétních organizací. Je možnost využít procesory Intel Xeon s až 64 jádry. Vyšší konfigurace mohou využívat akcelerátory NVIDIA H200. Větší konfigurace používají 400GbE síťovou infrastrukturu se switchemi NVIDIA SN4700M, která zajišťuje vysokou propustnost pro propojení výpočetních uzlů a úložiště při náročnějších AI zátěžích.
Data neopouštějí firemní prostředí
Jednou z důležitých vlastností on-premise infrastruktury je kontrola nad firemními daty. Pro firmy z vysoce regulovaných odvětví lze ve variantách Medium a Large využít možnost plnohodnotného izolovaného nasazení (Air-Gapped Deployment). Takové prostředí funguje bez přímého připojení k veřejnému internetu a externím sítím.
Finanční stránka plně pod kontrolou
Provozování náročných algoritmů v cloudu často přináší skrytá finanční překvapení v podobě poplatků za datové přenosy. HPE GreenLake umožňuje využívat infrastrukturu HPE Private Cloud AI tak, že firmy platí pouze za skutečně využitý výkon. Moderní all-flash úložiště HPE Alletra Storage MP X10000 File and Object Storage zajišťuje, že data pro AI pipelines jsou distribuována s maximální rychlostí.
Neplýtvejte časem na experimenty s nejistým výsledkem. Spojte se s námi, zarezervujte si termín v našem Demo Labu a přeneste své AI projekty do reálného světa.
Autor: Aleš Čáp – Solutions Architect, TD SYNNEX Czech s.r.o.
Profilová karta firmy
TD SYNNEX
Společnost TD SYNNEX je jedním z největších celosvětových distributorů informačních technologií. Pomáháme společnostem jako HP, Dell, IBM, Microsoft — a stovkám dalších — uvádíme jejich produkty na trh a nabízíme širokou řadu služeb technické a prodejní podpory.
Pro naše obchodní partnery zajišťujeme certifikace, školení, instruktáže, podporu a pomáháme jim provádět konfigurace, instalace a financování zakoupených řešení. Mnoho hardwarových i softwarových řešení, která používáme každý…
Více informací na profilové kartě společnosti