Co AI skutečně umí a kolik stojí její provoz

Pohledem na to, co umělá inteligence skutečně dokáže a kde zatím naráží na své limity, zahájí konferenci Umělá inteligence v IT infrastruktuře 2026 Jiří Fabián, co-CEO a zakladatel české softwarové společnosti TopMonks. Z pohledu vývoje softwaru ukáže, které AI nástroje skutečně fungují v ostrém provozu a co zatím zůstává spíše drahým experimentem. Nastíní také další vývoj AI a změny, které lze očekávat v následujících letech.

O praktické zkušenosti s provozem a laděním otevřených velkých jazykových modelů se podělí Robert Mitka, který zodpovídá za vývoj AI a OTT služeb v Českých Radiokomunikacích. Představí možnosti nasazení AI od vlastní infrastruktury po lokální cloud, který kombinuje výkon, bezpečnost a českou podporu. Na praktických ukázkách předvede využití vybraných open source modelů a přiblíží také možnosti pronájmu výpočetního výkonu GPU a modelů.

S rostoucím využíváním AI při vývoji softwaru se vedle produktivity do popředí dostávají i otázky nákladové efektivity používání modelů a ochrany zdrojového kódu, který patří k nejcitlivějším firemním datům. Jak rozdělit vývojářské úlohy mezi lokální modely na vlastní infrastruktuře a externí AI služby podle jejich náročnosti a požadavků na bezpečnost vysvětlí Ladislav Šolc, spoluzakladatel a výkonný ředitel společnosti thinkprivate.ai. Ukáže, co lokální modely zvládnou a kde selhávají, a jak centrálně řídit nejen bezpečnost a firemní standardy, ale také náklady. Na náklady spojené s pořízením a provozem AI infrastruktury se zaměří i Jan Petrák, technický ředitel společnosti Abacus Electric. Objasní, jak volit serverové vybavení podle konkrétního způsobu využití AI a jak při výběru infrastruktury zohlednit požadavky na výkon i rozpočet.

Infrastruktura a provoz podnikové AI

Důležitou součástí AI infrastruktury je datové úložiště a jeho propojení s výpočetními zdroji. Jak úložiště s pokročilým výpočetním výkonem zrychluje trénování modelů, zjednodušuje inferenci a umožňuje efektivní využití dat napříč hybridním cloudem, vysvětlí konzultant pro datová centra společnosti ALEF David Rusín. Věnovat se bude také odstraňování datových úzkých hrdel, správě dat během celého jejich životního cyklu a ochraně citlivých informací i samotných AI modelů.

Velké jazykové modely přinášejí firmám největší hodnotu tehdy, když dokážou pracovat s interními daty. To však klade vysoké nároky na ochranu citlivých informací a řízení přístupových práv. Možnosti provozu AI asistenta ve vlastní infrastruktuře organizace přiblíží Peter Brťka, CTO společnosti Asseco CE Cloud. Popíše architekturu řešení, integraci interních systémů, kontextovou vrstvu založenou na open source technologiích, práci se znalostním grafem a využití lokálně provozovaných jazykových modelů. Věnovat se bude také zabezpečení, ochraně před manipulativními vstupy do AI a auditovatelnosti řešení.

S rostoucím počtem AI modelů a aplikací roste potřeba jejich provoz, zabezpečení i náklady efektivně řídit. Jak tyto požadavky řešit, vysvětlí Filip Mikulík, infrastrukturní systémový inženýr společnosti Arrow. Ukáže, jak získat přehled o provozu AI aplikací, lépe využívat výkon GPU a díky inteligentní cache snížit náklady na tokeny až o 90 %.

AI potřebuje řízení, zároveň ale může sama správu IT infrastruktury usnadnit. Specialistům dokáže ušetřit čas při rutinních úkolech a analýze bezpečnostních událostí. Umí rychle vyhledávat v auditních záznamech, spojovat stovky bezpečnostních upozornění do jednoho incidentu, identifikovat podezřelé změny v kódu nebo sestavit časovou osu útoku z dat napříč sítí, Active Directory a cloudem. Kde lze AI svěřit automatizaci, kde je nutné její výstupy důsledně ověřovat a proč by některá rozhodnutí měla zůstat v rukou lidí, poradí Július Kürthy, spoluzakladatel a Tech Lead ve společnosti Legal Tech Factory Europe.

Jak orchestrovat a zabezpečit kontejnerizované aplikace i aplikace založené na autonomních agentech v produkčním prostředí, pak popíše DevOps inženýr společnosti WESECON Holding Jan Černoch společně s Lukášem Laurynem ze společnosti SUSE. Zaměří se také na datovou suverenitu, ochranu citlivých informací a propojení klasické IT infrastruktury s autonomními agenty tak, aby celý ekosystém zůstal stabilní, transparentní a pod kontrolou organizace.

Umělou inteligenci už ve svých procesech využívají také banky, pojišťovny a další silně regulované organizace. V těchto prostředích však nestačí, aby AI model pouze poskytoval přesné výsledky. Organizace potřebují mít pod kontrolou celý životní cyklus AI modelu, od původu použitých dat, přes schválení a reprodukovatelnost výsledků až po samotný provoz. Jak na to, ukáže na příkladu reálného projektu klasifikace textu Lukáš Smiga, DevOps architekt a evangelista ze společnosti ELOS Technologies. Popíše jednotlivé fáze práce s modelem včetně sledování experimentů, registru modelů, ML pipelines a řízeného nasazování do produkčního prostředí. Upozorní také na procesy, které je nutné zajistit nad rámec samotné platformy.

AI hrozby vs. AI obrana

Na současná bezpečnostní rizika spojená s využíváním AI se pohledem ze tří úhlů zaměří bezpečnostní inženýr společnosti TrendAI Filip Marvan. Nasvítí útoky, při nichž útočníci využívají AI k automatizaci a vyhledávání zranitelností, zneužívání samotných AI nástrojů ke škodlivému jednání nebo krádeži citlivých dat a rizika spojená s jejich běžným nasazením ve firmách.

S tím, jak umělá inteligence mění podobu kybernetických útoků, se mění i požadavky na účinnou komplexní obranu. Proč už nestačí samotná reakce na incidenty a jak lze umělou inteligenci využít k ochraně v průběhu celého životního cyklu hrozeb, vysvětlí na konkrétním příkladu bezpečnostní specialista společnosti Bitdefender Pavel Škorpil.

AI nástroje v cloudu i ve vlastní infrastruktuře přinášejí organizacím nové možnosti, zároveň však útočníkům umožňují přizpůsobovat taktiku útoku v reálném čase podle stavu napadeného prostředí. Jak těmto AI adaptivním hrozbám čelit pomocí dynamické kybernetické obrany, která dokáže útoky nejen detekovat a analyzovat, ale také na ně průběžně reagovat, představí CEO společnosti Novicom Jindřich Šavel.

Odborná konference Umělá inteligence v IT infrastruktuře se koná prezenčně 10. listopadu 2026 od 9:00 do 16:20 hodin v pražském hotelu Grandior a je určena jak IT profesionálům a IT manažerům, tak zástupcům organizací ze soukromého i veřejného sektoru, kteří využívají nebo plánují využívat AI ve své firemní infrastruktuře. Více informací a registrace.