Můžete představit společnost Pointee a čím se zabýváte?

V Pointee s našimi produkty pomáháme firmám postupně zavádět AI automatizaci a udržet ji spolehlivě v provozu. Hlavním pilířem je naše platforma pro automatizaci a orchestraci procesů. Druhým jsou tzv. Guardian Agents – náš automatizovaný dohled nad AI, který detekuje anomálie a reaguje na incidenty dřív, než mají negativní dopad na byznys. Mezi naše zákazníky patří firmy jako AXA, KBC, UNIQA, Raiffeisenbank, ČSOB nebo americká Mutual of Omaha. Platformu distribuujeme primárně skrz naši síť partnerů, kteří k produktu dodávají své služby.

Mnoho firem dnes investuje do automatizace, ale řada projektů nakonec nepřinese očekávané výsledky. Proč podle vás velké automatizační projekty nejčastěji selhávají?

Když projekty selhávají, obvykle je to spíš problém přístupu než technologie. Hlavní důvody neúspěchu vidím tři. První je, že se firmy snaží automatizovat celý proces najednou. Velký projekt, kontrakt na osmnáct měsíců, sto stránek specifikace. Výsledek? Stojí to násobně víc, trvá dvakrát déle a byznys řekne „ale my jsme to tak nemysleli“. Proces, jak ho lidé popisují, není proces, jak reálně běží. Druhým důvodem bývá fakt, že se firmy zamilují do konkrétní technologie, která se však pro daný proces vůbec nemusí hodit. Výsledek je pak příliš nákladný nebo nespolehlivý. Třetím důvodem bývá chybějící provozní vrstva. V pilotním projektu to funguje, ale v 24/7 provozu pak nikdo neví, co se v procesu děje, kolik co stojí apod. Většina nepovedených projektů reálně neselhává v pilotu, ale až po nasazení do produkce a během škálování.

Jaký přístup je tedy podle vás efektivnější?

My naši platformu stavíme tak, aby se dalo automatizovat postupně, a udržet tak celý proces pod kontrolou. Krok jedna je podle reálných dat namapovat, jak proces běží dnes. Najednou vidíte, že 60 % případů jde standardní cestou, 30 % má odchylky a 10 % je úplně mimo dokumentaci, nebo to, o čem vám povědí lidé ve firmě. Už tento krok má potenciál přinést velké optimalizace a byznysu dá konečně vhled do toho, co se v procesu děje. V dalším kroku postupně identifikujeme příležitosti k automatizaci s nejvyšším ROI. No a poté už zbývá jen proces zautomatizovat – opět postupně, krok za krokem, a ideálně takovou technologií, která pro danou část procesu dává největší smysl. Tímto postupem má každý zautomatizovaný krok procesu jednoznačné ROI a projekt se v podstatě sám financuje. Když něco nefunguje, řešíte jen danou část, ne celý proces. A lidé v byznysu mají prostor si postupně zvykat na spolupráci s AI, což velmi napomáhá snižovat jejich obavy z automatizace.

Jak v praxi probíhá výběr vhodných procesů pro automatizaci?

Většina organizací řeší výběr procesů tak, že IT sepíše seznam kandidátů vhodných k automatizaci (z jejich technického pohledu) a předloží ho byznysu ke schválení. My to obracíme. Byznys uživatelé v Pointee vidí, jak proces reálně vypadá, status každého případu, kde to drhne apod. Identifikace příležitostí k automatizaci vychází z toho, co byznys vidí jako největší omezení. Pointee agent je pak provede definicí jejich očekávání a byznys cílů, proces sám navrhne a zprioritizuje ho do pipeline pro vývojáře. Ti pak v podstatě už jen napojí ty správné technologie a je hotovo.

Výsledkem je automatizace, která naplňuje očekávání byznysu a do produkce se dostává násobně rychleji díky významné redukci nutné komunikace mezi byznysem a vývojáři (klasicky 40–60 % času implementace padá na analýzy a ujasňování).

Jak se v posledních letech změnila spolehlivost automatizace pomocí AI?

Spolehlivost už je dnes vysoká, ale pouze když na to máte správné nástroje. LLM je samo o sobě nedeterministické. Tzn. stejný vstup může pokaždé vrátit jinou odpověď, a to někdy v rozsahu, který je v produkci nepřijatelný. Co se ale změnilo, je to, jak umíme tu nedeterministickou povahu obalit. Spolehlivost nezajistíme tím, že vybereme „spolehlivý model“, ale tím, že kolem něj postavíme spolehlivý systém. Firmy můžou AI v produkci důvěřovat, pokud mají platformu, která tohle řeší.

AI je dnes obrovské téma, ale zároveň kolem ní panuje mnoho nerealistických očekávání. Kde podle vás dává AI automatizace největší smysl – a kde naopak vhodná není?

Tohle je téma, kde se dělá nejvíc chyb. AI je dnes trend a firmy ji nasazují i tam, kde se při dané škále vůbec nevyplatí. Zjednodušeně by se dalo použít pravidlo: AI tam, kde dnes pracuje člověk a používá úsudek. Deterministická automatizace tam, kde se pracuje s tabulkami.

AI dává smysl na místech, kde klasická automatizace selhávala na variabilitě, např. k extrakci dat z e-mailů, zpracování dokumentů různých formátů atp. Nebo tam, kde se rozhoduje na základě kontextu z více zdrojů. Tedy úkolů jako je klasifikace dat, prioritizace nebo doporučení další akce.

Naopak nedává velký smysl použít AI automatizaci tam, kde už existuje deterministické řešení. AI je drahá tam, kde stačí kalkulačka. Tedy úlohy jako jsou účetní zápis, validace formátu nebo výpočet podle vzorce. Použití LLM v tomto případě bývá zbytečně drahé, pomalejší a méně spolehlivé.

U procesů s nulovou tolerancí chyby a vysokou regulací má AI místo jako asistent člověka, ale ne autonomní rozhodovatel.

V reálném procesu ale obvykle máte mnoho kroků a na každý z nich se může hodit jiná  technologie: na jeden extrakce dat pomocí LLM, na druhý práce s externím systémem přes API a třetí může dělat člověk. Opravdová síla není v samotné AI automatizaci, ale ve schopnosti všechny tyhle technologie orchestrovat pod jednou střechou.

Jaké problémy nejčastěji přicházejí ve chvíli, kdy firma začne automatizaci škálovat napříč organizací?

Na tomhle většina ambiciózních programů reálně padá. Jeden z problémů bývá governance. Stav, kdy nikdo neví, jací agenti kde běží, kolik co vlastně stojí nebo co přesně agent udělal a proč, je ve větších organizacích nepřijatelný. Hrozí, že vznikne něco jako „shadow AI“, což je horší než „shadow IT“, protože agenti aktivně rozhodují. Problémy bývají často i s cenou. Viděli jsme firmy, kterým agent v noci spálil několikanásobek měsíčního rozpočtu, protože se někde zacyklil. Klesající kvalita je dalším častým problémem. Model, který před půl rokem fungoval s 95 % přesností, dnes funguje na 82 % a nikdo si toho nevšiml. Dalším problémem bývá chybějící vrstva pro observabilitu. Bez detailního vhledu do běhu vašich AI agentů téměř nemáte šanci včas zjistit, když něco přestane fungovat a co k tomu vedlo.

Přesně proto jsme vyvinuli Guardian Agents, jejichž pomocí automatizujeme velkou většinu činností v AI operations. Představit si to můžete jako vašeho virtuálního kolegu, který nonstop hlídá, zda nedochází k poklesům kvality, výkonu nebo skokově nerostou náklady. Neustále předvídá potenciální problémy a dokáže i aktivně zasáhnout, když je to třeba. Pokud nemáte velký tým dedikovaný na hlídání agentů v produkci, tak bez podobného nástroje AI automatizace ve firmě škálovat prakticky nejde.

ROI bývá u automatizace klíčové téma. Jak by firmy měly realisticky vyhodnocovat návratnost investic do AI a automatizace?

Obvykle doporučujeme měřit ROI pro konkrétní úlohy. Tedy kolik stojí jedno zpracování ručně vs. kolik automatizovaně (včetně provozu a dohledu) a jaký je objem. Důležité je také měřit kvalitu: tedy SLA, míru chybovosti, rework rate apod. Automatizace, která se zdá levná, ale generuje práci navíc v jiném týmu, je ve skutečnosti drahá. Dobré je také měřit time-to-value. Návratnost do šesti měsíců je úspěch. Osmnáct měsíců už může znamenat nesprávně vybraný use case nebo vážné problémy v implementaci.

Pro partnery právě tady vidím největší příležitost. Vyhodnocování ROI a kontinuální vylepšování procesů jsou dlouhodobé služby, po kterých u zákazníků vidíme velkou poptávku.

Evropská unie zavedla AI Act a další regulace budou přibývat. Co dnes podle vás firmy nejvíce podceňují při zavádění AI a automatizace z pohledu compliance a legislativy?

Jedna věc je klasifikace. Firmy nasadí systém, který spadá do high-risk kategorie (cokoli ovlivňující rozhodování o lidech), aniž by si to uvědomily, a pak zjistí, že musí zpětně doložit risk management, dokumentaci a logy, které nemají. Druhá je auditovatelnost. AI Act i sektorové regulace vyžadují zpětně rekonstruovat, proč AI rozhodla, jak rozhodla. U agenta, který volá tři nástroje a má mnoho různých cest, to bez strukturovaného audit trailu nedoložíte. Doložit musíte umět i z jakého modelu rozhodnutí vyšlo, jaký byl prompt a kontext atd. Bez správně nastaveného logování to později nedohledáte. Compliance musíte zajistit dřív, než s automatizací vůbec začnete. Platformy jako je Pointee toto mohou snadno vyřešit za vás. Pro partnery to pak znamená, že u enterprise dealů nemusí vést půlroční diskusi s compliance a bezpečnostním týmem, což významně urychluje celý proces.

Pro koho je Pointee zajímavé jako partnerská příležitost?

Svou síť partnerů aktuálně rozšiřujeme o firmy, které chtějí svým klientům dodávat AI automatizaci jako službu. Partneři na naší platformě vytvářejí a spravují automatizace pro své klienty. Ti zároveň získávají nástroj, díky kterému vidí, co se v jejich procesech děje a jak by je šlo dále zefektivnit. To pak přináší další příležitosti pro partnera. Více informací najdete na https://www.pointee.com/ nebo se nám ozvěte přímo na sales@pointee.com.