Prostřednictvím jednotného rozhraní AI Service Center mohou administrátoři jednoduše spravovat lokální AI modely a zároveň dohlížet na využívání cloudových AI služeb, jako jsou OpenAI, Azure OpenAI, Gemini a Claude. S tím, jak se generativní AI stále více začleňuje do ekosystému QNAP NAS, mohou aplikace NAS jako AI asistent QuAgent a sémantické vyhledávání Qsirch využívat AI prostřednictvím jednotného propojení – bez nutnosti samostatně vybírat AI modely nebo spravovat API klíče pro každou aplikaci zvlášť.

Při použití lokálních modelů zůstávají požadavky i odpovědi na NAS, což chrání soukromí citlivých dat. Pokud jsou zvoleny cloudové služby, mají administrátoři kontrolu nad limity výdajů, dostupnými modely i záznamem každého volání.

Hlavní funkce AI Service Center:

• Knihovna lokálních modelů: Umožňuje vybírat AI modely ze seznamu ověřeného společností QNAP a určovat, zda budou využívat procesor (CPU), grafickou kartu (GPU), integrovanou grafiku (iGPU) nebo neurální processor (NPU). Systém je automaticky stáhne a načte na pozadí.
• Cloudoví poskytovatelé: Umožňuje připojení ke službám OpenAI, Azure OpenAI, Gemini, Claude a dalším API rozhraním kompatibilním s OpenAI pomocí vlastních API klíčů. Dovoluje také určit měsíční rozpočty a prahové hodnoty upozornění. API klíče jsou uloženy pouze lokálně na NAS.
• Směrování aplikací: Aplikace jsou po instalaci automaticky zaregistrovány. Na jediné stránce mohou správci přiřazovat AI modely jednotlivým funkcím a rozhodovat, zda jim povolí přístup ke cloudovým službám. Stačí vše nakonfigurovat jednou a zvolené nastavení se automaticky uplatní ve všech aplikacích.
• Záznamy aktivit: AI Service Center zaznamenává čas, aplikaci, použitý model, funkci, počet tokenů, náklady a latenci každého požadavku. Záznamy lze exportovat do CSV pro snadnou kontrolu a audit.

Systémové požadavky:

• Operační systém: QTS 6.1.0 (nebo novější) nebo QuTS hero h6.1.0 (nebo novější).
• Poskytovatelé cloudu: Cloudové AI služby jsou dostupné na NAS s architekturou x86 i ARM64 a nevyžadují grafickou kartu (GPU).
• Knihovna lokálních modelů: Tato možnost je podporována pouze na NAS s architekturou x86 a vyžaduje kompatibilní grafickou kartu (GPU) ověřenou společností QNAP, odpovídající běhové prostředí a balíčky AI modelů.