AWS nabízí nové nástroje pro tvorbu aplikací s využitím generativní AI
Amazon Bedrock: Snadné sestavení generativní AI aplikace
Amazon Bedrock je nová služba pro budování a škálování generativních AI aplikací. Do této kategorie patří aplikace, které dokáží generovat text, obrázky, zvuk nebo syntetická data jako reakci na uživatelskou výzvu. Vývojáři mohou použít službu Bedrock k vylepšení svého softwaru pomocí systému umělé inteligence, který dokáže generovat text. Bedrock poskytne přístup k nejmodernějším jazykovým modelům od Anthropic a AI21, dvou startupů vyvíjejících jazykové modely. AWS také nabídne přístup ke službě Stable Diffusion, což je model umělé inteligence pro generování obrázků od startupu Stability AI, který vyvíjí řadu open source generativních modelů umělé inteligence. AWS má k dispozici dva generativní jazykové modely. Titan Text generuje texty na základě výzvy, zatímco Text Embeddings generuje matematickou reprezentaci textu, kterou lze použít pro úkoly jako vyhledávání či překlad.
Služba Bedrock umožní uživatelům používat své modely bez rizika úniku jejich informací, které do modelu zadávají, do širšího fondu dat používaných k tréninku tohoto druhu aplikací. Jde o elegantní řešení jednoho z klíčových problémů, které firmy mají při vytváření svých vlastních produktů na poli generativního AI. Především firmy pracující s citlivými klientskými informacemi, jako jsou společnosti poskytující finanční služby nebo poskytovatelé zdravotní péče, se obávají o bezpečnost svých dat. Při interakci uživatelů s modelem je někdy možné, že citlivé finanční informace jako jsou finanční zprávy nebo obchodní plány proniknou do školících dat modelu a budou sdíleny s dalšími zákazníky. Služba Bedrock toto riziko odstranila a umožňuje tak firmám dále se rozvíjet.
Čipy AWS Inferentia 2: Snížení nákladů na provoz generativního AI
Rozsáhlé modely pro strojové učení vyžadují pro svůj provoz masivní výpočetní výkon. Čipy AWS Inferentia nabízí vysokou energetickou účinnost a nízké provozní náklady pro chod procesů souvisejících s generativním AI, jako jsou spouštění modelů a odpovídání na dotazy ve výrobě.
Rychlejší trénování modelů
Modely generativní umělé inteligence je třeba trénovat, aby nabízely správnou odpověď, obrázek, náhled či jiné zaměření, které daný model řeší. Nové instance založené na vlastních čipech AWS Trainium nabízí masivní síťové možnosti, které jsou klíčové pro rychlé a nákladově efektivní trénování těchto modelů. S čipy Trainium budou vývojáři schopni provádět trénink modelů rychleji a s nižšími náklady, což v konečném důsledku povede k většímu počtu služeb poháněných pomocí generativních AI modelů.
Bezplatný přístup ke službě Amazon CodeWhisperer
Služba Amazon CodeWhisperer je společník pro kódování využívající umělou inteligenci pro rychlejší a jednodušší psaní kódu, které může využít každý softwarový vývojář. Služba využívá generativní AI a díky tomu uživatelům poskytuje návrhy kódu v reálném čase na základě komentářů uživatele a jeho předchozího kódu. Nezávislí vývojáři mají přístup ke službě Amazon CodeWhisperer zdarma, bez jakýchkoliv omezení využití (placené úrovně jsou k dispozici také pro profesionální použití s funkcemi, jako je přidané zabezpečení na podnikové úrovni a možnosti správy).
